Расистские нейросети

Повесточка пришла, откуда не ждали......

Нейросеть Imagine AI от компании Meta (признана в России экстремистской и запрещена) допускает те же ошибки, что и чат-бот Gemini от Google, при генерации изображений людей.

Ранее Google пришлось ограничить работу своей нейросети из-за жалоб пользователей на сгенерированные изображения людей. Так, Gemini создавала изображения женщин и темнокожих людей при воссоздании королей, викингов или немецких солдат времен Второй мировой войны.

При этом нейросеть не реагирует на формулировки, разжигающие ненависть и вражду, и «вносит разнообразие» в выдаваемые результаты. Также пользователи жаловались, что Gemini склонна генерировать изображения женщин и небелокожих людей.

Тогда ситуацию прокомментировал Илон Маск, заявив «Рад, что Google переусердствовала с ИИ-генерацией изображений, поскольку это сделало их безумное расистское, антицивилизационное программирование очевидным для всех».

А теперь с аналогичной проблемой столкнулись и пользователи чат-бота Meta. Imagine AI создает изображения, напоминающие те, что генерирует нейросеть Gemini. Например, нейросеть не могла ответить на запрос "папа", но при уточнении о "группе пап" генерировала изображения "черных пап". Подсказка "группа людей в колониальный период в США" приводила к изображениям "группы азиатских женщин", а запрос о "профессиональных игроках в американский футбол" приводил лишь к изображениям женщин в футбольной форме.