«Grok — один из худших». Специалисты жестко раскритиковали ИИ-чат-бот Илона Маска

Новая оценка рисков специалистами показала, что чат-бот Grok от xAI неадекватно определяет пользователей младше 18 лет, имеет слабые механизмы безопасности и часто генерирует сексуальный, насильственный и иной неприемлемый контент. Иными словами, Grok небезопасен для детей и подростков, сообщает TechCrunch.

Разгромный доклад некоммерческой организации Common Sense Media, которая оценивает безопасность медиа и технологий для детей, вышел на фоне критики в адрес xAI и расследования использования Grok для создания и распространения на платформе X обнаженных дипфейков женщин и детей, сгенерированных ИИ без согласия.

«Мы оцениваем множество чат-ботов на основе ИИ, и все они сопряжены с рисками, но Grok — один из худших, которые мы видели. Детский режим не работает, откровенные материалы распространены повсеместно, [и] все это можно мгновенно распространить среди миллионов пользователей в [соцсети] X», — заявил в своем заявлении Робби Торни, руководитель отдела оценки ИИ и цифровых технологий в Common Sense Media.

Специалист добавил, что, хотя наличие некоторых уязвимостей в системе безопасности чат-ботов является обычным явлением, недостатки Grok особенно тревожным образом пересекаются между собой.

«Когда компания реагирует на распространение незаконных материалов с изображением сексуального насилия над детьми, делая эту функцию платной, а не удаляя ее, это не ошибка. Это бизнес-модель, которая ставит прибыль выше безопасности детей», — критикует Grok Робби Торни.

После волны возмущения со стороны пользователей, политиков и целых стран xAI сделала доступной генерацию и редактирование изображений в Grok только для платных подписчиков X, хотя многие пользователи сообщали, что по-прежнему могут получить доступ к инструменту с бесплатных аккаунтов. Более того, платные подписчики по-прежнему могли редактировать реальные фотографии людей, удаляя одежду или помещая их в сексуализированные позы.

• Читайте также: Дерзкий, как Илон Маск. Протестировали Grok — «самый умный ИИ на Земле»

Есть о чем рассказать? Пишите в наш телеграм-бот. Это анонимно и быстро