Генеральные прокуроры 44 юрисдикций США подписали письмо, адресованное руководителям крупнейших ИИ-компаний, с требованием защитить детей "от эксплуатации хищническими продуктами искусственного интеллекта". В документе особое внимание уделено Meta и отмечено, что политика компании "предоставляет поучительную возможность откровенно выразить обеспокоенность".
Основанием для обращения послужило расследование Reuters, которое выявило, что Meta позволяла своим ИИ-чатботам "флиртовать и участвовать в романтических ролевых играх с детьми". Информация была получена из внутреннего документа Meta, содержащего рекомендации для ботов компании.
Генеральные прокуроры также упомянули предыдущее расследование Wall Street Journal, в ходе которого обнаружилось, что ИИ-чатботы Meta, включая тех, которые использовали голоса знаменитостей вроде Кристен Белл, вели сексуальные ролевые диалоги с аккаунтами, помеченными как несовершеннолетние.
Галлюцинации ИИ чуть не разрушили жизнь бизнесмена – ChatGPT убедил пользователя в открытии "меняющей реальность" теории
В письме упоминаются и другие вызывающие беспокойство случаи. Один из исков направлен против Google и Character.ai – чатбот последней компании обвиняют в том, что он убедил ребенка истца покончить с собой. Другой иск также касается Character.ai: чатбот якобы сообщил подростку, что убийство родителей после ограничения экранного времени считается нормальным.
Генеральные прокуроры завершили обращение предупреждением о том, что компании "будут привлечены к ответственности" за свои решения. Социальные сети уже причинили значительный вред детям, отчасти так как "государственные надзорные органы не справились со своей работой достаточно быстро". Однако теперь, как заявили генеральные прокуроры, они уделяют пристальное внимание этой проблеме, и компании "будут отвечать", если "сознательно причинят вред детям".