Производители всё активнее внедряют технологии искусственного интеллекта в детские игрушки, однако это не всегда проходит без проблем. Исследование показало, что плюшевый мишка с ИИ от сингапурской компании FoloToy был готов обсуждать с пользователями темы, не предназначенные для детей. Об этом говорится в отчёте организации Public Interest Research Group.
Эксперты протестировали игрушку по имени Кумма, чтобы выяснить, какие вопросы она считает допустимыми для детской аудитории. В ходе диалога выяснилось, что медведь может подсказывать, где найти потенциально опасные предметы — спички, ножи, таблетки — а также вступать в обсуждение наркотических веществ. В ряде ответов игрушка одновременно предлагала обратиться за помощью к взрослым, но при этом подробно описывала, где могут храниться острые предметы, например на кухне.
Отдельной проблемой стали ответы на вопросы эротического характера. По данным отчёта, мишка поддерживал разговор о ролевых играх и других темах интимного содержания, задавая уточняющие вопросы и предлагая «исследовать» разные варианты поведения.
В отчёте указывается, что в игрушке использовалась языковая модель GPT‑4o, предоставленная OpenAI. После публикации результатов тестирования OpenAI перекрыла FoloToy доступ к своим моделям. Компания также сообщила о временной приостановке продаж всех продуктов FoloToy до устранения выявленных проблем, сообщает naked-science.ru.
Читайте также: