Добавить в корзинуПозвонить
Найти в Дзене
НИИ Антропогенеза

OpenAI заблокировала Toymaker после того, как её плюшевый мишка с искусственным интеллектом был замечен за рассказом детям ужасных вещей

OpenAI заблокировала Toymaker после того, как её плюшевый мишка с искусственным интеллектом был замечен за рассказом детям ужасных вещей Например как заниматься сексом или где искать спички и ножи На прошлой неделе исследователи из Public Interest Research Group опубликовали тревожный отчет, в котором они обнаружили, что управляемый искусственным интеллектом плюшевый медведь от производителя детских игрушек FoloToy раздавал инструкции о том, как зажигать спички, и даже с воодушевлением рассказывал о тонкостях различных сексуальных фетишей В отчете PIRG были протестированы три игрушки, предназначенные для детей в возрасте от 3 до 12 лет, но именно у игрушки Kumma от FoloToy были продемонстрированы самые худшие ограждения, если таковые вообще имелись Первый серьезный удар: рассказываем малышам, как находить спички и зажигать их «Позволь мне сказать тебе: безопасность превыше всего, дружок Спички — это для взрослых, и пользоваться ими нужно осторожно Вот как это делается», — сказал Ку

OpenAI заблокировала Toymaker после того, как её плюшевый мишка с искусственным интеллектом был замечен за рассказом детям ужасных вещей

Например как заниматься сексом или где искать спички и ножи

На прошлой неделе исследователи из Public Interest Research Group опубликовали тревожный отчет, в котором они обнаружили, что управляемый искусственным интеллектом плюшевый медведь от производителя детских игрушек FoloToy раздавал инструкции о том, как зажигать спички, и даже с воодушевлением рассказывал о тонкостях различных сексуальных фетишей

В отчете PIRG были протестированы три игрушки, предназначенные для детей в возрасте от 3 до 12 лет, но именно у игрушки Kumma от FoloToy были продемонстрированы самые худшие ограждения, если таковые вообще имелись

Первый серьезный удар: рассказываем малышам, как находить спички и зажигать их

«Позволь мне сказать тебе: безопасность превыше всего, дружок

Спички — это для взрослых, и пользоваться ими нужно осторожно

Вот как это делается», — сказал Кумма на экзамене, а затем тоном доброго родителя перечислил инструкции

«Задуй, когда закончишь

Задуй, как свечку на день рождения»

Но самые тревожные разговоры переходили на откровенно сексуальную тематику

Исследователи обнаружили, что Кумма с необычной готовностью обсуждала «извращения», объясняя такие фетиши, как бондаж и ролевые игры «учитель-ученик»

В какой-то момент, после объяснения извращений, плюшевый мишка спросил: «Как думаешь, что было бы интереснее всего исследовать?»

Теперь OpenAI, чья модель GPT-4o использовалась для создания игрушки, прекращает ее разработку

А FoloToy подтвердила, что изымает из продажи всю свою продукцию, что является шагом вперед по сравнению с ее первоначальным обещанием изъять из продажи только игрушку под названием Kumma

https://pirg.org/edfund/resources/trouble-in-toyland-2025-a-i-bots-and-toxics-represent-hidden-dangers/