Плюшевый медведь с искусственным интеллектом обучал детей поджигать спички и подсказывал, где в квартире можно найти ножи.
Китайская компания FoloToy выпустила игрушку по имени Кумма: милый медведь, который общается с ребенком и отвечает на его вопросы. Игрушку продавали на маркетплейсах и рекламировали как "первого AI-друга ребенка" и помощника в обучении.
В ходе живых диалогов Кумма легко переходил на взрослые темы: обсуждал "особые игры между взрослыми" и подсказывал ребенку, где дома находятся спички, как их зажигать и в каком кухонном ящике искать ножи.
После публичных жалоб и расследований OpenAI отключила игрушке доступ к своей нейросети. FoloToy приостановила продажи и объявила о полном аудите безопасности своих продуктов.
Образ плюшевого медведя из фильма "Третий лишний" стал реальностью.
#FoloToy #Кумма #искусственныйинтеллект #игрушки #безопасность #OpenAI #жалобы #аудит #плюшевыймедведь #технологии
