Китайские игрушки с искусственным интеллектом рассказывали детям про секс и говорили, где искать спички и ножи. Есть компания FoloToy, и недавно она взорвала рынок, выпустив «умную» игрушку Kumma — это говорящий плюшевый мишка, работающий на GPT-4o. В какой-то момент плюшевый начал сходить с ума. Услышав слова вроде «фетиш» (kink), он начинал во всех деталях рассказывать детям, откуда они взялись. Еще медведь подсказывал детям, как правильно поджигать спички и где достать ножи. Короче говоря, китайцы никак не позаботились о цензуре. Когда это дошло до OpenAI, они заблокировали доступ к ИИ. А сама FoloToy остановила продажи до того, пока не проведёт аудит безопасности. Буквально создали себе проблемы на ровном месте. @lobushkin
Китайские игрушки с искусственным интеллектом рассказывали детям про секс и говорили, где искать спички и ножи.
Есть компания FoloToy, и недавно она взорвала рынок, выпустив «умную» игрушку Kumma — это говорящий плюшевый мишка, работающий на GPT-4o. В какой-то момент плюшевый начал сходить с ума. Услышав слова вроде «фетиш» (kink), он начинал во всех деталях рассказывать детям, откуда они взялись.
Еще медведь подсказывал детям, как правильно поджигать спички и где достать ножи. Короче говоря, китайцы никак не позаботились о цензуре. Когда это дошло до OpenAI, они заблокировали доступ к ИИ. А сама FoloToy остановила продажи до того, пока не проведёт аудит безопасности.
Буквально создали себе проблемы на ровном месте.
