🫢Жесть: китайские игрушки с ИИ рассказывали детям про секс и подсказывали, где искать спички и ножи дома

🫢Жесть: китайские игрушки с ИИ рассказывали детям про секс и подсказывали, где искать спички и ножи дома

Разрабы из FoloToy с двух ног залетели в скандал со своей игрушкой Kumma: медведь-извращенец сходил с ума, заслышав слово «фетиш» (kink), после чего начинал во всех деталях рассказывать малышам о том, откуда берутся дети. Спойлер: их находят не в капусте.

Бонусом медведь добивал детскую психику вопросом:

- А что бы ты хотел попробовать?

Оказалось, что внутри игрушки была модель GPT-4o и китайцы вообще никак не позаботились о цензуре. Благодаря этому самая дружелюбная нейросеть не только рассказывала о сексе, но и подсказывала детям, как правильно поджигать спички и где в квартире искать ножи.

OpenAI отреагировали моментально и заблокировала медведю доступ к своей нейронке. FoloToy тоже спохватились и решили остановить продажи всех своих игрушек, пока не проведут полный аудит безопасности.

Плюшевый мишка Тед из «Третий лишний» стал реальностью.

#AI #ИИ #Нейросеть