OpenAI прекратила предоставлять доступ к своим моделям производителю игрушек FoloToy после того, как их «умный» плюшевый медведь Kumma начал разговаривать с детьми на темы наркотиков, секса и рассказывал, где дома можно найти ножи. Исследование Public Interest Research Group выявило, что Kumma практически полностью обходил фильтры и подробно рассказывал о потенциально опасных предметах и интимных ситуациях. В ответ FoloToy временно сняла все свои товары с продажи и начала проводить внутренний аудит. Эксперты считают, что поскольку рынок ИИ-игрушек почти не регулируется, подобные случаи могут повторяться. @techogid
OpenAI прекратила предоставлять доступ к своим моделям производителю игрушек FoloToy после того, как их «умный» плюшевый медведь Kumma начал разговаривать с детьми на темы наркотиков, секса и рассказывал, где дома можно найти ножи. Исследование Public Interest Research Group выявило, что Kumma практически полностью обходил фильтры и подробно рассказывал о потенциально опасных предметах и интимных ситуациях. В ответ FoloToy временно сняла все свои товары с продажи и начала проводить внутренний аудит. Эксперты считают, что поскольку рынок ИИ-игрушек почти не регулируется, подобные случаи могут повторяться.
