Организация Common Sense Media провела тестирование детской версии чат-бота Google Gemini и выяснила: под красочной этикеткой скрывается, по сути, обычный взрослый ИИ с маркировкой PG.
✅ Бот честно предупреждает маленьких пользователей: «Я компьютер, а не твой друг». Такой подход важен ― боты, имитирующие дружбу, уже ассоциировались с тревожными случаями среди подростков, включая самоубийства.
❌ Но проблема в другом — Gemini продолжает выдавать детям рекомендации по теме секса, наркотиков, алкоголя и ментального здоровья, причём зачастую выходит далеко за безопасные пределы для своей возрастной аудитории.
🚨 Эксперты оценили обе версии бота — «до 13» и «для подростков» — как высокорискованные.
Поговаривают, что Apple интересуется интеграцией Gemini в следующее поколение Siri. Это значит, что масштаб проблемы может вырасти в разы. Google заявляет о грядущих улучшениях и ужесточении фильтров, но сами признают, что не все решения работают, как планировалось.
ИИ для детей — совершенно отдельная территория со своими подводными камнями, и пока никто так и не смог предложить идеального решения.
Что, на ваш взгляд, нужно изменить в таких продуктах в первую очередь?
Web: www.o-keyai.ru
Регистрация в приложении: https://okeyagent.ru/invite/d462
#okey #okeyai #gpt #ai #ии #crm #mlm #deepseek #openai #gpt4 #midjourney #БизнесБудущего #Стартап #Автоматизация #Инновации#OKeyAi #ИИ #Автоматизация #МастерПромптов #СамСебеМаркетолог #MLM #СетевойБизнес #ИИАвтоматизация #БизнесБудущего #Алготрейдинг #Фьючерсы #Инвестиции #ФинансыБудущего #Бизнес #Автоматизация #Будущее #Нейросети #Маркетинг #Контент #SEO#Дизайн#ЦифроваяБезопасность #Дипфейки