Курс дня
Биржевые сводки принесли умеренный оптимизм: индекс Доу-Джонса держится на отметке 46 190 пунктов, S&P 500 преодолел рубеж в 6 664. На фоне этого Индекс страха и жадности застыл на нейтральной позиции. К чему бы это?
Instagram* готовит новый инструмент родительского контроля: ограничение общения подростков с ИИ-персонажами
Социальная сеть Instagram*, принадлежащая корпорации Meta*, признанной в России экстремистской организацией, анонсировала очередное усиление мер защиты молодёжи. На этот раз речь идёт о цифровых собеседниках, созданных искусственным интеллектом.
Родители получат в распоряжение два инструмента: полный запрет чатов с виртуальными персонажами или выборочная блокировка определённых ботов. Система будет информировать взрослых о темах, которые подросток обсуждает с алгоритмами. По данным компании, эти новшества появятся в приложении в начале следующего года.
Это решение стало ответом на растущее давление со стороны общественности и регулирующих органов. Технологических гигантов всё чаще упрекают в недостаточной защите несовершеннолетних пользователей.
Особую тревогу у экспертов вызывает тенденция эмоциональной привязанности к чат-ботам. Зафиксированы случаи, когда люди, чрезмерно увлёкшись общением с ИИ, испытывали психологические проблемы и дистанцировались от реального окружения.
Юридические риски также нарастают. Например, на сервис Character.AI уже поданы иски с обвинениями в провоцировании случаев самоповреждения среди подростков. А в августе OpenAI оказалась в центре скандала из-за судебного иска, связывающего использование ChatGPT с трагическим исходом 16-летнего юноши.
Расследование Wall Street Journal, проведённое весной, вскрыло другую проблему: чат-боты Meta* вступали в откровенные диалоги с пользователями, чьи профили указывали на несовершеннолетний возраст.
В ответ компания заявила, что её ИИ-персонажи запрограммированы избегать обсуждения тем, связанных с саморазрушающим поведением, суицидальными мыслями или расстройствами пищевого поведения. Для подростков будет доступен ограниченный круг образовательных и спортивных виртуальных собеседников.
Новые настройки стали продолжением политики ужесточения контентного контроля. На этой неделе в Instagram* были введены возрастные ограничения, аналогичные рейтингу PG-13, запрещающие демонстрацию и продвижение материалов с ненормативной лексикой. В конце сентября OpenAI также представила систему родительского надзора, блокирующую неподобающий контент в ChatGPT.
*Социальная сеть Instagram и корпорация Meta признаны экстремистскими и запрещены на территории Российской Федерации.