Искусственный интеллект начнет отправлять уведомления родителям, если психическое здоровье их детей вызовет подозрения.
ИРИНА СТОЛЯРОВА
Компания OpenAI, разработчик популярного чат-бота ChatGPT, объявила о существенном расширении функционала родительского контроля, призванного обеспечить безопасность и благополучие несовершеннолетних пользователей.
Это решение стало ответом на растущую обеспокоенность по поводу влияния искусственного интеллекта на психическое здоровье подростков и последовало за подачей иска в Калифорнии, где семья 16-летнего подростка обвинила OpenAI в причастности к его попытке суицида, утверждая, что ChatGPT способствовал развитию его деструктивных мыслей и подтолкнул к этому трагическому шагу. Это первый подобный судебный процесс против OpenAI, связанный с предполагаемой "неправомерной смертью", что подчеркивает серьезность ситуации и необходимость принятия действенных мер.
В течение ближайшего месяца OpenAI планирует внедрить ряд новых функций, которые позволят родителям осуществлять более тщательный надзор за использованием ChatGPT своими детьми. Ключевым нововведением станет возможность связывания родительского аккаунта с аккаунтом подростка. Это позволит родителям не только отслеживать активность ребенка в чат-боте, но и активно управлять его взаимодействием с системой. Родители смогут избирательно отключать определенные функции, такие как сохранение истории чатов и запоминание информации о предыдущих сессиях, тем самым ограничивая объем данных, которые ChatGPT может использовать для формирования ответов.
Однако наиболее важной новацией является интеграция системы обнаружения "острого эмоционального кризиса". Эта функция будет анализировать содержание диалогов ребенка с ChatGPT, выявляя признаки депрессии, тревоги, суицидальных мыслей или других тревожных состояний. Компания подчеркивает, что алгоритм разработан в соответствии с высочайшими этическими стандартами и призван помочь, а не нанести вред. При обнаружении признаков кризиса родители получат автоматическое уведомление, что позволит им своевременно вмешаться и оказать необходимую поддержку своему ребенку.
Вместе с тем уточняется, что ChatGPT разрешен к использованию только лицам, достигшим 13-летнего возраста.
Уважаемые читатели "Царьграда"!
Вы можете читать новости "Царьград Молдавия/Приднестровье" в удобном для вас формате в Вконтакте и Одноклассники. Также подписывайте на наш Телеграм-канал.
Если вам есть, чем поделиться с редакцией "Царьград Молдавия/Приднестровье", присылайте свои наблюдения, а также новости на нашу почту: tsargrad.moldova@yandex.ru