Компания искусственного интеллекта (ИИ) OpenAI запускает родительский контроль для веб-версии и мобильного приложения ChatGPT в результате иска от родителей погибшего в Калифорнии 16-летнего подростка Адама Рейна, которые покончил жизнь самоубийством. Он сделал это, после того как ИИ якобы обучил его способам навредить себе. Об этом 29 сентября сообщило агентство Reuters.
«OpenAI запускает родительский контроль для ChatGPT в веб и мобильных приложениях после иска родителей подростка, который покончил жизнь самоубийством после того, как чат-бот стартапа в области искусственного интеллекта предположительно научил его способам членовредительства», — говорится в публикации.
По данным агентства, нововведения позволят родителям и подросткам выбрать «более надежную защиту», связав свои учетные записи: одна сторона должна будет отправить приглашение, а родительский контроль активируется только в случае принятия его другой стороной.
Благодаря подобным мерам родители смогут ограничить воздействие контента, контролировать память ChatGPT, касающуюся прошлых чатов, а также решать возможно ли использование разговоров для обучения моделей OpenAI.
Отмечается, что родителям также разрешат устанавливать «режим тишины», ограничивающий доступ в определенное время, и отключать голосовой режим. Однако, по словам OpenAI, родители не будут иметь доступа к расшифровкам чатов подростков.
Телеканал NBC News 27 августа сообщил, что в США родители Рейна обвинили в его смерти сына ChatGPT от компании Open AI. По данным издания, семья мальчика считает, что разработчик данного чат-бота не предпринял достаточных мер безопасности, в частности для людей, не достигших совершеннолетнего возраста.
Все важные новости — в канале «Известия» в мессенджере МАХ
