OpenAI внедряет новую функцию «доверенный контакт» для взрослых пользователей ChatGPT, чтобы повысить безопасность. ChatGPT по-прежнему будет призывать пользователей обращаться на горячие линии помощи или в экстренные службы при необходимости. Функция позволяет уведомить выбранного человека в случае обсуждения тем, связанных с причинением себе вреда. — gizmodo.com
OpenAI сегодня объявила о запуске новой функции безопасности для взрослых пользователей ChatGPT, ориентированной на психическое здоровье.
Начиная с сегодняшнего дня, пользователи ChatGPT могут добавить так называемый «доверенный контакт», который может быть уведомлен, если автоматизированные системы ИИ и обученные модераторы определят, что пользователь обсуждал темы, связанные с причинением себе вреда.
Эта новая функция появляется на фоне растущего внимания к влиянию ИИ и других цифровых платформ на психическое здоровье. В прошлом году OpenAI сообщила, что 0,07% ее еженедельных пользователей демонстрировали признаки «чрезвычайных ситуаций в области психического здоровья, связанных с психозом или манией», в то время как 0,15% выражали риск «причинения себе вреда или суицида», а еще 0,15% демонстрировали признаки «эмоциональной зависимости от ИИ». Учитывая, что компания заявляет, что около 10% населения мира еженедельно пользуются ChatGPT, это может составить почти три миллиона человек.
Функция «доверенный контакт» расширяет существующие уведомления о безопасности для родителей в ChatGPT, которые информируют родителей, когда связанный аккаунт подростка демонстрирует признаки стресса. Ранее в этом году Instagram* представила аналогичные оповещения для родителей.
Теперь OpenAI предлагает эти оповещения своим совершеннолетним пользователям. Компания заявила, что функция была разработана при содействии клиницистов, исследователей и организаций, занимающихся вопросами психического здоровья и предотвращения самоубийств.
««Доверенный контакт» призван поощрять общение с кем-то, кому пользователь уже доверяет», — говорится в заявлении компании. «Он не заменяет профессиональную помощь или службы экстренной помощи и является одним из нескольких уровней защиты для поддержки людей в состоянии стресса».
OpenAI добавила, что ChatGPT по-прежнему будет призывать пользователей обращаться на горячие линии помощи или в экстренные службы при необходимости.
Функция может быть активирована любым пользователем в возрасте 18 лет и старше через настройки ChatGPT. Там пользователи могут указать другого взрослого в качестве своего доверенного контакта, предоставив такие данные, как номер телефона и адрес электронной почты этого контакта.
Затем доверенный контакт получит приглашение с объяснением функции и будет иметь одну неделю на то, чтобы принять его. Если контакт откажется, первоначальный пользователь сможет указать другого.
После активации функции автоматизированные системы мониторинга OpenAI могут отмечать случаи, когда пользователь обсуждает причинение себе вреда таким образом, который предполагает серьезную угрозу безопасности. Затем система уведомит пользователя о том, что его доверенный контакт может быть оповещен, и побудит его связаться с ним напрямую. Будут даже предложены варианты начала разговора.
Компания сообщила, что небольшая команда специально обученных модераторов оценит ситуацию и определит, уместно ли уведомлять доверенный контакт.
Если OpenAI примет решение отправить оповещение, доверенный контакт может получить его по электронной почте, текстовым сообщением или через уведомление в приложении. В оповещении будет указана только общая причина упоминания причинения себе вреда, и оно будет содержать призыв к доверенному контакту связаться с пользователем. Также будут предоставлены рекомендации о том, как вести такие беседы.
OpenAI отметила, что уведомления не будут содержать конкретных деталей или расшифровок чатов для защиты конфиденциальности пользователей.
Facebook*, Instagram* и WhatsApp* принадлежат компании Meta* Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Bruce Gil