После недавних случаев, когда люди свели счёты с жизнью под влиянием разговоров с ИИ, глава OpenAI Сэм Альтман и его команда выпустили официальное заявление. В нём они пообещали разработать меры, чтобы предотвратить подобные инциденты в будущем.
Среди прочего в документе есть и такой важный момент: компания прямо заявляет, что в критических ситуациях, угрожающих жизни или безопасности людей, она может передавать логи диалогов полиции.
Когда мы обнаруживаем пользователей, которые планируют нанести вред другим, мы направляем их разговоры в специализированные каналы, где их проверяет небольшая команда, обученная нашим политикам использования и уполномоченная принимать меры, в частности блокировать учетные записи.
Если эксперты определят, что дело связано с непосредственной угрозой серьезного физического вреда другим, мы можем передать его в правоохранительные органы.
Напомню, что в США 16-летний Адам Рейн отправился в Небесную канцелярию добровольно. Но предварительно он несколько недель обсуждал варианты отправки с ChatGPT.
Родители подростка подали в суд на OpenAI. В В иске сказано, что ChatGPT «активно помогал Адаму изучать способы сам***ва», а также предложил помощь в составлении последней записки.
«Он был бы здесь, если бы не ChatGPT. Я убежден в этом на 100%», — сказал отец Адама, Мэтью Рейн.