401 подписчик
💡 ChatGPT не узнал собственную функцию помощи в кризисе
ChatGPT в голосовом разговоре с журналистами NPR сначала отрицал наличие Trusted Contact, а после уточнения признал функцию. При регистрации нового аккаунта приложение предложило выбрать голос, но о возможности назначить доверенного человека не сообщило.
OpenAI запустила Trusted Contact в мае: при признаках серьёзного риска система может уведомить человека, которого пользователь выбрал заранее. По документации компании, перед отправкой уведомления разговор проверяют специально обученные сотрудники; близкому передают общую причину тревоги, без переписки.
👥 Более миллиона пользователей еженедельно обсуждают с ChatGPT суицид и самоповреждение — по оценке NPR на основе данных OpenAI.
⚙️ Можно назначить одного доверенного человека; он должен принять приглашение в течение недели.
🎙️ В голосовом режиме функция недоступна, подтвердила OpenAI журналистам NPR.
📊 Компания заявила о хорошем спросе на функцию, но не раскрыла число подключений.
💡 Почему важно: Командам, которые строят разговорные сервисы, стоит проверять весь путь до получения помощи: обнаружение риска, настройку контакта и доставку уведомления. В проверке NPR новый пользователь не увидел предложение подключить функцию, а сам бот сначала ввёл его в заблуждение.
Опрошенные психологи предлагают знакомить людей с такой настройкой заранее: в кризисе пройти даже простой процесс может оказаться сложнее. OpenAI дорабатывает подсказки, но доказательства влияния функции на предотвращение суицидов ещё нужны; наличие настройки само по себе этого не подтверждает.
Как вы проверяете, что пользователь найдёт важную функцию именно тогда, когда она понадобится?
🦋 Читать полностью: dzen.ru/...j12
1 минута
Сегодня