1365 подписчиков
Китай начал регулировать отношения людей с ИИ
Пока многие обсуждают новые возможности искусственного интеллекта, Китай уже начал регулировать его влияние на людей.
С 15 июля в стране вступили в силу первые правила для сервисов, которые выступают в роли виртуальных друзей, партнеров и ИИ-компаньонов.
1. Особое внимание подросткам и пожилым
Новые требования в первую очередь направлены на защиту тех, кто наиболее уязвим к эмоциональной привязанности.
Для несовершеннолетних запрещены сервисы, создающие «виртуальные близкие отношения». А пользователи младше 14 лет смогут пользоваться такими ИИ только с согласия родителей.
Для пожилых людей разработчики обязаны сделать предупреждения о рисках более заметными и быстрее реагировать на просьбы о помощи.
2. ИИ должен напоминать, что он не человек
Теперь сервис обязан постоянно сообщать пользователю, что перед ним искусственный интеллект, а не живой собеседник.
Если человек общается с ИИ слишком долго, система должна напомнить о времени разговора. А если замечает признаки сильной эмоциональной зависимости, обязана вмешаться и напомнить, что общение происходит с программой.
3. В критической ситуации подключат человека
Если ИИ обнаружит признаки суицидальных мыслей, самоповреждения или другого опасного поведения, он должен попытаться успокоить пользователя, предложить профессиональную помощь, а в некоторых случаях даже подключить живого специалиста или уведомить экстренный контакт.
Как вы считаете, нужны ли такие ограничения для ИИ-компаньонов, или это уже лишнее вмешательство государства?
1 минута
22 июля