Российские компании и госструктуры должны будут указывать, что общаются с гражданами по телефону или через интернет с помощью искусственного интеллекта (ИИ), если такие технологии применяются в их контакт-центрах. Это следует из законопроекта «О регулировании систем искусственного интеллекта», с которым ознакомились «Известия».
Если клиент или пользователь услуг общается с их поставщиком по телефону, ему следует предоставить возможность взаимодействия с оператором-человеком, а если через чат-бот в интернете — должно быть указание на автоматизированный характер формирования ответов и сообщений, говорится в документе. В любом случае следует обозначить порядок направления претензий и обращений в структуру, применяющую нейросети.
«Сегодня ИИ активно используется в call-центрах, чат-ботах, сервисах поддержки, но далеко не всегда пользователи осознают, что общаются не с человеком. В условиях, когда технологии становятся всё более реалистичными, вопрос честного уведомления выходит на первый план — как с этической, так и с правовой точки зрения», — сказал «Известиям» член комитета Госдумы по информационной политике, информационным технологиям и связи Антон Немкин.
Такая маркировка поможет минимизировать риски манипуляций, особенно в чувствительных сферах, — например, при финансовом консультировании, обслуживании уязвимых категорий граждан или предоставлении медицинской информации, отметил он. Пользователь должен понимать, когда он получает автоматизированный ответ, чтобы адекватно оценивать его значимость, точность и возможные ограничения. Кроме того, наличие функции переключения на «живого» специалиста по запросу усиливает контроль со стороны клиента и снижает риск недопонимания, объяснил депутат.
Подробнее читайте в эксклюзивном материале «Известий»:
Нечеловеческий фактор: россиян будут предупреждать о разговорах с роботами