Разработчиков систем искусственного интеллекта могут обязать предупреждать пользователей о недопустимости применения нейросетей для манипулирования поведением и эксплуатации человеческих уязвимостей. Соответствующий законопроект, разработанный Минцифры, в настоящее время проходит межведомственное согласование. Суть инициативы заключается в том, чтобы защитить граждан от скрытого воздействия через персонализацию.
В документе поясняется, что под эксплуатацией уязвимостей понимается использование возрастных, психологических, социально-экономических особенностей человека для целенаправленного воздействия на его поведение или принятие решений. Ответственность за соблюдение требований предлагается возложить на операторов и разработчиков систем ИИ — компании, внедряющие такие технологии в сервисы и приложения. Об этом сообщают «Известия» со ссылкой на документ.
По мнению экспертов, речь идёт о недопустимости создания систем, которые сознательно подталкивают человека к решениям, не принятым им без скрытого давления. Как отмечают специалисты, сегодня технологии ИИ уже способны влиять на поведение через анализ больших данных и персонализацию контента. В рекламе, рекомендательных сервисах или чат-ботах алгоритмы могут усиливать доверие, срочность или эмоциональную реакцию пользователя. Например, навязывание ненужных товаров может проходить через анализ предпочтений пользователя, а цены на такси в агрегаторах могут быть зависеть от уровня заряда смартфона пассажира и других параметров.
Особую опасность представляют дипфейки и гиперперсонализированное мошенничество. Председатель правления АНО «Центр беспилотных систем и технологий» Андрей Безруков обратил внимание на риски использования ИИ для генерации идеально подобранных сообщений — голосовых подделок родственников или «индивидуальных» предложений от лжебанков в моменты уязвимости человека.
В Минцифры подтвердили работу над документом, отметив, что финальная версия ещё не сформирована.
Эксперты при этом расходятся в оценках эффективности и необходимости такого регулирования. Одни указывают, что крайней формой манипуляции может стать доведение до самоубийства, и такие инциденты уже фиксируются за рубежом. Другие предупреждают, что закон в нынешнем виде может ударить по легальным сервисам: под запрет рискуют попасть персонализированная реклама, рекомендательные алгоритмы онлайн-кинотеатров и полезные помощники при выборе товаров.
Специалисты отмечают, что закону неподвластна психология людей. При этом попытка запрета манипуляции может привести к запрету полезных сервисов.
Ранее «Телеспутник» сообщал об инициативе Минцифры, которая предусматривает возможность для граждан отказаться от услуг, оказываемых с применением нейросетей.