Минцифры РФ разрабатывает законодательные нормы, которые обяжут разработчиков предупреждать граждан о недопустимости использования нейросетей для воздействия на поведение и эксплуатации человеческих слабостей
Как сообщает газета «Известия» со ссылкой на законопроект Минцифры, инициатива устанавливает прямой запрет для онлайн-сервисов на манипулирование людьми с помощью искусственного интеллекта. В частности, под запрет подпадает побуждение к покупке ненужных товаров на основе анализа цифровой активности пользователя.
Документ, который в настоящее время проходит межведомственное согласование, трактует эксплуатацию уязвимостей как использование возрастных, психологических и иных особенностей человека для целенаправленного воздействия на его решения или несанкционированного доступа к данным. При этом в пресс-службе Минцифры подчеркнули, что финальной версии законопроекта пока не существует, и говорить о конкретных инициативах преждевременно.
В тексте не уточняется, какие именно действия будут считаться нарушением, каким категориям пользователей адресованы предупреждения и какое наказание грозит за несоблюдение требований.
Как полагают эксперты, изменения в законодательстве действительно представляются актуальными, поскольку современные ИИ-технологии и в самом деле системы ИИ могут анализировать психологические и поведенческие особенности пользователей сети. По их словам, злоумышленники или недобросовестные компании могут применять ИИ в целях персонализированного воздействия на людей, так как в их распоряжении будут данные о человеке, и они получат возможность генерировать индивидуально подобранные сообщения. Это могут быть дипфейки голосов родственников, специальные предложения от фейкового банка и не только.
Ранее стало известно, сколько россиян выступает против ИИ-технологий.