В четверг в комиссии Совета федерации по информационной политике и взаимодействию со СМИ прошел круглый стол, посвященный злоупотреблениям с использованием искусственного интеллекта и возможностям противодействия этому. Сенаторы констатировали, что нейросети несут угрозу не только кошелькам рядовых граждан, находясь на вооружении финансовых мошенников, но и национальной безопасности, ведь их разработкой занимаются противники России.
Открывая мероприятие, глава комиссии Алексей Пушков сразу сообщил, что развитие искусственного интеллекта (ИИ) несет риски с точки зрения мошенничества и вовлечения граждан в противоправную деятельность, в том числе террористическую. Кроме того, поскольку ИИ не «самопознающая субстанция», то он зависит от создателя и воспроизводит «повесточку», которую в него закладывают, подчеркнул сенатор. В пример он привел чат-бот Gemini, который назвал ошибку в определении пола 74-летнего трансгендера Кейтлин Дженнер более опасной для человечества, чем ядерная война. «Потому что ядерная война — это некая абстракция, а это — то, о чем постоянно говорят, толкуют в СМИ. То есть ИИ реагирует на общественный запрос», — объяснил господин Пушков.
Член Совета по правам человека при президенте Игорь Ашманов развил эту мысль, рассказав, что обучением искусственного интеллекта «правильным идеологическим штампам» занимаются десятки тысяч специальных сотрудников. Из-за дороговизны генеративный ИИ в России в основном заимствованный, и это является «огромной проблемой», подчеркнул эксперт: «Это штука, влияющая на сознание, которая должна отвечать за фейки. А кто должен отвечать? Разработчик, который туда это все засунул или который не санировал систему».
Первый заместитель главы комитета Совета федерации по конституционному законодательству и государственному строительству Ирина Рукавишникова привела примеры использования ИИ, которые уже приводили к «катастрофическим последствиям».
В частности, госпожа Рукавишникова напомнила дело гидролога Александра Цветкова, которого около года держали под арестом по делу об убийствах 20-летней давности: ИИ посчитал, что его лицо на 55% совпадает с фотороботом преступника, который был составлен в 2003 году.
- Другой пример — история из США, где учитель использовал нейросети, чтобы скомпрометировать директора и добиться его увольнения. «Фейки и дезинформация могут быть использованы не только в отношении конкретного человека, но и против государства», — предупредила сенатор, добавив, что самое опасное, когда такой контент направлен против несовершеннолетних и на искажение исторической правды.
Член того же комитета Артем Швейкин заявил, что первым делом для противодействия злоупотреблениям технологией искусственного интеллекта нужно просвещать население, а также проводить мониторинг социальных сетей. Кроме того, сенатор рассказал о разработке законопроекта, который установит необходимость получения согласия на синтезирование контента на основе голоса конкретного гражданина.
Алексей Пушков в связи с этим напомнил, что для противодействия злоупотреблениям необязательно прибегать к принятию принципиально новых законов — достаточно настроить действующие. Это касается, в частности, вопросов вовлечения в террористическую длительность и телефонного мошенничества, особенно с учетом того, что ИИ уже используют на Украине, подчеркнул сенатор.
Наконец, глава комиссии коснулся «темы ценностей, которую ИИ все более активно воспроизводит». «Ценностный разрыв (России с Западом.— “Ъ”) огромен. Когда мы говорим, что мерзавцы из Facebook (принадлежит Meta, признанной экстремистской организацией и запрещенной в РФ.— “Ъ”) или YouTube ссылаются на правила сообщества, которые нельзя нарушать, — на тему расовой повестки, гендерной повестки и так далее… Эта ценностная повестка, которая воспроизводится западными моделями ИИ, она поддерживается большинством западного общества, — заявил господин Пушков.— Мы боремся не с YouTube, и не с Google, да и не с Цукербергом (Марк Цукерберг, глава Meta, признанной экстремистской организацией и запрещенной в РФ.— “Ъ”). Это просто верхушка айсберга, а за ними — миллионы людей, которых убедили, что это правильно: человек имеет право на это, а родители не имеют права запретить десятилетнему делать операцию по смене пола». И люди вот с такими ценностями «приходят разрабатывать ИИ», подытожил Алексей Пушков