Ведущие технологические компании объединили свои усилия для борьбы с обманчивым использованием искусственного интеллекта (ИИ) на предстоящих глобальных выборах. Объявленное на Мюнхенской конференции по безопасности «Технологическое соглашение по борьбе с обманчивым использованием ИИ на выборах 2024 года». Договор предусматривает объединение усилий 20 крупнейших игроков, включая компании Adobe, Google, Microsoft, OpenAI, Snap и Meta*. Компании обязуются внедрить передовые технологии для выявления и противодействия вредоносному контенту, который был создан с помощью ИИ и предназначен для введения избирателей в заблуждение.
Соглашение содержит следующие восемь конкретных обязательств:
- Разработка и внедрение технологий для снижения рисков, связанных с обманчивым предвыборным контентом ИИ, включая инструменты с открытым исходным кодом, где это необходимо.
- Оценка моделей, подпадающих под действие данного соглашения, для понимания рисков, которые они могут представлять в отношении обманчивого ИИ-контента на выборах.
- Стремиться к обнаружению распространения такого контента на своих платформах.
- Стремление надлежащим образом бороться с таким контентом, обнаруженным на их платформах.
- Повышение межотраслевой устойчивости к обманчивому контенту ИИ на выборах.
- Обеспечение прозрачности для общественности в отношении того, как компания решает эту проблему.
- Продолжение взаимодействия с различными глобальными организациями гражданского общества и научными кругами.
- Поддержка усилий по повышению осведомленности общественности, медиаграмотности и устойчивости всего общества.
Сфера действия этих обязательств распространяется на созданные ИИ аудио-, видео- и изображения, которые изменяют внешность, голос или действия политических кандидатов и других ключевых фигур, а также распространяют ложную информацию о логистике голосования.
«Поскольку в 2024 году выборы проходят по всему миру, нам необходимо инвестировать в кампании по повышению медиаграмотности, чтобы люди знали, что нельзя доверять всему, что они видят и слышат в сети. Ведь прозрачность укрепляет доверие», - сказала главный юрисконсульт и директор по вопросам доверия компании Adobe Дана Рао
В то время как растущие разработки в области ИИ часто привлекают внимание к его сияющим элементам. На начало 2024 года появились глубокие подделки, созданный контент различными технологиями, который убедительно манипулирует визуальными и звуковыми эффектами. Контент стал серьезной угрозой, требующей коллективных усилий для защиты выборного процесса в стране.
Старший вице-президент по глобальной государственной политике и главный юрисконсульт Amazon Дэвид Запольски подчеркнул приверженность компании делу защиты демократии. Запольски считает, что это соглашение является важной частью коллективной работы по продвижению мер защиты от обманных действий и защите честности выборов.
В начале 2024 года многие жители Нью-Гэмпшира получили обманчивые робозвонки от президента Джо Байдена с просьбой не отдавать свой голос на президентских праймериз и голосовать непосредственно на всеобщих выборах в ноябре 2024 года.
В начале февраля 2024 года компания X была вынуждена пойти на радикальные меры и заблокировать поиск по запросу Тейлор Свифт после того, как несколько пользователей завалили платформу порнографическими фейковыми изображениями певицы. Поскольку инструменты ИИ стали как никогда доступны широкой публике, это лишь вопрос времени, когда глубокие подделки заполонят интернет.
В обширном блоге вице-председатель и президент Microsoft Брэд Смит рассказал о многогранном подходе к решению проблем связанных с фальсификациями на выборах 2024 года. Смит выделил три важнейшие составляющие обязательств по соглашению. Во-первых, соглашение призвано затруднить использование недобросовестными субъектами законных инструментов для создания фальшивок путем укрепления архитектуры безопасности в сервисах ИИ, оценки рисков и внедрения средств контроля для предотвращения злоупотреблений. Кроме того, включение функций проверки достоверности контента, таких как метаданные и водяные знаки, позволяет отличить подлинный контент от подделок. Второй компонент включает в себя коллективные действия по обнаружению фальсификаций на выборах и реагированию на них. Брэд подчеркнул стремление Microsoft использовать свою лабораторию AI for Good Lab и Центр анализа угроз для расширения возможностей обнаружения и рассказал о новой веб-странице, которая позволит политическим кандидатам по всему миру сообщать о проблемах с фальшивками, способствуя глобальному реагированию. В последнем компоненте особое внимание уделяется прозрачности и повышению устойчивости общества. По словам Смита, компания Microsoft будет публиковать ежегодный отчет о прозрачности, сотрудничать с глобальными организациями гражданского общества и учеными, а также поддерживать другие кампании по повышению осведомленности общественности, чтобы дать людям инструменты для выявления обманчивого контента ИИ на выборах. Хотя соглашение представляет собой значительный шаг в правильном направлении, Смит признал, что в одиночку оно не может решить сложную проблему, заявив, что защита честности выборов и общественного доверия - это общая ответственность и общее благо, которое выходит за рамки партийных интересов и национальных границ.
* - Компания Meta (социальные сети Instagram и Facebook) - признана экстремистской организацией на территории Российской Федерации.