Искусственный интеллект в настоящее время является доминирующим источником дезинформации, основанной на изображениях, в Интернете, определила команда исследователей Google в недавней статье. Хотя результаты еще не прошли экспертную оценку, они столь же увлекательны, сколь и тревожны, и затрагивают суть одной из самых острых проблем в продолжающейся гонке искусственного интеллекта в Кремниевой долине.
"Распространенность и вред онлайн-дезинформации являются постоянной проблемой для интернет-платформ, институтов и общества в целом", - говорится в документе. "Появление генеративных инструментов на основе искусственного интеллекта, которые предоставляют широко доступные методы синтеза реалистичного звука, изображений, видео и текста, похожего на человеческий, усилило эти опасения".
Исследование, впервые опубликованное бывшим гуглером Алексиосом Манцарлисом и отмеченное в информационном бюллетене как Подделка, сосредоточено на дезинформации, основанной на средствах массовой информации, или неверной информации, распространяемой с помощью визуальных средств, таких как изображения и видео. Чтобы сузить сферу исследования, исследование было сосредоточено на СМИ, которые были проверены сервисом ClaimReview, в итоге было изучено в общей сложности 135 838 материалов онлайн-СМИ с тегами проверки фактов.
Как пишут исследователи в статье, искусственный интеллект эффективен для быстрого и легкого создания реалистичного синтетического контента в "масштабах, ранее невозможных без огромного количества ручного труда". Согласно выводам исследователей, доступность инструментов искусственного интеллекта привела к росту, подобному росту хоккейных клюшек, в онлайн-МЕДИА, созданных с помощью искусственного интеллекта, с 2023 года. Между тем, популярность других видов манипулирования контентом снизилась, хотя "рост" МЕДИА с искусственным интеллектом "не привел к увеличению общей доли" заявлений о дезинформации, основанных на изображениях.
Читая между строк, эти результаты позволяют предположить, что искусственный интеллект стал любимым средством распространения дезинформации.
Согласно исследованию, контент, созданный искусственным интеллектом, в настоящее время составляет примерно 80 процентов визуальной дезинформации. Более того, как 404 Media, это, вероятно, заниженный показатель. Сеть огромна, а сервисы проверки фактов, такие как ClaimReview, несовершенны и часто требуют согласия пользователей. В этом недавнем исследовании также не рассматривались СМИ, которые включали частичное использование искусственного интеллекта, примером чего может служить рекламная кампания, созданная командой, стоящей за недолговечной президентской кампанией губернатора Флориды и нормального парня Рона Десантиса, которая включала поддельные изображения, сгенерированные искусственным интеллектом, на которых бывший президент Дональд Трамп целуется с Энтони Фаучи.
"Возможности проверки фактов не совсем эластичны, и мы не можем предполагать, что они обязательно будут масштабироваться в соответствии с общим объемом дезинформации, - сказал 404 Ник Дюфур из Google, ведущий автор статьи, - и что при выборе того, что проверять, нет эффекта новизны / значимости".
Сами по себе эти выводы поразительны. Однако то, что они исходят в основном от самих исследователей Google, добавляет дополнительный уровень значимости.
Google - один из крупнейших игроков в непрекращающейся гонке искусственного интеллекта в Кремниевой долине, и он активно работает над созданием моделей искусственного интеллекта, генерирующих тексты и изображения. (Компания даже пытается внедрить искусственный интеллект в свой основной продукт, поиск, хотя эти усилия не увенчались успехом.)
В то же время дезинформация, полученная с помощью искусственного интеллекта, распространяется по всему Интернету, искажая результаты поиска Google и, в целом, делая открытую Сеть еще более сложной для навигации.
Короче говоря, что касается искусственного интеллекта, Google находится между большим количеством камней и труднодоступным местом. А учитывая, что подавляющая доля рынка компании фактически превращает ее в феодального правителя Интернета, этот запутанный тупик затрагивает всех, кто пытается найти качественную информацию в Интернете.
Это правда, что большинством инструментов, включая обычные средства редактирования мультимедиа и создания фотографий, такие как Photoshop, можно злоупотреблять во вред. Но, как подчеркивают исследователи, важны простота и масштабируемость. Генеративные инструменты искусственного интеллекта заменили индивидуальный процесс создания массовым производством на уровне Shein, и растущее количество исследований показывает, что это представляет реальную проблему для Google и других менеджеров Интернета.
Как всегда, не верьте всему, что вы читаете или видите в Интернете. Мир СМИ уже расколот, и грань между реальностью и фейком продолжает стираться. Как написал Манцарлис в Faked Up: "Картинка стоит 1000 лжи".