Фермы контента низкого качества, созданные ИИ, предназначенные для получения прибыли от программной рекламы, появляются с угрожающей скоростью. И, к сожалению, согласно новому отчету компании по отслеживанию дезинформации NewsGuard, их бизнес-модель работает.
Согласно отчету, более 141 "голубых фишек" — или всемирно признанных — брендов неосознанно поддерживают сотни ферм контента с минимальными затратами ИИ.
Хотя NewsGuard не называет эти предприятия "голубых фишек" поименно, в нем отмечается, что в список входят, среди прочих, "полдюжины крупных банков и фирм, оказывающих финансовые услуги", "две крупнейшие в мире компании по производству потребительских технологий" и "цифровая платформа Силиконовой долины".
"Похоже, что программная реклама является основным источником дохода для этих веб-сайтов, созданных ИИ", - сказал MIT Technology Review аналитик NewsGuard Лоренцо Арванитис. "Мы определили сотни компаний из списка Fortune 500 и хорошо известных брендов, которые размещают рекламу на этих сайтах и которые невольно поддерживают ее".
Другими словами: разрушение удобства использования Интернета продолжается, и у тех, кто стоит за этим разрушением, растет финансовый стимул продолжать.
Есть несколько факторов, которые делают эти выводы столь тревожными. Первый заключается в том, что распространение инструментов ИИ, ориентированных на потребителя, невероятно упрощает запуск подобного сайта и наполнение его огромным количеством контента.
Программы с ИИ, такие как ChatGPT от OpenAI, позволяют легко генерировать текст в невероятных масштабах, особенно для людей, которые на самом деле не заботятся о качестве.
И масштабы этих операций ошеломляют. В отчете NewsGuard отмечается, что эти веб-сайты, как правило, генерируют сотни статей в день. Одна ферма контента с искусственным интеллектом, на которую мы недавно наткнулись — которая была заметно переполнена фальшивыми цитатами и дезинформацией, — аналогичным образом выпускала статьи с пугающей скоростью.
Существует также тот факт, что реклама хорошо зарекомендовавших себя компаний может служить легитимизации и сокрытию мрачных реалий этих низкокачественных и потенциально распространяющих дезинформацию веб-сайтов.
Однако, возможно, наиболее опасным является центральная роль, которую Google — и более широкий рынок цифровой рекламы — играет в реализации бизнес-модели искусственного интеллекта для рассылки спама.
По данным NewsGuard, более 90 процентов объявлений, которые он обнаружил на этих сайтах, были показаны Google Ads.
Рекламное подразделение Google является доминирующей силой на рынке цифровой рекламы, и то, что платформа или ее пользователи уже показывают рекламу на этих фермах контента с искусственным интеллектом, не сулит ничего хорошего ни платформе, ни ее пользователям.
"У нас есть строгие правила, которые определяют тип контента, который может монетизироваться на нашей платформе", - сказал Майкл Ациман, менеджер по коммуникациям Google, в заявлении MIT Tech Review, отметив, что создание контента, созданного искусственным интеллектом, не является прямым нарушением. "Например, мы не разрешаем показ рекламы наряду с вредоносным контентом, спамом или контентом низкой ценности, а также контентом, который был скопирован исключительно с других сайтов. Применяя эти политики, мы фокусируемся на качестве контента, а не на том, как он был создан, и мы блокируем или удаляем показ рекламы, если обнаруживаем нарушения ".
"Мы также признаем, что злоумышленники всегда меняют свой подход и могут использовать технологии, такие как генеративный ИИ, чтобы обойти нашу политику и системы принуждения", - добавил Ачимен.
Тем не менее, учитывая отчеты NewsGuards, становится ясно, что Google еще предстоит проделать большую работу по обеспечению соблюдения своих правил в отношении рекламы, особенно когда речь идет о "спамерском или малоценном контенте".
"Выводы NewsGuard проливают свет на тревожные взаимоотношения между Google, компаниями, занимающимися рекламными технологиями, и появление нового поколения сайтов дезинформации, маскирующихся под новостные сайты, и ферм контента, ставших возможными благодаря ИИ", - сказал Джек Брюстер, корпоративный редактор NewsGuard, в MIT Tech Review. "Непрозрачный характер программной рекламы непреднамеренно превратил крупные бренды в невольных сторонников, не подозревающих, что их рекламные доллары косвенно финансируют эти ненадежные сайты, созданные ИИ".
Что касается полезности Интернета, то это довольно отрезвляющая новая реальность. Мошенники нашли новые эффективные способы использовать программную рекламу и генеративный ИИ, чтобы без особых усилий заработать немного денег.
Это парадоксальная игра в кошки-мышки, в которой технологические компании, такие как Google, продолжают продвигать инструменты искусственного интеллекта, в то время как те же самые инструменты используются против их финансовых интересов.