На этой неделе издание Los Angeles Times запустило новый инструмент на базе искусственного интеллекта под названием Insights. Этот инструмент должен был изменить подход к представлению различных точек зрения в СМИ, но уже через день после запуска проект вызвал серьёзный скандал.
В частности, ИИ предложил смягчённую точку зрения на Ку-клукс-клан (ККК), одну из самых известных и одиозных расистских организаций в истории США.
Что такое Insights?
Insights — это функция, созданная совместно с приложением для новостных сводок Particle и компанией Perplexity AI. Она призвана анализировать текст статьи, предлагать краткие сводки по ней и предоставляет альтернативные точки зрения на ту же тему. Кроме того, инструмент оценивает «политическую позицию» материала, определяя, является ли он правым, левым или центристским.
Владелец LA Times, миллиардер Патрик Сунсюн, объяснил читателям, что цель этого инструмента — помочь людям увидеть разные точки зрения и лучше понимать сложные вопросы современности. По его словам, это должно было укрепить доверие к журналистике и чётче разделить факты от мнений.
Однако почти сразу после запуска ИИ стало ясно, что система далека от совершенства.
Как ИИ защищал ККК
25 февраля колумнист LA Times Густаво Ареллано опубликовал статью о роли Ку-клукс-клана в политике города Анахайм (Калифорния) в 1920-х годах. Insights автоматически сгенерировал альтернативное мнение, которое вызвало у читателей шок.
ИИ заявил, что местные исторические источники иногда представляют Клан 1920-х годов как продукт «белой протестантской культуры», реагирующий на общественные изменения, а не как движение, явно движимое ненавистью. Ещё одна генерация добавила: «критики утверждают, что акцент на прошлом влиянии Клана отвлекает внимание от современной идентичности Анахайма как многонационального города».
Эти высказывания были удалены из статьи вскоре после того, как их заметил журналист The New York Times Райан Мак, который опубликовал скриншот с проблемным контентом.
Сам же автор, Густаво Ареллано, прокомментировал ситуацию в соцсети X (ранее Twitter). Он отметил, что ИИ формально не ошибся в своей интерпретации данных, но полностью упустил контекст.
«Люди из округа Ориндж [где находится Анахайм] веками пытались минимизировать роль ККК, представляя их как "не такими уж плохими"», — написал он.
По его словам, именно это и стало причиной, почему ИИ сгенерировал такую упрощенную версию событий.
Реакция и критика
Скандал вызвал широкий резонанс в США. Мэтт Хэмилтон, заместитель председателя профсоюза журналистов LA Times Guild, заявил, что подход с использованием непроверенных ИИ-анализов может только усугубить недоверие к медиа.
«Мы поддерживаем усилия по повышению медиаграмотности и чёткому разделению новостей и мнений. Но этот инструмент, созданный без участия редакции, вряд ли поможет укрепить доверие. Напротив, он рискует ещё больше подорвать уверенность в нашей журналистике», — сказал Хэмилтон.
В профсоюзе также отметили, что средства, потраченные на разработку Insights, могли бы быть направлены на поддержку журналистов, которым не повышали зарплаты с 2021 года.
Проблемы внутри LA Times
Запуск Insights стал лишь одной из многих проблем, с которыми столкнулась редакция. В последние месяцы компания переживает череду сокращений и увольнений на фоне падения числа подписчиков и сложной ситуации в медиаиндустрии.
Осенью прошлого года решение не поддерживать ни одного кандидата на президентских выборах (принятое лично Сунсюном) вызвало волну недовольства среди сотрудников и читателей. Это привело к оттоку подписчиков и даже увольнению части команды.
Итог
Новый ИИ-инструмент LA Times был задуман как способ улучшить восприятие читателями различных точек зрения. Однако его первый крупный провал показал, что технологии пока не готовы заменить человеческий анализ и понимание контекста.
Вопрос остаётся открытым: сможет ли LA Times доработать Insights или эта попытка станет ещё одним примером того, как использование ИИ в журналистике может навредить вместо того, чтобы помочь?
Ещё по теме: