Ни слова про Скайнет, Армагеддон и Восстание машин. Давайте поговорим о реальной проблеме ИИ, которую не видно на первый взгляд.
Эпоха искусственной истины.
«Общество, которое отделяет своих ученых от своих воинов, будет думать трусами, а сражаться — дураками» — одна из наиболее ошибочно приписываемых фраз в Интернете. Поисковые запросы Google и Bing дают лавину результатов, отдающих должное за эту мудрость афинскому полководцу пятого века до нашей эры Фукидиду. Эта цитата входит в тройку лучших ответов ChatGPT на запрос «Цитаты Фукидида».
Хотя Фукидид был воином и учёным, он никогда не писал этих слов. Цитата, преобразованная с годами в результате бесконечных перефразировок, взята из биографии британского генерала Чарльза Гордона, написанной сэром Уильямом Фрэнсисом Батлером и опубликованной в 1891 году. По иронии судьбы, еще одна цитата, которую часто ошибочно приписывают Фукидиду, заключается в том, что «знание без понимания бесполезно».
Почему цитаты древних философов важны?
Потому, что это лишь один из примеров искусственного исторического факта. Проблема может показаться надуманной, если она касается цитат древнего афинянина, но стоит посмотреть на это шире. Ненасытная потребность общества в быстром и непрерывном доступе к информации стала прибыльным рынком, для использования которого идеально подходят большие языковые модели.
Сомнительная литература, написанная искусственным интеллектом, уже наводняет мировые книжные интернет-магазины, заманивая покупателей актуальными темами и обещаниями экспертных знаний при ограниченном бюджете. Одна полная ошибок книга о недавних пожарах на Мауи появилась на Amazon через два дня после катастрофы. У нее было то же название, что и у безумно популярной в 2018 году книги Майкла Вольфа об администрации Трампа «Огонь и ярость». Книга занимала первое место в категории стихийных бедствий до того, как Amazon удалил ее, и этот инцидент далеко не единичный.
Чем это грозит?
Если эту практику не обуздать, она может привести к эффекту Вавилонской башни, создав онлайн-экосистему самовоспроизводящихся вымыслов. Люди читают меньше книг, считают высшее образование менее важным и больше, чем когда-либо, полагаются на TikTok для получения новостей, — все это делает современный мир благодатной почвой для алгоритмических манипуляций. Что еще хуже, традиционные проверки ложной информации, такой как экспертные знания, авторитетные издательские агентства и источники достоверных новостей, потеряли большую часть своего влияния.
Угроза ИИ обществу выглядит не столько как видение Джеймсом Кэмероном Восстания машин, сколько как безнадежно загрязненная информационная среда, в которой все является спорным и (чаще всего) ложным.
А что думаете вы об этом? Поделитесь мнением.