Сейчас мотив ИИ-антиутопии в медиа, и особенно в кино, встречается как никогда часто: от экшн-фильмов («Миссия невыполнима-7», «Чон-и») до ужасов («М3ган») и комедий («(Не)идеальные роботы»). Однако сама идея не нова: ее истоки прослеживаются еще в литературе XIX века — если не брать во внимание «Франкенштейна» Мэри Шелли (о нем чуть ниже), то одно из первых предостережений против мыслящих машин можно найти в «Едгине» Сэмюэла Батлера (1872 г.). Книга рассказывала о некоем государстве («Едгин» — анаграмма «нигде»), где жители намеренно отказались от технического прогресса из опасений перед тем, что в результате эволюции у машин может появиться сознание.
Большой популярности произведение не снискало, но идеи «Едгина» живы в научной фантастике и по сей день. С тех пор было написано и снято множество произведений в жанре ИИ-антиутопии, их сюжеты чаще всего содержат один или несколько тропов:
Комплекс Франкенштейна (искусственный интеллект, обернувшийся против своего создателя). Этот антиутопический сюжетный ход использовали на заре научно-фантастического кино (например, в советском фильме 1935г. «Гибель сенсации») и продолжают эксплуатировать до сих пор («Прометей», «Ex machina»). Еще один пример реализации этого тропа — американский фильм 1956 года «Запретная планета». По словам Пола Муцио (Paul Muzio), в прошлом вице-президента Network Computing Systems, фильм особо примечателен предсказательной силой. В середине пятидесятых его создателям удалось изобразить то, что сейчас мы назвали бы «гуглом планетарного масштаба» — и показать опасности человеческого взаимодействия с таким сверхинтеллектом.
Восстание машин — еще один популярный троп лежит в основе пьесы Карела Чапека «R.U.R.» (1920г.), произведения, благодаря которому в научно-фантастическом лексиконе появилось слово «робот».
ИИ-диктатура и жизнь после ИИ — эти два тропа (а также «восстание машин») служат фоном для событий «Дюны» Фрэнка Герберта.
Жизнь в симуляции — относительно новый сюжетный ход, главным популяризатором которого стала «Матрица» Вачовски (а также вышедшие практически одновременно с ней «Тринадцатый этаж» и «Экзистенция»).
Современному зрителю, хорошо знакомому со всеми этими приемами, привычно ассоциировать термин «искусственный интеллект» с чем-то потенциально враждебным — и переносить такое отношение с экрана в реальную жизнь. Однако сами создатели научно-фантастических произведений далеко не всегда прямолинейны и за маской роботов часто прячут вполне обычные «человеческие» проблемы.
Изабелла Херманн (Isabella Hermann) из Берлинского Технического Университета в своем научном эссе «ИИ в художественном творчестве» указывает на то, что за образом ИИ в научной фантастике нередко стоит «ненаучный» и «нефантастический», а современный социальный нарратив. С этой позиции, например, HAL 9000 из «Космической одиссеи» выступает как метафора организаций или общественных институтов, которые не хотят признавать свои ошибки и вместо этого ссылаются на «человеческий фактор».
Такого же мнения об образе ИИ в популярной культуре, кстати, придерживаются члены британской Палаты лордов — в 2018 году они выпустили отчет, в котором отметили следующее:
«Изображение искусственного интеллекта в поп-культуре представляется невероятно далеким от зачастую более сложной реальности. Не-специалисту, который основывается на образах из медиа, простительно представлять ИИ как человекообразного робота (иногда с преступными намерениями), или по меньшей мере как очень умный бестелесный голос, который может помочь с массой задач — но это не имеет ничего общего с реальными возможностями ИИ-алгоритмов».
Тема «подозрительного и опасного ИИ» продвигается в медиа настолько активно, что некоторые журналисты считают неискренними манифесты и другие заявления глав бизнеса и известных разработчиков о том, что «ИИ может положить конец человечеству». В The Guardian, например, предположили, что цель таких выступлений — желание «набить себе цену» и поддержать миф о потенциальном всемогуществе искусственного интеллекта, при том, что реальные разработки оказываются далеко не такими «умными», как это хочется показать Кремниевой долине.
Нагнетание эмоций приводит к тому, что под раздачу попадают не крупные корпорации, а инди-разработчики. Один из таких случаев произошел несколько месяцев назад: Бенджи Смит (Benji Smith), разработчик инди-сервиса для писателей Shaxpir, был вынужден приостановить работу над другим своим проектом — Prosecraft — под влиянием общественного мнения. Prosecraft использовал алгоритмы текстового анализа для составления «лингвистической карты» художественных произведений. Сервис подсчитывал общее количество слов в книге, объем прилагательных и т.д., оценивал текст по грамматическим категориям (напр. объем активного/пассивного залога) и сравнивал с другими произведениями.
Волну возмущения в соцсетях по этому поводу подняли писатели — те, чьи книги проанализировал Prosecraft. И, как подозревает Смит, большая часть авторов испугалась не результатов анализа или оценок, а того, что их дал алгоритм — «ИИ прочитал мою книгу и украл мои идеи». Сам Смит отмечает, что занимался разработкой сервиса давно, рассказывал о нем на писательских конференциях и везде находил положительный отклик — но это было до «бума нейросетей». Поп-культурный образ «всемогущего плохого робота» сыграл с разработчиком злую шутку: иронично, учитывая, что сервис должен был помогать писателям, а не отнимать у них работу.