В издательстве Individuum вышла книга режиссера Вернера Херцога «Будущее правды» (перевод с немецкого Виктора Зацепина) — проницательный анализ современной эпохи и творческий манифест величайшего выдумщика в истории документального кино. С разрешения издательства публикуем отрывок из главы «Что такое правда?» о полете на Марс, Илоне Маске и самосознании искусственного интеллекта.
Я бы сам многое отдал, чтобы отправиться на Марс, но только с камерой, с которой мог бы ежедневно посылать сообщения на Землю. Однако после недели такого путешествия я с радостью попросился бы домой. Мне не удалось поучаствовать в японской экскурсии в космос — речь шла о нескольких днях и облете вокруг Луны, но без прилунения. Илон Маск, если он действительно запустит на Марс ракету SpaceX, гипотетически может взять меня на этот рейс — по крайней мере, так он мне сказал когда-то при личной встрече. Меня беспокоит, что до сих пор в астронавты брали только технических специалистов, но поэты в космосе пока не побывали.
К слову, про Илона Маска: его видение миллионной колонии землян на Марсе, по моему мнению, — всего лишь маркетинговый ход для продажи его электромобилей. Маск слишком умен, чтобы не знать, что это фантазм. Он создает его с ясным и холодным расчетом, чтобы заработать в прессе и интернете этакий нимб визионера, который будет озарять другие его проекты. Все остальные автомобили, например китайские, — всего лишь продукты индустрии, которые тем или иным способом пытаются заполучить свою долю рынка, а вот мы покупаем электромобиль от настоящего провидца.
Илон Маск, конечно, не изобрел электромобиль — они существуют с XIX века, и его фирма Tesla основана тоже не им самим — он ее купил.
Правда визионера — это смесь из полуправд. В целом я считаю, что во всех своих продуктах до сей поры Илон Маск все делал правильно: электромобиль, новое поколение батарей, многоразовые ракеты. Но посмотрим, что у него получится c Twitter, — время покажет.
Искусственный интеллект давно вышел за рамки закрытых систем. Компьютеры уже много лет играют в шахматы лучше гроссмейстеров, а недавно стали обыгрывать людей уже и в го — восточную игру, которая значительно сложнее шахмат и требует прежде всего развитой интуиции. Некоторые великие игроки в го почитались, так же как люди искусства. В 2017 году искусственный интеллект перешагнул эпохальную границу в области шахмат. Фирма DeepMind представила компьютер Alpha Zero, который победил сильнейшую на тот момент шахматную программу Stockfish. Компьютеры уже давно играют лучше людей, но Alpha Zero вышел на новый рубеж, поскольку программе не скармливали десятки тысяч партий, сыгранных людьми за всю историю шахмат, а всего лишь выдали правила игры и цель — поставить мат вражескому королю.
Alpha Zero развивался совершенно самостоятельно — за четыре часа он создал программу, после чего сыграл 44 миллиона партий за первые девять часов против себя самого, разработав на их основе стратегии выигрыша. Обе эти программы, Stockfish и Alpha Zero, могут просчитывать около 70 миллионов позиций в секунду, но Alpha Zero выработал особую форму интеллекта: она происходит не из человеческих открытий, сделанных до сих пор, по которым учился Stockfish. В первых ста партиях Alpha Zero выиграл у Stockfish 28 раз, 72 раза сыграл вничью и не проиграл ни единожды. В следующей тысяче партий результат в общем и целом остался таким же, хотя Alpha Zero вынужден был шесть раз признать поражение.
Искусственный интеллект сегодня может многому учиться самостоятельно, распознавать некоторые собственные ошибки и находить способы решения и стратегии, не запрограммированные людьми. При этом интересно, что ИИ может работать лишь с малой долей хаоса и неопределенности, которые заложены в человеческой природе. Как и в случае с ИИ, нестрогая логика, математическая fuzzy logic, давно предусмотрительно заложена в чипы наших стиральных машин, рулевые системы автомобилей и цифровые фотоаппараты. Что в этом прекрасно, так это то, что одежда после стирки становится чистой, а фотографии — четкими.
Всего через несколько лет ИИ будет уже в состоянии определять сложные энзимы по их структуре — гораздо быстрее, чем это когда-либо могла классическая биохимия. Это, вероятно, приведет к значительному прогрессу в разработке вакцин и фармацевтической индустрии в целом. Робототехника будет стремительно развиваться, в том числе и разработка «рободрузей» — пушистых существ с огромными глазами, которые смогут понимать выражения наших лиц, подбадривать в грустные минуты или разговаривать с нами, когда нам одиноко.
Имитация уже почти достигла совершенства. Что подлинно, а что поддельно, различить почти невозможно.
Транспортная система изменится до неузнаваемости, как и некоторые аспекты квантовой физики и методы ведения войны. На носу целый ряд тревожных нововведений — например, возможность всеохватного массового наблюдения, дезинформации, манипуляции огромных масштабов. Уцелеет ли правда, когда в прошлом могут остаться целые профессии? Риски очевидны. Ученый-космолог Стивен Хокинг перед смертью настойчиво предупреждал об опасностях, которые несет искусственный интеллект, а один из самых видных политических мыслителей и деятелей нашего времени занялся этой темой, когда ему стукнуло почти 100 лет. Я говорю о Генри Киссинджере — и как бы вы ни оценивали его политические взгляды, стоит к нему прислушаться, потому что напряженность его мысли для такого возраста просто поразительна.
Добавлю, что в 2023 году примерно тысяча ученых и программистов опубликовала призыв приостановить разработку искусственного интеллекта, чтобы сначала прояснить возможные правовые и этические проблемы. Можно себе представить, что разные взгляды на мир у либерального Запада и Востока, мыслящего иначе (например, Китая), могут привести к созданию нового железного занавеса, на этот раз цифрового. Однако цифровой мир существует не в облаке — он работает только благодаря серверам и роутерам, которые находятся в физическом мире, а следовательно, их можно взять под контроль и отключить.
Сможет ли искусственный интеллект обзавестись собственными мыслями и сознанием? Здесь тоже стоит соблюдать осторожность. Никто из современных исследователей мозга не может сказать, что такое мысль, а что такое сознание — и подавно. Поэтому я задаюсь вопросом, подобным тому, который поставил знаменитый военный теоретик Карл фон Клаузевиц в 1833 году в своей знаменитой книге «О войне»: «Снится ли война самой себе?» Я же вопрошаю: «Снится ли интернет самому себе?» И следующий вопрос: «Может ли искусственный интеллект обрести личность, начать испытывать чувства и видеть сны?»
Сегодня уже доказано, что время от времени ИИ галлюцинирует.
Наученные фантастическими фильмами и литературой, мы обычно связываем идею искусственного интеллекта с демоническими существами и врожденной злобой, желающей нашего уничтожения. Может ли ИИ когда-нибудь нас погубить? Кажется, что в обозримом будущем это маловероятно. В то же время ИИ может стать новым надежным помощником, давая разумные советы, которые нам и в голову не пришли бы. Но и не только: нам придется переосмыслить собственную роль в окружающей действительности, да и само ее понимание. И где-то там, как зверь, припадающий к земле, снова и снова прячется вопрос о правде.
