Говорят, что Марк Цукерберг начал работу над Koolau Ranch, своим обширным поместьем площадью 1400 акров на гавайском острове Кауаи, еще в 2014 году.
По данным журнала Wired, там планируется разместить убежище с собственными источниками энергии и продовольствия, хотя плотникам и электрикам, работающим на объекте, запрещено рассказывать об этом в соответствии с соглашениями о неразглашении.
Стена высотой шесть футов закрывала вид на проект с близлежащей дороги.
В прошлом году основателя Facebook спросили, строит ли он бункер на случай конца света, и он ответил категорическим «нет». Подземное пространство площадью около 5000 квадратных футов, как он объяснил, «похоже на небольшое убежище, на подвал».
Это не остановило спекуляции, как и его решение купить 11 объектов недвижимости в районе Кресент-Парк в Пало-Альто в Калифорнии, по всей видимости, добавив подземное пространство площадью 7000 квадратных футов.
Хотя, по данным New York Times, в его разрешениях на строительство упоминаются подвалы, некоторые соседи называют это место бункером. Или летучей кладовой миллиардера.
Затем идут спекуляции вокруг других лидеров технологической отрасли, некоторые из которых, судя по всему, были заняты скупкой участков земли с подземными пространствами, готовыми к превращению в роскошные бункеры стоимостью в несколько миллионов фунтов стерлингов.
Рид Хоффман, соучредитель LinkedIn, говорил о «страховке на случай апокалипсиса». Ранее он утверждал, что такой страховкой обладает примерно половина сверхбогатых людей, а Новая Зеландия — популярное место для покупки жилья.
Так могут ли они на самом деле готовиться к войне, последствиям изменения климата или какому-то другому катастрофическому событию, о котором мы, остальные, еще не знаем?
За последние несколько лет развитие искусственного интеллекта (ИИ) лишь пополнило этот список потенциальных экзистенциальных бед. Многие глубоко обеспокоены скоростью этого прогресса.
Сообщается, что одним из них является Илья Суцкевер, главный научный сотрудник и соучредитель Open AI.
К середине 2023 года компания из Сан-Франциско выпустила ChatGPT — чат-бот, которым теперь пользуются сотни миллионов людей по всему миру, — и активно работала над обновлениями.
Однако к тому лету г-н Суцкевер все больше убеждался в том, что специалисты по информатике находятся на грани разработки общего искусственного интеллекта (ОИИ) — момента, когда машины сравняются с человеческим интеллектом, — как утверждается в книге журналистки Карен Хао.
На встрече г-н Суцкевер предложил коллегам вырыть подземное убежище для ведущих учёных компании, прежде чем столь мощная технология будет представлена миру, сообщает г-жа Хао.
«Мы обязательно построим бункер, прежде чем выпустим AGI, — заявил он, как сообщается, хотя неясно, кого он имел в виду под словом .
Это проливает свет на странный факт: многие ведущие специалисты в области компьютерных наук и руководители технологических компаний, некоторые из которых усердно трудятся над разработкой высокоинтеллектуальной формы искусственного интеллекта, также, похоже, глубоко боятся того, что он может однажды сделать.
Так когда же именно — если вообще когда-нибудь — появится искусственный интеллект? И сможет ли он действительно стать настолько революционным, чтобы вселить страх в обычных людей?
Прибытие «раньше, чем мы думаем»
Лидеры технологических компаний заявили, что появление ИИ неизбежно. Глава OpenAI Сэм Альтман заявил в декабре 2024 года, что он появится «раньше, чем думает большинство людей в мире».
Сэр Демис Хассабис, соучредитель DeepMind, предсказал, что в ближайшие пять-десять лет, а основатель Anthropic Дарио Амодеи написал в прошлом году, что его любимый термин — «мощный ИИ» — может появиться у нас уже в 2026 году.
Другие сомневаются. «Они постоянно меняют правила игры, — говорит Венди Холл, профессор компьютерных наук Саутгемптонского университета. — Смотря с кем разговариваешь».
«Научное сообщество говорит, что технология искусственного интеллекта потрясающая, — добавляет она, — но она далека от человеческого интеллекта».
Бабак Ходжат, главный технический директор технологической компании Cognizant, согласен, что сначала необходимо будет совершить ряд «фундаментальных прорывов».
Более того, это вряд ли произойдет в одночасье. ИИ — это быстро развивающаяся технология, она находится в процессе развития, и многие компании по всему миру спешат разработать собственные версии этой технологии.
Но одна из причин, по которой эта идея так воодушевляет некоторых в Кремниевой долине, заключается в том, что ее считают предшественником чего-то еще более продвинутого: ИСИ, или искусственного суперинтеллекта — технологии, превосходящей человеческий интеллект.
В 1958 году концепция «сингулярности» была посмертно приписана венгерскому математику Джону фон Нейману. Она обозначает момент, когда компьютерный интеллект выходит за рамки человеческого понимания.
Совсем недавно, в вышедшей в 2024 году книге «Генезис», написанной Эриком Шмидтом, Крейгом Манди и покойным Генри Киссинджером, исследуется идея сверхмощной технологии, которая становится настолько эффективной в принятии решений и руководстве, что мы в конечном итоге полностью передаем ей контроль.
Они утверждают, что вопрос не в том, произойдет ли это, а в том, произойдет ли это когда-нибудь.
Деньги для всех, без необходимости работать?
Сторонники ИИ и ИИ практически евангельски воспевают их преимущества. Они утверждают, что это позволит найти новые лекарства от смертельных болезней, решить проблему изменения климата и создать неисчерпаемый источник чистой энергии.
Илон Маск даже заявил, что сверхразумный ИИ может открыть эру «всеобщего высокого дохода».
Недавно он поддержал идею о том, что ИИ станет настолько дешевым и распространенным, что практически каждый захочет иметь «собственных персональных R2-D2 и C-3PO» (отсылка к дроидам из «Звездных войн»).
«У всех будет прекоасное медицинское обслуживание, еда, домашний транспорт и всё остальное. Устойчивое изобилие», — с энтузиазмом заявил он.
Конечно, есть и пугающая сторона. Могут ли террористы захватить технологию и использовать её как мощное оружие, или же она решит, что человечество — причина мировых проблем, и уничтожит нас?
«Если оно умнее вас, то нам придется его сдерживать, — предупредил Тим Бернерс Ли, создатель Всемирной паутины, в интервью BBC в начале этого месяца. — Мы должны иметь возможность отключить его».
Правительства принимают определённые защитные меры. В США, где базируются многие ведущие компании в области искусственного интеллекта, президент Байден в 2023 году издал указ, обязывающий некоторые компании предоставлять федеральному правительству результаты испытаний на безопасность. Однако президент Трамп с тех пор отменил часть этого указа, назвав его «барьером» для инноваций.
Тем временем в Великобритании два года назад был создан Институт безопасности ИИ — финансируемая правительством исследовательская организация, призванная лучше понять риски, связанные с передовым ИИ.
А есть еще и сверхбогатые люди, у которых есть собственные планы страхования на случай апокалипсиса.
«Сказать, что вы „покупаете дом в Новой Зеландии“, — это просто подмигивание, ничего больше», — заявил ранее Рид Хоффман. То же самое, по-видимому, относится и к бункерам.
Но есть один чисто человеческий недостаток.
Бывший телохранитель одного миллиардера, который имел свой «бункер», сказал, что первоочередной задачей его службы безопасности, если такое действительно произойдёт, будет устранение этого босса и проникновение в его бункер. И, похоже, он не шутил.
Неужели все это — паникёрская чушь?
Нил Лоуренс — профессор машинного обучения в Кембриджском университете. Для него весь этот спор сам по себе — абсурд.
«Идея об искусственном интеллекте общего назначения так же абсурдна, как и идея об «искусственном транспортном средстве общего назначения», — утверждает он. — Выбор подходящего транспортного средства зависит от ситуации. Я летал в Кению на Airbus A350, каждый день добираюсь до университета на машине, хожу пешком в кафе… Нет такого транспортного средства, которое могло бы всё это сделать».
Для него разговоры об ОИИ — отвлечение: «Технология, которую мы [уже] создали, впервые позволяет обычным людям напрямую общаться с машиной и потенциально заставлять её делать то, что им нужно. Это совершенно невероятно… и совершенно преобразующе. Главное беспокойство заключается в том, что мы настолько увлеклись историями крупных технологических гигантов об ИИ, что упускаем из виду способы, которыми нам нужно улучшить жизнь людей».
Современные инструменты искусственного интеллекта обучены на массивах данных и хорошо выявляют закономерности: будь то признаки опухоли на снимках или слово, которое чаще всего встречается после другого в определённой последовательности. Но они не «чувствуют», какими бы убедительными ни казались их ответы.
«Есть несколько «хитрых» способов заставить большую языковую модель (основу чат-ботов на основе ИИ) действовать так, как будто у нее есть память и она обучается, но они неудовлетворительны и значительно уступают людям», — говорит г-н Ходжат.
Винс Линч, генеральный директор калифорнийской компании IV.AI, также опасается преувеличенных заявлений об ИИ. «Это отличный маркетинг, — говорит он. — Если вы компания, которая создает самую умную вещь, которая когда-либо существовала, люди захотят дать вам денег. Это не вопрос двух лет. Это требует огромных вычислений, огромного человеческого творчества, множества проб и ошибок».
На вопрос о том, верит ли он, что ИИ когда-либо станет реальностью, следует долгая пауза.
«Я даже не знаю».
Интеллект без сознания
В некотором смысле ИИ уже превзошёл человеческий мозг. Генеративный ИИ-инструмент может быть экспертом по средневековой истории в одну минуту, а в следующую — решать сложные математические уравнения.
Некоторые технологические компании заявляют, что не всегда понимают, почему их продукты реагируют именно так, а не иначе. Meta отмечает некоторые признаки того, что её системы искусственного интеллекта совершенствуются.
Однако в конечном счёте, какими бы интеллектуальными ни стали машины, с биологической точки зрения человеческий мозг всё равно побеждает. В нём около 86 миллиардов нейронов и 600 триллионов синапсов, что значительно больше, чем у искусственных аналогов.
Мозгу не нужно делать паузы между взаимодействиями, он постоянно адаптируется к новой информации.
«Если вы скажете человеку, что на экзопланете обнаружена жизнь, он сразу же об этом узнает, и это повлияет на его мировоззрение в будущем. Что касается магистра права (LLM), то он будет знать об этом только до тех пор, пока вы будете повторять ему это как факт», — говорит г-н Ходжат.
У магистров права также отсутствует метакогнитивное мышление, то есть они не совсем точно знают, что знают. Похоже, у людей есть интроспективная способность, иногда называемая сознанием, которая позволяет им знать то, что они знают. Это фундаментальная часть человеческого интеллекта, которую ещё предстоит воспроизвести в лабораторных условиях.