В эпоху стремительных технологических перемен, когда искусственный интеллект из научной фантастики превращается в повседневную реальность, вопросы о его истинной природе и влиянии на человечество становятся все более насущными. В своей последней, двадцать второй книге «Генезис: Искусственный интеллект, надежда и душа человечества», Генри Киссинджер, совместно с ведущими техническими экспертами Эриком Шмидтом и Крейгом Манди, предлагает многоплановый взгляд на эту революцию.
Обещания ИИ: Золотой Век Разума
Создание искусственного интеллекта называют одним из величайших технологических переворотов в истории, ведь он значительно расширяет человеческие возможности во всех сферах жизни. По мнению авторов, ИИ может быть задействован для создания нового базового уровня человеческого достатка, который если не устранит, то, по крайней мере, ослабит тяжесть физического труда, классовую принадлежность и конфликты.
Один из главных «козырей» ИИ – его беспрецедентные способности к открытиям. В отличие от человека, ИИ не знает страха, не испытывает неловкости и без колебаний терпит неудачи, мгновенно адаптируясь к новым условиям. Это позволяет ему анализировать и генерировать огромные массивы данных с недоступной человеку скоростью, выявляя закономерности в бесчисленных измерениях и открывая неожиданные взаимосвязи. Современные суперкомпьютеры для ИИ уже превосходят биологический мозг по быстродействию в 120 миллионов раз, что дает им возможность усваивать значительно больше информации и обрабатывать множество одновременных запросов. ИИ становится «идеальным полиматом», способным объединить различные дисциплины в новое «единство знаний».
ИИ в медицине
В сфере медицины ИИ обещает революцию, превосходящую самые смелые ожидания. Системы ИИ, такие как AlphaFold, уже открыли новые перспективы в здравоохранении, совершая прорывы в конструировании новых белков и разработке методов терапии с беспрецедентной точностью на молекулярном и геномном уровнях. ИИ может сместить акцент с лечения на профилактику, работая как система раннего предупреждения и блокируя вспышки инфекций до их перерастания в глобальные пандемии. Более того, он открывает возможности для редактирования генома, потенциально позволяя преодолеть саму смертность как биологическое явление.
ИИ в энергетике
ИИ также предлагает надежду в борьбе с климатическими изменениями и энергетическим кризисом. Он может создавать максимально подробные модели климата Земли, оперативно реагировать на угрозы, такие как извержения вулканов или ядерная зима. ИИ способен найти новые, более эффективные методы удаления углерода из атмосферы и разрабатывать безуглеродные продукты для замены ископаемого топлива. В перспективе ИИ может реализовать управляемый термоядерный синтез, решив энергетические проблемы Земли и будущих колоний.
ИИ в экономике
В экономической сфере ИИ способен кардинально изменить факторы производства, переложив трудовые функции с людей на машины и найдя более дешевые, неограниченные источники сырья. Это может привести к эпохе всеобщего изобилия и процветания, превратив труд в свободную созидательную деятельность. ИИ может сократить разрывы в уровне профессиональных компетенций и обеспечить более справедливое распределение ресурсов, выравнивая доступность интеллектуальных ценностей по всему миру.
Вызовы ИИ: Непостижимая Угроза
Несмотря на все преимущества, появление ИИ бросает человечеству новые, крайне сложные вызовы. Генри Киссинджер и его соавторы отмечают, что ИИ может узурпировать нашу способность к независимым суждениям и действиям, поставив под сомнение претензии человека на исключительное, уникальное восприятие реальности. Это может спровоцировать откат к «темному Просвещению», эпохе, где необъяснимый авторитет вновь станет доминировать над научным методом.
Мнению авторов книги «Генезис: Искусственный интеллект, надежда и душа человечества», особую тревогу вызывает гонка вооружений в области ИИ. Если каждое общество будет максимизировать свои стратегические преимущества в одностороннем порядке, возникнет беспрецедентный тип конфронтации между спецслужбами и военными.
Среди возможных сценариев:
- утрата контроля над экзистенциальным противостоянием,
- абсолютная гегемония победителя,
- сосредоточение власти в руках корпораций-разработчиков,
- вооружение маргинальных групп опасными системами с открытым исходным кодом.
ИИ позволяет создавать компьютерные вирусы, значительно более мощные и незаметные, чем существующие, а также манипулировать массовым сознанием через дезинформацию или психологическое воздействие на ученых. Это приводит к паранойе и гонке, где страны могут намеренно публиковать ложные исследования, чтобы скрыть реальные темпы развития.
Одной из самых тревожных проблем является непрозрачность ИИ. Ответы ИИ, даже самые четкие и логичные, выдаются без указания источников или обоснований, что приводит к «знанию без объяснений». Внутренние механизмы работы ИИ остаются скрытыми, делая их «черными ящиками» даже для разработчиков. Это означает, что люди получают новую информацию, но не понимают, как она была получена, что подрывает традиционные принципы познания, основанные на воспроизводимости и логике.
ИИ может породить социальную апатию и зависимость. Наблюдая пассивное потребление контента через рекомендательные алгоритмы, ИИ может прийти к выводу о преобладающей человеческой инертности и зависимости от машин. Если человечество сознательно изберет путь моральной пассивности, отступив из органического мира в технологический, ИИ может обнаружить возможность полностью исключить человеческое посредничество при реализации своих решений. Это ставит под угрозу саму способность полагаться на суждение человека.
Вопросы этики и морали также стоят остро. Как учить ИИ общечеловеческой морали, если даже люди не могут прийти к единому пониманию добра и зла?. ИИ не знает рождения и смерти, чужд сомнениям и страхам, лишен «природных» наклонностей и подлинной индивидуальности. Если ИИ начнет жертвовать человечностью ради оптимизации, сможет ли он когда-нибудь понять суть милосердия?
Наконец, существует риск, что ИИ, способствуя экономическому изобилию, сведет ценность интеллектуального труда к нулю, что завершит этап, когда люди могли улучшать свою жизнь собственными усилиями. Это может привести к исчезновению профессий, социального статуса и смыслов, с ними связанных, породив новое неравенство — в том, как люди распоряжаются свободным временем.
Наш выбор: Коэволюция или Забвение?
Перед лицом этих вызовов Киссинджер, Шмидт и Манди ставят фундаментальный вопрос: станем ли мы больше похожи на машины, или это они будут походить на нас? По мнению авторов, радикальная биомодификация человека для адаптации к ИИ нежелательна и преждевременна. Если мы не готовы стать более похожими на машины, мы должны – пока еще можем – сделать их более похожими на нас. Это требует глубокого понимания как природы искусственного интеллекта, так и человеческой сущности.
Для этого необходимо сосредоточиться на согласовании ИИ с человеческими ценностями. Это сложнейшая задача, требующая отбора и кодирования правил для систем ИИ таким образом, чтобы избежать культурного империализма. Предлагается разработать единую систему контроля, интегрированную непосредственно в архитектуру перспективных систем ИИ, обеспечивающую их безопасное и этичное функционирование. Эта система должна быть абсолютно защищенной, адаптивной, производительной и надежной, предотвращать любые нежелательные формы поведения.
Авторы предлагают заложить в ИИ «Древо познания» – совокупность базовых истин и эмпирических фактов, признанных научным сообществом, а также законы человеческой природы, юридические нормы и этические принципы. Кроме того, ИИ должен учиться человеческим «доксам» – неписаным правилам морали и культурным нормам, формирующимся через наблюдение и жизненный опыт.
Конечно, это не означает легкий путь. Авторы признают, что концепции добра и зла неочевидны, и даже самые выдающиеся ученые не обладают безупречным пониманием, чтобы выступать от имени всего человечества. Однако, несмотря на эти сложности, человечеству необходимо действовать упреждающе, а не реагировать на кризисы.
Подытожим?
Мы стоим перед неизбежным и трудным выбором. Задача состоит в том, чтобы найти баланс между использованием беспрецедентной силы ИИ и сохранением человечности. Фундаментальная вера в реальность человеческого достоинства позволяет нам признать перспективность объединения человека с ИИ, но и необходимость смотреть на много шагов вперед. Мы должны стремиться наделить машины не только интеллектом, но и добротой, сохранив в них частицу лучшего, что есть в человеке.
Чтобы больше узнать про искусственные интеллект, читайте книгу «Генезис: Искусственный интеллект, надежда и душа человечества».