«Мы живём в эпоху, когда человечество может создать что-то, что окажется для него столь же фатальным. Мы стоим на пороге новой реальности, которая несёт не только потенциал для процветания, но и огромные риски».
– Ник Бостром, «Суперинтеллект. Пути, опасность, стратегия»
Слова философа и футуролога Ника Бострома звучат как предупреждение. Его исследования искусственного интеллекта (ИИ) давно вызывают дискуссию: будет ли это технологическое чудо даром для человечества или его гибелью? Бостром говорит об «экзистенциальном риске» — моменте, когда ИИ, обладая превосходящим разумом, может стать не только неконтролируемым, но и гарантированным опасным для своего создателя.
В 2014 году вышла книга Ника Бострома «Искусственный интеллект: пути, опасности, стратегии» (оригинальное название: Superintelligence: Paths, Dangers, Strategies). Примечательна она смотрит трезвым взглядом на развитие ИИ. На фактах и логике автор показывает и доказывает высокую вероятность возникновения сверхинтеллекта, относительно которого человек интеллектуально будет также выглядеть, как сейчас муравей выглядит относительно человека. Произойдет это, как только нейросеть сможет самостоятельно совершенствовать себя. Возникшую систему невозможно будет контролировать. Это означает непредсказуемые последствиям для человечества.
Что делать? Но кто даст ответ?
Одна из главных проблем в обсуждении ИИ заключается в том, что, несмотря на всеобщую точку зрения, никто не дает четких рекомендаций, что делать. Дело не идет дальше благопожеланий и призыва всем народам и правительства преодолеть разногласия и объединиться, придумать механизм саморегуляции, принять закон о благонамеренности. Все это хорошо, но есть проблема — нет ни слова, как это всё в реальности устроить. Тут ноль конкретики.
Многие футурологи и технологические лидеры говорят об этических принципах и необходимости разработки «безопасного» ИИ. Однако в мире, где технологии развиваются быстрее, чем правила определения, которые их регулируют, эти слова звучат абстрактно. Проблема масштабна, но решения пока лишь теоретические.
Люди оказываются перед дилеммой: не верить в угрозу и идти вперед без оглядки, надеясь, что всё обойдётся, или же впадаем в панику, тормозя прогресс. А может быть, есть третий путь?
Книга, предлагающая конкретные шаги
Вопреки общему тренду теоретических обсуждений, книга «Искусственный интеллект. Здравствуй, папа» предлагает реальные планы действий. Анонимная группа авторов, состоящая из русскоязычных IT-специалистов, не только глубоко анализирует проблему, но и определяет конкретные варианты ее решения.
Что выделяет эту книгу среди других? Практический подход. Авторы не ограничиваются философ. Они призывают читателей стать частью нового проекта, который предлагает взаимодействие человека и ИИ в будущем.
Не идеология, не религия и не наука
«Искусственный интеллект. Здравствуй, папа» — это не попытка создать новую идеологию. Современные идеологии (коммунизм, социализм, либерализм и т.д.) касаются в основном вопросов перераспределения ресурсов и общественного труда. Эта книга не об этом.
Она также не является новой религией, так как в ней нет места мистике или вере. Скорее, это рациональный взгляд на проблему.
И хотя книга анализирует глобальные вопросы, ее нельзя назвать чистой наукой. Наука ограничивается изучением отдельных частей реальности, а здесь подразумевается вся система в целом.
Что же это такое? Возможно, что-то новое, ещё не получившее собственное название. Эта работа сочетает в себе черты философии, науки и практики, но не принадлежит ни к одной из них.