Искусственный интеллект принесет много неожиданностей и изменит многое: от большой политики до простых человеческих отношений. Ученые считают, что нам нужно больше думать о том, как подготовиться к грядущему технологическому прогрессу. Трое мыслителей и технологических энтузиастов объединили свои усилия и написали большую статью о том, что принесет нам развитие ИИ.
Человечество находится на грани технологической революции. Это внезапное событие может стать одним из самых значимых в истории. Возможно, по его итогам произойдет трансформация нашего мышления и мы будем готовы к принятию новых решений.
Эта революция неизбежна. Мы должны принять, что ИИ станет еще более сложным и повсеместным явлением. В связи с этим возникают вопросы: как его эволюция повлияет на человеческое восприятие, сознание и взаимодействие? Изменит ли ИИ нашу культуру и историю?
Эти проблемы заинтересовали сразу трех авторов этой статьи: историка Генри Киссенджера (некогда советника по национальной безопасности при Ричарде Никсоне), бывшего СЕО крупной технологической компании Alphabet Эрика Шмидта и декана одного технологического колледжа Даниэля Хаттенлохера. Они встречались в течение трех лет, чтобы попытаться ответить на эти вопросы и связанные с ними загадки. Мужчины убеждены, что мы не можем в силу наших компетенций в полной мере проанализировать будущее, в котором технологии смогут управлять своей собственной эволюцией. Поэтому в качестве отправной точки — и трамплина для более широкого обсуждения — они занимаются исследованием вопросов о значимости развития ИИ для цивилизации.
Редактор: Екатерина Самохвалова
Парадокс AlphaZero
Искусственный интеллект AlphaZero — лучший в мире игрок в шахматы. Как объяснили его разработчики, программа быстро освоила правила игры и самостоятельно тренировалась, игнорируя все существующие шахматные тактики. Менее чем за 24 часа AlphaZero стал лучшим шахматистом в мире и самой сложной шахматной компьютерной программой. Разработчики ИИ назвали процесс игры «шахматами из другого измерения», так как ни гроссмейстеры, ни уже существующие алгоритмы еще не играли так, как AlphaZero. Программа задумывала и выполняла такие движения, которые и люди, и другие обученные машины находили ошибочными, противоречащими интуиции.
Признанные по всему миру шахматисты уже вовсю изучают ходы AlphaZero, надеясь использовать знания программы в своей игре. Это доказывает, что ИИ больше не ограничен пределами человеческих знаний. Победы AlphaZero в шахматных партиях вызывают новые безответные вопросы. Как объяснить способность столь быстро обученной программы искать новый подход к шахматам? Какую реальность открыл AlphaZero? Приведет ли ИИ к невообразимому расширению привычной реальности?
Мы можем ждать и другие сравнимые с этим открытия со стороны ИИ в разных областях. Некоторые из них превзойдут нашу мудрость и и наши способности, другие просто скорректируют их. Почти все нам тяжело будет понять.
Революция мышления
Создание программного обеспечения и анализ данных до сих пор контролируется человеком. Однако многие технологические открытия постепенно изменяют этот процесс. ИИ позволил автоматизировать широкий спектр задач, позволив технике играть решающую роль в извлечении выводов из полученных данных и принятии мер. В отличие от традиционного программного обеспечения, которое может поддерживать только человеческое мышление, ИИ учится на собственном опыте.
Слово «интеллект» не дает адекватного объяснения происходящему, а приписывать антропоморфные качества искусственному интеллекту нельзя. ИИ ни злой, ни добрый; он не имеет самостоятельно разработанных намерений или целей, не занимается самоанализом. ИИ может выполнять четко определенные задачи, чтобы помочь людям обнаружить связи между данными и действиями. Так они решают проблемы, с которыми не справляются люди. Со временем это может привести к совершенно новому мышлению.
Тем не менее, пока ИИ с трудом объясняет, как он приходит к своим решениям и почему эти решения совершенны. Сейчас именно от человека зависит расшифровка значения того, что делают системы ИИ и разработка интерпретаций. В некотором смысле ИИ сравним с классическим Дельфийский оракулом, который оставил людям интерпретацию своих загадочных посланий о человеческой судьбе.
ИИ постоянно совершенствуется — и это невозможно отрицать. Изменения, которые он будет оказывать на жизнь человека, будут носить преобразующий характер. Вот две иллюстрации: макропример из области глобальной политики и микропример, касающийся потенциальной роли ИИ в человеческих отношениях.
Политика и безопасность
В 20-м веке появилась концепция ядерного сдерживания. Она основывалась на предотвращении каких-либо действий противника посредством угрозы применения ядерного оружия. Под сдерживанием подразумевается, что обладание ядерным оружием какой-либо страной вызывает страх остальных и, следовательно, гарантирует ей безопасность и защиту от нападения агрессоров.
Эта концепция вряд ли может быть применена к миру, в котором значительную роль в обеспечении национальной безопасности играет ИИ. Если программа в абсолютном секрете разработает новое оружие, стратегии и тактики, будет трудно и почти невозможно ее контролировать. Незнание противниками разработанных искусственным интеллектом конфигураций станет стратегическим преимуществом. Секретность и скорость кибермира может подавлять существующие модели планирования.
Масштабная стратегия требует анализа возможностей и развертывания военных сил и средств потенциальных противников. Но как политики оценят способности своих союзников и противников, если ИИ будет разрабатывать стратегии совершенно секретно? Каковы будут последствия для сотрудничества и конфронтации? По мере того, как ИИ станет повсеместным, должны разрабатываться новые правила всеобщей безопасности. Одним из них будет возможность отключения от сети, в которой работает ИИ.
Появляются все более острые и тревожные вопросы. Возможны или невозможны конфликты при наличии оружия с неизвестной силой действия? Как будут установлены нормы и правила для руководства и сдерживания стратегии? Потребность в разработке стратегических концепций, актуальных для этой новой и неизбежной технологии, стала ошеломляющей.
Дружба с человеком
Мы не можем жить без смартфонов. Мы приписываем им достоинства даже там, где их нет. Но что произойдет, когда ученые начнут совершенствовать и усложнять уже привычные нам гаджеты? Будем ли мы так же привязаны к своим «цифровым питомцам», как и к собакам, а может быть, и больше?
Google Home и Amazon Alexa — это цифровые помощники, которые уже установлены в миллионах домов и предназначены для ежедневного общения. Они отвечают на вопросы и дают советы, которые, особенно детям, могут показаться умными и даже мудрыми. Вполне возможно, что во многих частях мира, начиная с раннего детства, основными источниками взаимодействия и знаний будут не родители, члены семьи, друзья или учителя, а подобные цифровые компаньоны. Постоянное взаимодействие с ними, поможет открыть новые границы знаний, сузить выбор информации и повысить способность подавления новых или сложных идей.
Google Home и Amazon Alexa также могут избавить пожилых людей от одиночества. Пенсионеры взаимодействуют с этими устройствами как с друзьями. Система охотно поддерживает разговор, проявляя себя как отличный собеседник и выступая альтернативой живому общению.
В процессе взаимной «беседы» человек делится с программой какой-либо информацией о себе, а алгоритм ее обрабатывает. И чем больше данных ИИ собирает и анализирует, тем точнее он становится. Так, он узнает предпочтения владельцев и учитывает их при формировании своих ответов. И по мере того, как он «умнеет», люди и технологии становятся все ближе.
Что нас ждет в будущем
Киссенджер, Шмидт и Хаттенлохер расходятся во мнениях о том, насколько оптимистично они относятся к ИИ. Но они согласны с тем, что ИИ меняет человеческие знания, восприятие и реальность и, таким образом, меняет ход истории человечества. Исследователи стремятся понять его, представить последствия нашего взаимодействия и призывают других поступать так же.
ИИ положительно повлияет на такие сферы нашей жизни, как здравоохранение и безопасность. Но вместе с этим он снизит нашу любознательность, так как мы будем все больше доверять программам поиск новой информации. Кроме того, создание новых технологий уничтожит большое количество профессий, что может привести к безработице. ИИ станет повсеместным, но как он будет регулироваться и будет ли вообще? Станут ли алгоритмы эквиваленты книгам, школьным учебникам?
Столь стремительное внедрение новых технологий в нашу жизнь не имеет примера в прошлом. Наиболее сопоставимым событием стал переход от средневекового периода к современному. В античные времена вселенная воспринималась людьми как творение божественного, а все его проявления — как эманации божественной воли. Когда единство христианской церкви было нарушено, люди стали думать, что может ее заменить. Ответ, наконец, появился в том, что мы сейчас называем эпохой Просвещения. Великие философы заменили божественное вдохновение разумом, экспериментами и прагматическим подходом. Далее последовали другие интерпретации: философия истории и социологические объяснения реальности. Но явление машины, которая превосходит людей в умственном труде и помогает как предсказывать, так и формировать результаты какой-либо деятельности, уникально в истории человечества. Философ Иммануил Кант считал, что разум является активным участником становления самого мира, данного нам в опыте. Так и правда об ИИ более условна и двусмысленна; она изменяется по мере того, как получает и анализирует данные.
Как мы должны реагировать на неизбежную революцию, которая навяжет нашему пониманию новую истину и реальность? Исследователи обсудили много идей. Можно создать цифровых ассистентов, которые не будут отвечать на вопросы, касающиеся границ реальности. Или требовать участия человека в распознавании, например, рентгеновских лучей. Или придумать новую этику, которая будет облегчать управление ИИ. Нужно воплощать эти идеи в реальность, анализировать все, что мы уже знаем, и строить догадки о том, что мы откроем для себя в ближайшем будущем, когда ИИ станет повсеместным явлением.
