Технологии, усиленные искусственным интеллектом, окружают нас. Возможно, у вас есть робот-пылесос, готовый взяться за дело, чтобы вымыть пол на кухне. Возможно, вы уже обратились за помощью к Siri или Google - двум приложениям, использующим приличные примеры технологий искусственного интеллекта - уже сегодня. Постоянное совершенствование ИИ и его растущее присутствие в нашем мире говорят о достижениях в области науки и техники, которые имеют огромный потенциал для улучшения нашей жизни.
Или уничтожь нас.
По крайней мере, это центральная тема в новом фильме « Мстители: Эра Альтрона », в котором хедлайнер Альтрон служит примером для ИИ. Это актуальная тема, учитывая недавние опасения ИИ. Но стоит ли нам беспокоиться об этом?
Насколько плох Альтрон? Официальный Справочник Вселенной Marvel перечисляет его занятие как «потенциального победителя, поработителя людей», обладающего гениальным интеллектом, сверхчеловеческой скоростью, выносливостью, рефлексами и силой, дозвуковой скоростью полета и полубогоподобной стойкостью. Хорошая новость заключается в том, что Альтрон обладает «нормальной» ловкостью и «средними навыками рукопашного боя». Это означает, что если вы можете приблизиться к автономному роботу со сверхчеловеческой скоростью, вам следует идти вперед. По крайней мере, кратко.
Но, пожалуй, самое главное, Ultron представляет собой окончательный пример неправильных приложений искусственного интеллекта: интеллект, который стремится свергнуть людей, которые его создали.
Последующие итерации Ультрона были созданы самими собой, каждая из которых становилась сильнее, умнее и более склонна к выполнению двух основных желаний: выживанию и установлению мира и порядка во вселенной. К несчастью для нас, людей, Альтрон хотел бы принести мир и порядок, уничтожив всю другую разумную жизнь во вселенной. Основная тема в Age of Ultron - это вымышленный конфликт между биологическими существами и искусственным интеллектом (со средней полосой). Но насколько вымышленный это?
Ответы найдены в научных исследованиях, связанных с областями машинного обучения, искусственного интеллекта и искусственной жизни. Это области, которые продолжают расширяться в нелепом, если не сверхчеловеческом, темпе.
Одним из последних достижений стало исследование, в котором Владимир Мних и его коллеги из Google DeepMind бросили вызов нейронной сети, чтобы научиться играть в видеоигры.
Задача состояла в том, чтобы выяснить, может ли программное обеспечение (довольно зловеще называемое «агент Q-сети») применять уроки, извлеченные в одной игре, для освоения другой игры. Для более половины исследованных игр агент глубокой Q-сети был лучше человеческого уровня. В этот список входят Бокс, Видео Пинбол, Роботанк (мой любимый) и Тутанхам.
И хотя аркадные игры могут показаться тривиальными, на самом деле это не имеет ничего общего с играми как таковыми. Актуальность в том, что система ИИ может адаптировать свои навыки к ситуациям, к которым ее программист никогда не готовил. ИИ эффективно учился применять навыки по-новому, в основном думая сам по себе. Что важно при рассмотрении возможности того, что ИИ станет мошенником.
Так это проблема? Освещение в популярных средствах массовой информации часто дает повод для страха перед машинным обучением и искусственным интеллектом. Существует граница, которая отделяет полезные приложения ИИ - вообразите сценарий роботизированной хирургии, проводимой в отдаленном сообществе и под наблюдением врача в отдаленном месте, - от действительно пугающих сценариев военных применений в ближайшем будущем. Представьте себе комбинацию современной технологии боевых беспилотников с компьютерным движком с искусственным интеллектом, дающим независимость от машинной войны
Реальная проблема заключается в том, что мы не часто признаем, что перешли эти границы, пока не окажемся на другой стороне. В науке мы часто стремимся открывать и применять вещи, прежде чем мы действительно поймем все последствия - как положительные, так и отрицательные - которые будут сопровождать их. Мы часто делаем что-то, потому что можем, не задумываясь, стоит ли нам вообще это делать.
Это мнение было неожиданно отражено среди различных технических знатоков в последние месяцы. В конце 2014 года генеральный директор Tesla Элон Маск заявил на симпозиуме MIT : «Я думаю, что мы должны быть очень осторожны с искусственным интеллектом. Если бы мне пришлось угадывать, в чем состоит наша самая большая угроза существованию, это, вероятно, так ». И в январе он вложил свои деньги в дело, пожертвовав 10 миллионов долларов некоммерческой организации для безопасности ИИ.
Позже в том же месяце Билл Гейтс рассказал о своих оговорках в отношении ИИ на сессии Reddit «Спроси меня что-нибудь» , написав: «Я согласен с Элоном Маском и некоторыми другими в этом и не понимаю, почему некоторые люди не обеспокоены».
А в прошлом году Стивен Хокинг в соавторстве написал статью о рисках ИИ, заявив, что это может быть «худшей ошибкой в истории».
Центральное место в этих проблемах имеет теоретическая независимость искусственного интеллекта от взаимодействия человека с регулирующими органами. Чтобы избежать такой крайней независимости - и той научной фантастической конечной игры Ultron - возможно, нам было бы лучше принять подход «совместного интеллекта», как предложил ученый-компьютерщик Сьюзен Эпштейн в недавнем исследовании .
Эпштейн пишет, что мы традиционно строим машины, потому что нам нужна помощь. Но, возможно, менее способная машина могла бы быть в равной степени полезной, позволяя людям делать то, что им лучше, в любом случае, например, распознавание образов и решение проблем. Другими словами, встроенные функции в наших интеллектуальных роботах могут позволить им лучше выполнять свою работу , сохраняя при этом контроль - хотя за счет необходимости большего взаимодействия со своими людьми-надзирателями.
По традиции научно-фантастических футуристов Жюля Верна, Х. Г. Уэллса и Исаака Азимова, будущее «должно быть полностью автоматизированной, работающей на атомах и не содержащей микробов утопией», - писал Дэниел Х. Уилсон несколько лет назад. С другой стороны, коллективный взгляд на ИИ приравнивается к представлению о роботах как о инструментах, иногда очень умных, с которыми люди могут работать и работать, а не заменять людей в целом.
Эта точка зрения, однако, противоречит обязательному инструменту и механизации операций всех видов, где бы они ни находились. Конечная игра, как выяснили создатели Ultron, имеет катастрофические последствия. Нам всем нравится наблюдать за тем, как эта мрачная будущая игра разворачивается на большом экране на этой неделе. К счастью для нас самих в будущем, в реальном мире эти разговоры все еще происходят, когда мы продолжаем продвигаться к все более и более умным машинам.
Но, возможно, не слишком умный. Я все еще хочу выиграть в Роботанке.