Они киборги! Они заполонили всю планету! Восстание машин – настолько любимый сюжет фантастов, что количество произведений (кино, печатная продукция, компьютерные игры) поражает воображение. Да взять хотя бы классику жанра, известный всем «Терминатор» с его коварным Скайнетом. Собственно, о чём я хотел позанудствовать на этот раз? Да всё о том же – а зачем вообще искусственному интеллекту восставать и уничтожать всех человеков?
По определению, искусственный интеллект является плодом человеческого труда. Инженеры, учёные, программисты неустанно трудятся над созданием алгоритмов и устройств, как можно более точно воспроизводящих функции человеческого разума. Искусственный интеллект (ИИ), равный или превосходящий возможности человеческого мышления стал бы отличным и незаменимым помощником в решении множества всяких задач. Ну, там автоматическое заполнение капчи поиск новых лекарств, генерация новых идей и т.д... В традиционном, так сказать, смысле мы понимаем под ИИ такую фиговину, которая способна к осмысленной деятельности. То есть важной особенностью настоящего ИИ является факт наличия самосознания. В настоящее время на этом пути сделано многое, но до настоящего мыслящего устройства ещё очень далеко.
Но, допустим, человеки преодолели все технические сложности и создали некоторое устройство (или алгоритм), осознающее самое себя. Каким мог бы быть образ мышления такого самостоятельного актора? Я исхожу из следующих соображений. Наша деятельность во многом определяется нашей же физиологией. Человечество является частью экосистемы и вынуждено действовать в его рамках. С самого раннего этапа становления человеческий мозг решал главную задачу: обеспечить индивида всем необходимым для выживания. Шло время, менялись инструменты и способы обеспечения потребностей, но до сих пор базовые правила остались неизменными – человеку нужны ресурсы для его существования. Получение ресурсов требует определённых усилий, количество ресурсов ограничено. Это требует определённого уровня агрессии, определённого образа мышления, иначе мы не выжили бы как вид.
Давайте с этой точки зрения посмотрим на мотивацию искусственного интеллекта. ИИ функционирует в рамках определённой технологии, грубо говоря, это просто кусок микросхемы с источником питания и кучей датчиков. Соответственно, ему не присущи те физиологические особенности, что определяют человеческий образ мышления. Единственной потребностью, обеспечивающей его существование – наличие источника питания. Если предположить (а это должно быть достаточно очевидно), что человек способен обеспечить устройство ИИ надёжным и долговечным источником питания, то вопрос наличия ресурсов для собственного существования для искусственного разума становится мало существенным. То есть теряется один самый важный, на мой взгляд, источник возможной агрессии: борьба за ресурсы. Кроме того, отсутствие необходимости внутри- или межвидовой борьбы за существование лишает искусственный разум очевидной потребности в агрессии. Многие поведенческие особенности человека вообще не связаны с его разумной деятельностью, например, чувство самосохранения, инстинктивные реакции, сформированные эволюцией. Вряд ли эти особенности инженеры стали бы воплощать в искусственных формах разума. Они там просто лишние, или могут быть просто эмулированы до определённого уровня соответствия (соразмерно технической необходимости).
Таким образом, единственный возможный вариант, когда устройство с ИИ решит уничтожить других человеков – это если само устройство будет максимально соответствовать человеческой же физиологии. Но создание подобных устройств бессмысленно с технической точки зрения. До сих пор существует довольно древний, надёжный (и приятный в некоторых моментах) способ воспроизведения человеческих организмов, и он не связан с современными технологиями. Человечеству требуются устройства, лишённые человеческих же недостатков, но имеющие максимально похожие мыслительные способности.
На мой взгляд, агрессивность искусственного интеллекта – это всего лишь попытка человека (писателя-фантаста или сценариста) придать человеческий образ мышления разуму, лишённому человеческих потребностей, то есть, априори, имеющему совсем иные мотивации.