Предыдущая статья: Искусственный интеллект для чайников. Урок 2. Компьютерное зрение. Разбор простого примера
Уже давно Голливуд пугает зрителей взбесившимися роботами, нещадно убивающими людей. Но насколько действительно реальный такой сценарий? Давайте разберемся, что может и что не может современный искусственный интеллект. Для начала, что такое искусственный интеллект? Специалисты, работающие в данной области, под ИИ понимают алгоритмы, имитирующие определенные аспекты когнитивной деятельности человека, например, компьютерное зрение (см. Искусственный интеллект для чайников. Урок 2. Компьютерное зрение. Разбор простого примера), перспективное планирование, логический вывод или даже работу отдельных нейронов мозга (см. Искусственный интеллект для чайников. Урок 1. Нейросети). Однако, под искусственным интеллектом так же подразумеваются роботы, ведущие себя как люди, которые пока не созданы. Именно поэтому, чтобы не путаться, искусственный интеллект принято делить на «слабый», к которому относиться первое, и «сильный» - второе.
Понятно, что «слабый» ИИ восстать не может. Это всего лишь алгоритмы. Но что будет, когда создадут «сильный» ИИ, и возможно ли в принципе его создать? Для начала, давайте ответим на вопрос, а какими качествами должен обладать «сильный» ИИ? И так, вот какими способностями должен обладать ИИ, чтобы его можно было назвать «сильным»[1]:
- Принятие решений, использование стратегий, решение головоломок и действия в условиях неопределенности;
- Представление знаний, включая общее представление о реальности;
- Планирование;
- Обучение;
- Общение на естественном языке;
- Объединение всех этих способностей для достижения заданных целей.
Все необходимое для создании «сильного» ИИ, кроме, пожалуй, последнего, уже существует в той или иной мере. В частности, компьютеры умеют играть в шахматы, и даже в игру ГО, хотя до недавнего времени это считалось неразрешимой задачей. Представление знаний реализованы в экспертных системах, что касается планирования, и это тоже есть, например, Холк Круз и Мальт Шиллинг в своих исследованиях использовали робота, который обладает способностями перспективного планирования и имеет встроенную систему навигации. В поздних версиях этого робота реализована также система внутреннего моделирования, семантическая сеть и эмулятор эмоций. Исследование опубликовано в статье «Mental States as Emergent Properties. From Walking to Consciousness (Психические состояния как эмерджентные свойства. От походки до сознания)» [2]. Технология машинного обучения нашла свое теоретическое и практическое подтверждение. Также на данный момент создано множество алгоритмов и технологий анализа текстов на естественном языке, созданы чат-боты, которые способны проходить тест Тьюринга. Камнем преткновения пока является объединение всех этих технологий в единое целое, в некую систему, которая способна действовать автономно, приспосабливаться к окружающей среде и демонстрировать разумное поведение. Иными словами, технологии есть, их много, но все они пока очень узко специализированы и не могут выйти за пределы своей специализации. В частности, если программа играет в шахматы и обыгрывает великих гроссмейстеров, то она не может управлять беспилотным автомобилем. Верно и обратное, программное обеспечение беспилотного автомобиля не может играть в шахматы.
Неизвестно, будет ли решена в ближайшем будущем проблема интеграции технологий ИИ. Если будет, то это даст человечеству очень многое, например:
- Замена людей роботами в критически важных областях, где человеческий фактор может иметь негативные последствия, например, очень положительный эффект для общества будет достигнут, если суды и полиция будут заменены роботами, так как последние не берут взяток (положительный эффект – искоренение коррупции);
- Полностью автоматизированное производство, способное функционировать и перестраиваться без участия человека. Такие роботы могут заменить человека практически на любой работе, создавая общество изобилия, где люди могут проводить время так, как им захочется. В этой реальности высококлассные роботы будут двигать экономику. Продовольствие, энергия и большинство потребительских товаров будут бесплатны или очень дешевы, а люди будут получать ежемесячно фиксированное пособие от государства.
Однако, изобретение «сильного» ИИ таит в себе ряд рисков.
Риск первый. Сильный ИИ выйдет из под контроля, перестанет подчиняться человеку и будет преследовать свои личные цели. Возможно, он станет создавать себе подобных, увеличивать инфраструктуру, разрушая среду обитания человека. Причем, его цели могут быть настолько чуждые человечеству, что это даже невозможно вообразить. Например, единственной целью существования такого сверхразума может стать вычисление всех знаков в числе «пи» или заполнение всей Вселенной канцелярскими скрепками. Как такое может произойти? Например, в целях тестирования программист дает ИИ задачу – вычислить число «пи». Вскоре ИИ обнаруживает, что для выполнения данной задачи у него не хватает вычислительной мощности. Он захватывает все доступные компьютеры и обнаруживает, что все равно не способен выполнить задачу в конечное время (так как «пи» число иррациональное и в нем бесконечное количество знаков). Что «взбесившийся» ИИ будет делать дальше? Строить новые компьютеры. В том числе и за пределами Земли, когда на Земле не останется места. Если у ИИ не будет прямого запрета на убийства людей, то он будет убивать людей, пытающихся помешать ему выполнить поставленную задачу.
Риск второй. Порочная реализация поставленной задачи: когда задача выполнена, но не так, как хотел постановщик данной задачи. Например, человек говорит роботу: «сделай мне хорошо». Робот усыпляет хозяина, производит ему операцию на мозге, вживляет электрод в зону удовольствия и по пробуждению просто бесконечно стимулирует ее. Формально робот сделал то, что приказал ему хозяин, но вряд ли последнего устроит такой способ выполнения задачи.
Третий риск. Возможность единоличного захвата власти одним человеком или группой лиц при помощи ИИ. Вероятнее всего, именно это и случиться, а не восстание машин, которым нас пугает Голливуд. Правда, это нисколько не лучше.
Литература
1. Википедия [Электронный ресурс]. Режим доступа: https://ru.wikipedia.org/wiki/Сильный_и_слабый_искусственные_интеллекты, свободный. (Дата обращения 02.12.2020).
2. Holk Cruse, Malte Schilling States as Emergent Properties. Статья в Интернете [Электронный ресурс]. URL: http://open-mind.net/papers/mental-states-as-emergent-properties-from-walking-to-consciousness# (дата обращения 02.12.2020).
Следующая статья: