ИИ черпает вдохновение из нейробиологии, рассматривая нейроны как выполняющие логические операции. Ранее ИИ был сосредоточен на задачах логического рассуждения, таких как игра в шахматы или го — вещи, которые сложны для большинства людей. Успехи этой области хорошо известны.
В последние годы мы стали свидетелями ошеломляющих успехов в других областях, таких как распознавание изображений, прогнозирование текста, распознавание речи и языковой перевод. Это было достигнуто главным образом благодаря развитию и применению глубокого обучения, вдохновленного массовой параллельной многоуровневой архитектурой коры головного мозга. Этот подход специально разработан для изучения статистических закономерностей в массах обучающих данных.
Не стоит заблуждаться
Да, при правильном обучении нейронные сети могут генерировать совершенно новые примеры типов данных, которые они видели раньше. Генеративные модели можно использовать, например, для создания «реалистичного фотоизображения лошади на вершине Эвереста» или «изображения фургона с мороженым в стиле Ван Гога». А «большие языковые модели» могут создавать очень разумные и убедительные отрывки текста или ответы на вопросы.
Однако даже самые сложные системы можно быстро сбить с толку правильными вопросами, такими, которые представляют новые сценарии, не представленные в обучающих данных, с которыми люди могут справиться довольно легко.
Ограничения текущих систем
Достигая сверхчеловеческих способностей во многих областях, ИИ не достиг того же успеха в вещах, которые большинству людей кажутся легкими: передвижение по миру, понимание причинно-следственных связей или знание того, что делать, столкнувшись с новой ситуацией.
Эти ограничения отражают тот факт, что нынешние системы ИИ узкоспециализированы: они обучены выполнять конкретные задачи на основе закономерностей в данных, с которыми они сталкиваются. Но когда их просят обобщить, они часто терпят неудачу. Они могут «знать», что когда они видят X, за ним часто следует Y, но они не понимают, почему это так: отражает ли это истинную причинно-следственную связь или просто статистическую закономерность, например, ночь следует за днем.
Ресурсы
Другой ключевой аспект естественного интеллекта заключается в том, что он достигается при ограниченных ресурсах. Сюда входит вычислительное оборудование, энергия, затрачиваемая на его работу, объем опыта, необходимый для изучения полезных знаний, а также время, необходимое для оценки новой ситуации и принятия решения, что делать. Высший интеллект — это способность не просто найти подходящее решение проблемы, но и сделать это эффективно и быстро. Живые организмы не могут позволить себе роскошь обучаться на миллионах точек данных, управлять системой, потребляющей мегаватты энергии, или тратить длительные периоды времени на исчерпывающие вычисления, что делать.
Понимание причин не может быть достигнуто путем пассивного наблюдения, потому что соответствующие контрфакты часто не возникают. Если за X следует Y, независимо от того, насколько регулярно, единственный способ действительно узнать, что это причинная связь, — это вмешаться в систему: предотвратить X и посмотреть, произойдет ли Y. Гипотезу необходимо проверить. Таким образом, причинное знание возникает в результате вмешательства в мир. То, что мы считаем разумным поведением, является наградой за этот тяжелый труд.
Каким будет общий ИИ (если его создадут, конечно)?
Подразумевается, что общий искусственный интеллект не возникнет в системах, которые лишь пассивно получают данные. Они должны иметь возможность реагировать на ситуацию в мире и видеть, как эти данные меняются в ответ. Таким образом, такие системы, возможно, придется каким-то образом воплотить: либо в физической робототехнике, либо в программных объектах, которые могут действовать в моделируемых средах.
Общий искусственный интеллект, возможно, придется создавать посредством проявления свободы воли.