Чтобы сделать Искусственный Интеллект по-настоящему интеллектуальным, исследователи должны переосмыслить свой подход к этой технологии.
Недавно подписанное распоряжение об учреждении «Американской Инициативы в области Искусственного Интеллекта» определяет Искусственный Интеллект как центральный элемент конкурентоспособности США и национальной обороны этой страны. Однако остаётся непонятным, достиг ли Искусственный Интеллект таких высот, как это утверждают многие. Ни одна из текущих технологий и близко не приблизилась к настоящему интеллекту.
Для того чтобы сохранить превосходство в области Искусственного Интеллекта, США избрала стратегию, которая близка к способу обучения человека. Это позволит встать на лучший путь к экономическому росту и широкому распространению социальных выгод, которые ожидаются от полноценного Искусственного Интеллекта.
Вот, например, проблема нейронных сетей глубокого обучения, которые отражают глобальную ситуацию, происходящую с Искусственным Интеллектом. Слова «глубокий» и «интеллект» подразумевают, что сети достигнут абстрактного и значимого представления о данных на более глубоких уровнях. Кроме того, в какой-то момент они должны выйти за рамки запоминания, чтобы обрести реальное познание или интеллект. Но этого не происходит.
Теперь поговорим о компьютерном зрении. Здесь нейронные сети смогли достичь ошеломительных результатов производительности при выполнении задач по распознаванию изображений. Например, мы задаём алгоритму компьютерного зрения верную маркировку изображений кошек и собак. Если алгоритм научился правильно помечать изображения кошек и собак, то мы делаем вывод, что нейронная сеть глубокого обучения научилась различать кошек и собак.
Предположим, что все собаки носят блестящие металлические жетоны, а кошки нет. В таком случае, нейронная сеть глубокого обучения, скорее всего, будет пытаться найти жетоны на изображении, а не определять собак и кошек. Недавнее исследование показало, что нечто подобное заложено в основе производительности нейронных сетей глубокого обучения, созданных для компьютерного зрения. Возможно, что объяснение ситуации может быть не таким простым, как блестящие металлические жетоны, но большинство наборов данных для обучения содержат непреднамеренные сигналы, которые используют алгоритмы глубокого обучения.
Использование состязательных примеров, которые обманывают нейронные сети, являются доказательством того, что они всё ещё не различают изображения, а обнаруживают его отличительные особенности. Состязательные примеры создаются путём обратного запуска таких же вычислительных инструментов, что использовались для обучения нейронной сети. Исследователи обнаружили, что добавление незначительных изменений в изображение, которые незаметны для человеческого глаза, позволяют обмануть нейронную сеть и заставить её неверно классифицировать изображения.
Выяснилось, что проблема заключается в вычислительных заблуждениях. Добавление или удаление нескольких пикселей может устранить определённый сигнал, который использовался глубокой нейронной сетью. Неверная классификация изображений доказывает, что глубокие нейронные сети полагаются на особенности изображений, которые незаметны человеческому глазу.
Злоумышленники могут целенаправленно воспользоваться этой уязвимостью. Если вы пользуетесь беспилотным автомобилем, который распознаёт дорожные знаки, или системой безопасности, заточенной на распознавании изображений, то у нас плохие новости для вас.
Этот недостаток встроен в архитектуру. Недавние исследования, проведённые Нафтали Тишбом в Израиле, доказали, что глубокая нейронная сеть избирательно отбрасывает ненужную информацию на каждом уровне. Полностью обученная глубокая нейронная сеть отбросила такое количество информации, что сделалась зависимой от нескольких особенностей изображения. Это больше походит не на глубокое обучение, а на глубокое забвение.
Более того, глубокие нейронные сети не могут учиться на аналогиях, которые являются основой всего интеллекта. Люди и другие живые существа используют аналогии для того, чтобы понять, что мир состоит из объектов, обладающих определёнными свойствами. Все объекты подчиняются законам физики, будь то яблоки или мячик для бейсбола, человек это понимает в процессе развития интеллекта.
Исследователи из Брауновского Университета проверили, могут ли глубокие нейронные сети учиться на аналогиях. Они обнаружили, что нейронные сети не сумели выучить концепцию сходства. Вместо того чтобы изучать общие черты изображений, которые связывают их, глубокие нейронные сети запоминают набор шаблонов для правильной маркировки из обучающего набора. Сети не научились обобщать обучающие данные.
Трудно представить, что может быть хуже для глубоких нейронных сетей. Всё когнитивное развитие опирается на изучение и абстрагирование принципов, лежащих в основе ряда конкретных примеров.
Мы перепрыгнули через долгий и медленный процесс когнитивного развития и сосредоточились на решении конкретных задач с высокой коммерческой или маркетинговой ценностью. Таким образом Искусственный Интеллект лишился возможности для интеллектуальной обработки информации.
То, что мы имеем сейчас (современные алгоритмы ИИ, глубокие нейронные сети) не имеют ничего общего с интеллектом. Настоящие интеллектуальные машины, несомненно, появятся. Путь развития этой сферы пролегает через системы, которые могут имитировать биологию. Подобно людям, интеллектуальные машины должны учиться на аналогиях, чтобы получить интуитивное понимание физических явлений, которые окружают их. Чтобы продолжить развитие мы должны вернуться на несколько этапов назад и заставить машины пройти через период «младенчества», в течение которого они осознают структуру мира и откроют для себя интуитивную физику, от которой зависят любые разумные выводы.
Источник: Scientific American