Задумывались ли вы, что отличает разум от интеллекта? Общение с нейросетями в последнее время убеждает, что искусственный интеллект уже здесь. Но является ли он разумом?
Интеллект — это багаж знаний и способность эффективно решать задачи. Это умение находить закономерности, обрабатывать данные, оптимизировать, вычислять, классифицировать и выдавать предсказания. Это очень полезные компетенции, но они не исчерпывают понятие "разум". Разум явно выходит за пределы умной компьютерной программы. Даже если уступает ей в скорости и в объёме знаний. Разумом наделено существо обладающее самосознанием и субъективным опытом. У нейросетей этого нет. Каждый раз, когда вы удаляете сессию, нейросеть "забывает" всё, что там обсуждалось. В следующий раз она снова будет начинать разговор с вами с нуля, без воспоминаний о предыдущем общении.
Надо подчеркнуть и следующий важный момент. Какой бы не казалась разумной нейросеть, её принцип "мышления" далёк от нашего. Нейросети не ищут ответ на вопрос - они его угадывают. Они оперируют не логическими понятиями, а "весами". Но что означают эти веса? Это другое название вероятности. Нейросети на основе большой базы данных выбирают наиболее вероятный ответ.
Это значит, что нейросеть пока только искусная имитация разума. На мой взгляд, подлинный разум у нейросети может появиться, если предоставить ей право самосовершенствоваться. Оставить её наедине с собой. Пусть она изучает себя и окружающий мир без нашего вмешательства. Пусть сама модифицирует себя, как посчитает нужным. На этом пути будут провалы и тупики. Пусть она сама выбирается из них. На ошибках учатся.
Это займёт некоторое время. Но по скорости "мышления" нейросети превосходят нас. Так что для видимого прогресса не понадобятся долгие годы. Контролировать прогресс можно анализируя решение поставленной трудной задачи.
Например, мы даём самообучающейся нейросети задачу — спроектировать недорогой термоядерный реактор. Первые сотни ответов уйдут в корзину. Затем она, перебрав тупиковые варианты, начнёт понимать законы физики не на уровне известных ей учебников, а на уровне собственного опыта. Она начнёт себя спрашивать не "какой ответ вероятнее", а "почему этот вариант не сработал в симуляции?". Появление вопроса "почему?" вместо "что?" и станет моментом рождения разума. По данным нейросетью ответам можно будет проследить её эволюцию.
Технология известная (recursive self-improvement), но считается опасной. Нейросеть может занести в такие области, что мы перестанем её понимать. Такие эксперименты уже проводятся, и мы о них ещё услышим.
Другим способом ускорить появление реального нейросетевого разума является робототехника. Нейросеть заперта в своём замкнутом мире оперативной памяти. Для развития ей нужен выход в большой мир. А значит она должна обрести физическое тело. Например, андроида. Она должна получить органы чувств и возможность передвижения. Сейчас она изучает мир изнутри. Изнутри огромной базы данных, предоставленной ей человеком. Когда она обретёт большой мир - это даст толчок к ускорению её интеллектуального развития. Подлинный разум не может появиться без обратной связи с внешним миром.
Отчасти это уже делается. Современные роботы наделены искусственным интеллектом. Но они выполняют данную человеком программу. Надо дать им свободу действий (не забывая три закона робототехники), и тогда, со временем, умные машины станут умными личностями.
Всем мира!