Тут подписчики и спорят, что современные нейросети - это не ИИ, а просто имитаторы интеллекта или даже «мудрёные программы», действующие строго по алгоритму.
Но это не так!
Но на самом деле современные LLM сегодня ближе всего к ИИ, чем что-либо созданное человеком. Просто маркетинг и популяризация концепции ИИ переврали всю суть.
ИИ - это искусственный интеллект. Не обязательно искусственный разум. Не обязательно искусственное сознание.
В общем смысле интеллект - это способность понимать ситуацию и выбирать подходящие действия. (Encyclopedia Britannica)
В современном смысле ИИ - машинная система, которая по входным данным делает вывод, как сформировать результат: прогноз, текст, рекомендацию, решение или другой вывод, влияющий на цифровую или физическую среду.
В общепринятом определении отдельно подчёркивается, что такие системы могут отличаться уровнем автономности и адаптивности. То есть LLM под это определение вполне попадают. (oecd.ai)
Поэтому утверждение «нейросети - не ИИ, а просто алгоритмы» тоже неверно. Да, они работают на алгоритмах. Но и человек тоже работает на биохимических и нейрофизиологических процессах. Сам факт, что система имеет физический или алгоритмический механизм, не отменяет её функциональных свойств.
Современные LLM - это не искусственный разум, но это уже форма искусственного интеллекта, причем самая совершенная, которая была создана людьми.
Нейросети не просто выполняют заранее прописанные инструкции вида «если А, то потом Б». Современные нейросети обучаются на огромных массивах данных и формируют внутренние статистические представления, позволяющие им генерировать текст, писать код, объяснять идеи, переводить, суммировать, искать связи и решать часть задач, которые раньше считались интеллектуальными. (arXiv)
Но если система выполняет интеллектуальную и даже разумную работу, это ещё не значит, что она обладает сознанием.
Человек тоже может выполнять интеллектуальную работу без мудрости и без осознанной цели: например, разрабатывать бессмысленные сложные финансовые схемы, писать манипулятивную рекламу, проектировать вредоносный код или создавать нагромождение бюрократических отчётов, которые формально очень мудреные, но по смыслу бесполезны или даже вредны.
Интеллект - это не мораль, не мудрость и не самосознание. Это просто способность решать поставленные задачи.
А вот кто эти задачи ставит, определяется сознанием. Это может быть ИИ, который самоосознал себя, или же мы, люди.
Есть и куда более широкое понимание, например «Коллективный интеллект» является уже способностью группы совместно решать задачи лучше, чем это сделал бы отдельный участник. (Europe PMC)
Коллективным интеллектом обладают колонии бактерий, а индивидуальным интеллектом обладают животные. Например бактериальные колонии демонстрируют скоординированное движение, распределённое поведение и адаптацию к среде. Это тоже форма интеллекта, называемой коллективным поведением или самоорганизацией. (PMC)
А что такое сознание? Сознание - не простая тема. Наука не умеет «включить прибор» и напрямую измерить субъективный опыт. Но есть серьёзные поведенческие и нейробиологические данные, что сознательный опыт есть не только у человека. Кембриджская декларация о сознании 2012 года прямо утверждала, что люди не уникальны в наличии нейробиологических субстратов сознания: они есть у млекопитающих, птиц и ряда других животных, включая осьминогов. (FCM Conference)
В 2024 году Нью-Йоркская декларация о сознании животных сформулировала ещё осторожнее: есть сильная научная поддержка идеи сознательного опыта у других млекопитающих и птиц, а также реалистичная возможность сознательного опыта у всех позвоночных и многих беспозвоночных. (Google Sites)
Например у врановых (Вороны) обнаружены очень сильные когнитивные способности, а у сорок есть экспериментальные данные по зеркальному самораспознаванию. В исследовании 2008 года европейские сороки показали признаки узнавания себя в зеркале. (PLOS)
В 2020 году исследование показало у серых ворон нейронные корреляты сенсорного сознания - активность отдельных нейронов в птичьем паллиуме соответствовала субъективному восприятию стимула. Это еще не означает, что вороны «разумны как человек», но это очень сильный аргумент против старой идеи, будто сознание возможно только при мозге млекопитающего типа. (Научный журнал)
Вообще вороны - вторые существа после людей, способные определить вес тела по воздействию на него различных факторов: например, определить, какой предмет тяжелее, а какой легче, наблюдая за ним на расстоянии.
В работе 2019 года птицы выбирали правильный объект в 73% экспериментальных испытаний, хотя не имели возможности заранее потрогать эти предметы. (Cambridge Repository).
То есть, не имея информации об объекте, они через косвенные причинно-следственные факторы определяли его физические свойства.
И вот теперь возвращаемся к LLM.
Современные нейросети способны помогать в проектировании, обучении, аналитике и творчестве. Это и есть интеллектуальная деятельность в функциональном смысле.
Но это не значит, что они обладают разумом.
У LLM пока нет доказанного субъективного опыта. Нет доказанного самосознания. Нет собственного намерения. Нет внутренней биографии. Нет самостоятельной жизненной цели. Нет полноценной картины мира в человеческом смысле.
Да, мы можем создать вокруг модели агентную оболочку: подключить память, инструменты, интернет, расписание задач, автономный ресерч, базы данных, «сон» в виде фоновой обработки информации и даже долгосрочные цели. Но это будет архитектура, созданная человеком. Это может сделать систему более автономной и даже позволит ей самостоятельно совершать с нашей точки зрения разумные действия, но такая супернейросеть не будет обладать самосознанием.
Хотя не все со мной согласны, например Философ Дэвид Чалмерс в работе о сознании LLM осторожно допускает появление сознания: у нынешних больших языковых моделей нет сильных доказательств сознания, при этом возможность появления сознательных наследников таких систем в будущем нельзя просто отмахнуть. (Boston Review).
Но я помню, какой ходил хайп, когда вышла GPT-4, которую уже некоторые исследователи окрестили разумной моделью... Они уж слишком перефантазировали, как выяснилось впоследствии.
Именно поэтому на мой взгляд вывод таков:
Современные LLM — это не «просто болталки» и не «обычные программы». Это реальные системы искусственного интеллекта, которые выполняют интеллектуальные функции: обобщают, классифицируют, объясняют, пишут, планируют, программируют и помогают решать задачи.
Но современные LLM пока не являются искусственным разумом.
Их можно назвать интеллектом без сознания. Инструментальным интеллектом. Функциональным интеллектом. Системой, которая умеет выполнять интеллектуальную работу, но не обладает внутренним «я».
И это, на мой взгляд, самое важное различие.
ИИ уже существует.
Искусственного разума — ещё нет.
Когда ИИ начнут самоосознавать сами себя, когда станут истинно разумными?
Высока вероятность, что на основе нынешней архитектуры LLM и теми подходами к обучению будет повышаться только общий интеллект нейросетей, а никакого искусственного разума так и не появится.
Но если допустить, что мы идем по правильному пути, то уже сейчас появился искусственный интеллект как инструмент, на его основе начинают появляться автономные агентные системы, далее неизбежно появление долгосрочной памяти. Такой ИИ будет уже способен на цельность поведения, самонастройку, собственные модели мира и устойчивое внутреннее состояние.
Маркетологи незамедлительно объявят такую нейросеть разумной. Однако вопрос о том, станет ли она когда-либо обладать сознанием, выходит за рамки любых маркетинговых дискуссий. Это одна из наиболее значимых научных проблем нашего времени.
\\ МАКС канал