Что за чепуха, — скажет возмущённый читатель — как определение может быть опасным?!
Может, если оно упорно транслирует неверные установки в массовое сознание. Как бы специалисты ни пытались объяснять и популяризировать науку, столько бы копий ни ломали, столько бы сил ни тратили… Они как зомби — всё новые и новые поколения людей с неверным отношением к искусственному интеллекту. Ладно бы обыватели. Зомби осваивают Python, пополняют ряды новообращённых специалистов и начинают делать именно то, чего нам всем вместе следует опасаться.
Язык имеет магию… Всего-то два слова, «искусственный интеллект», а сколько естественных интеллектов ими вводятся заблуждения. Настало время ответственнее отнестись к определению. Избавить его от неполноты и неточности. Внедрить в него базовые человеческие цивилизационные ценности. Упростить до одной лаконичной и всем понятной фразы. Возможно ли такое? Да. Следите за руками ходом мыслей.
Расхожие определения
Искусственный интеллект в самом широком смысле – это интеллект, демонстрируемый машинами, в частности компьютерными системами.
(Википедия)
А что такое интеллект, все понимают? Одинаково ли?
Читаем далее:
Это область исследований в области компьютерных наук, которая разрабатывает и изучает методы и программное обеспечение, позволяющие машинам воспринимать окружающую среду и использовать обучение и интеллект для выполнения действий, которые максимально увеличивают их шансы на достижение поставленных целей.
(Википедия)
Так всё же, демонстрируемое машинами свойство или область исследований? Видимо, то и другое. Одно название для разных вещей — неудобно, но бывает…
Обратимся к официальному документу — Национальной стратегии развития искусственного интеллекта на период до 2030 года (с изменениями на 15 февраля 2024 года):
Искусственный интеллект — комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые с результатами интеллектуальной деятельности человека или превосходящие их. Комплекс технологических решений включает в себя информационно-коммуникационную инфраструктуру, программное обеспечение (в том числе, в котором используются методы машинного обучения), процессы и сервисы по обработке данных и поиску решений.
Комплекс? Можно ли называть комплексом разные решения, никак не связанные друг с другом, разработанные для разных целей разными командами в разных частях земного шара? Значит, всё-таки не комплекс решений, а множество разрозненных технологий. Но так сказать нельзя, несолидно для национальной стратегии.
Ещё вопрос: мы в самом деле хотим заложить на уровне национального определения такие вот цели — сопоставимость или даже превосходство результатов ИИ над человеческими? Или цель всё же в другом, а это лишь средство, и потому закладывать его в определение не следовало бы…
И ещё, зачем в определении ИИ перечислять компоненты комплекса технологических решений? Тем более, это не единый комплекс, а множество разрозненных и несовместимых друг с другом комплексов для решения весьма разнородных задач.
Менее надёжные источники тоже можно посмотреть — просто чтобы посмеяться. Вот некоторые результаты с первой страницы поисковой выдачи Яндекса:
- «ИИ — это не инструмент или программа, а отдельное направление компьютерных наук»;
- «ИИ — это компьютерная программа, которая принимает и анализирует данные, а затем делает выводы на их основе»;
- «ИИ — это свойство интеллектуальных систем выполнять функции (творческие), которые традиционно считаются прерогативой человека»;
- «ИИ — это способность системы правильно интерпретировать внешние данные, извлекать уроки из таких данных и использовать полученные знания для достижения конкретных целей и задач при помощи гибкой адаптации».
То есть люди готовы понимать под искусственным интеллектом и область исследований, и комплекс, и программу, и не программу, и свойство, и способность. Кому как удобно.
Немного истории
Название ИИ (AI, Artificial Intelligence) было придумано Джоном Маккарти перед знаменитым дартмутским семинаром 1956 года. Тогда оно обозначало мечту ученых об отдалённом будущем, в котором компьютерные программы будут решать сложные интеллектуальные задачи, до сих пор посильные только людям. То есть изначально это не что-то конкретное и уже созданное, а нечто абстрактное, про что даже не ясно, может ли оно быть сконструировано в будущем.
Прошло почти 70 лет, но в научной среде «искусственный интеллект» принципиально остаётся тем же самым — условным общим названием для множества разрозненных технологий и для мечты учёных об умных программах. В перспективе — всё более и более умных.
Немного психолингвистики
Условное название, зонтичный термин не может быть ни объектом, ни субъектом. К нему не применимы глаголы активного действия «решил», «сделал», «обыграл», «убедил», «впервые убил человека»… Говорить так — значит самих себя обманывать.
Допустим, в рамках области исследований ИИ создан конкретный продукт, компьютерная система. Это уже объект. Можно ли его называть ИИ? Условно и с оговорками — да. Может ли он решить, обыграть, убить? Нет. Поскольку решения о его использовании для тех или иных целей принимают люди, они же несут ответственность за последствия.
Название «искусственный интеллект» неудачное, и только теперь ясно, насколько вредное. Потому что вводит массы людей в заблуждение. Пока этот термин не выходил за пределы научной среды, всё было нормально. Учёные прекрасно понимают всю условность терминов, которые они сами же и придумывают. Плохо, когда профессиональная терминология попадает в информационное пространство без должных объяснений и популяризации, провоцируя необоснованные ожидания и предвзятость, вплоть до массовых когнитивных искажений.
Немного биологии
Мы пока не можем толком определить, что такое разум или интеллект. Раньше нам казалось, что между человеком и остальным животным миром — пропасть. Мы разумны, они нет. Но в последнее время биологи находят у многих видов животных всё больше отдельных признаков разумного поведения. И это не только обезьяны, но и дельфины, врановые, и даже осьминоги. Отличие человека в том, что у него все признаки разумности наблюдаются в сочетании.
Мы понимаем всё больше и больше, как работают отдельные нервные клетки и мозг в целом. Но окончательно определить, что есть разум или интеллект, и чем это отличается от не-разума или не-интеллекта, наука пока не в состоянии. Не знаем даже, обязан ли разум быть сетью нейронов.
А как же способность ИИ-систем к обучению, развитию, способность делать выводы из больших массивов информации?
Осьминоги способны вылезать из лабиринтов и открывать баночки из-под лекарств, причём они этому учатся сами, методом проб и ошибок, без родителей и учителей. Вороны научились с детских горок кататься ради удовольствия — сам наблюдал. Шимпанзе и медведи в цирке катаются на велосипедах, их дрессировщики учат. Многие животные-оппортунисты развивают у себя новые навыки путём обучения в изменчивой внешней среде. Однако мы отказываемся называть всё это интеллектом.
Немного математики
Делать выводы из массива данных способны алгоритмы приближения функций. Карл Фридрих Гаусс на рубеже XVIII и XIX веков использовал метод наименьших квадратов для определения эллиптических орбит планет по астрономическим наблюдениям. Без всяких компьютеров, между прочим. Этот же метод мы сегодня используем для обучения искусственных нейронных сетей. Определённо, он обладает способностью к обобщению на основе данных. Однако мы отказываем ему в праве называться «интеллектом». Уже более двух столетий он для нас всего лишь вычислительный метод аппроксимации функций или (как тоже говорят) метод восстановления зависимостей по экспериментальным данным.
Однако, когда машинное обучение определилось как область искусственного интеллекта (в 1959 году), классические методы аппроксимации немедленно и прочно там прописались.
Таким образом, с технологической точки зрения, как и с биологической, границы понятия «интеллект» тоже размыты.
Немного о компьютерных технологиях
Сегодня мы уже считаем рутинными автоматическую проверку орфографии, игру в шашки, шахматы и даже го, распознавание печатных текстов, поисковые системы, распознавание лиц, кредитный скоринг, голосовые помощники и многое другое. Однако на момент постановки эти задачи считались интеллектуальными и причислялись к ИИ.
Памела Маккордак в книге 2004 года «Машины, которые думают» заметила: каждый раз, когда кто-то придумывал новый способ заставить компьютер делать нечто новое (например, играть в шашки), обязательно появлялись критики, которые говорили: «Это не мышление, а всего лишь вычисления». Это явление стали называть «эффектом ИИ» (AI Effect). Каждый раз понятийная граница между «просто вычислением» и «магией искусственного интеллекта» отодвигалась в сторону ещё не решённых задач. Есть даже такая метафора, называемая теоремой Ларри Теслера: «Искусственный интеллект — это те задачи, которые мы ещё не научились решать».
Теперь нам кажется, что большие языковые модели (БЯМ, они же LLM, Large Language Model) демонстрируют чудеса разумности. Однако они всего лишь извлекают контекстные смысловые взаимосвязи из терабайтов текстов, написанных человечеством. Как бы они это ни делали, это лишь отголосок человеческого разума. Это просто вычисления, которые человек волен как запустить, так и остановить.
Тем не менее, кое-что необычное всё же произошло. Впервые за 70-летнюю историю искусственного интеллекта вычислительный алгоритм приобрёл навыки, которым его не учили в явном виде. Эмерджентные навыки, сами собой проявившиеся. Большая языковая модель GPT училась предсказывать слова в тексте по предыдущему контексту. Затем немного доучивалась правильно выполнять инструкции в диалоге с людьми. И это всё! Кажется чудом, что заодно она приобрела навыки изложения, сочинения, планирования, перевода с одних языков на другие, решения логических и математических задач, исправления собственных ошибок, поддержания диалога с человеком на любые темы. Не говоря уже о практически идеальной орфографии и грамматике.
Вот краткая история прогресса модели GPT, начиная со второй версии:
Эмерджентность — это то, что действительно впечатляет. В то же время, это объяснимо.
Человеческий язык — необыкновенно мощный инструмент коммуникации, применяемый людьми для решения вот этих самых задач. Модель научилась языку, пронаблюдав миллиарды ситуаций языкового употребления. Разве не так мы сами учимся общению с раннего детства? Нам, пожалуй, гораздо меньшего числа примеров вполне хватает. Может быть, в этом и есть суть интеллекта?
Немного футурологии
Очертания следующего после БЯМов прорыва в целом уже ясны. Фундаментальные модели (Foundation Models) будут учиться не столько на потоках слов — текстах, написанных человечеством, сколько на потоках информации, поступающей из окружающего мира: видео, аудио, сигналов, событий. Цель — научиться решать любые задачи в меняющейся среде. Открытой среде, в которой может происходить что угодно. Модели внимания и адаптации, необходимые для этого, уже отработаны на текстах. Тексты тоже будут обрабатываться — ради навыка коммуникации с людьми.
Фундаментальная модель погружает объекты любой природы (изображения, видео, речь, сигналы с датчиков, тексты) в единое векторное пространство смыслов, что позволяет модели адаптироваться под решение практически любой задачи и затем поговорить об этом на человеческом языке.
Фундаментальные модели, возникнув как разновидность глубокого обучения, начинают вытеснять предыдущее поколение моделей. Точно так же, как немногим ранее модели глубокого обучения вытесняли методы машинного обучения. Которые, в свою очередь, ещё раньше вытесняли экспертные системы и другие классические методы искусственного интеллекта.
Будут ли такие автономные агенты, функционирующие в открытой среде, общаться друг с другом для коллективного решения задач? Да, уже общаются.
Смогут ли они вырабатывать для этого собственный язык? Да, уже вырабатывают; причём этот язык не понятен людям, что несколько пугает.
Можно ли их заставить использовать для этой цели человеческий язык? Да, и это тоже сделано. Такие модели получили название сократических (Socratic Models). Поскольку именно философская школа Сократа рассматривала язык как средство коллективного решения любых задач в любых ситуациях реального мира. Кажется, что это уже предельно похоже на интеллект… Но ведь и это — всего лишь вычисления!
Немного об эволюции разума
Что же тогда интеллект? С точки зрения биологической эволюции, это та совокупность механизмов адаптации, которая позволила виду homo sapiens оказаться наверху пищевой цепочки и стать не только доминирующим видом на Земле, но и видом, преобразующим биосферу планеты. Тогда получается, что единственным надёжным доказательством создания ИИ является его способность превзойти нас в задаче выживания на планете. Естественный интеллект ведь сформировался, ровно эту задачу решая. Жутковато становится…
К счастью, в этих рассуждениях есть логическая ошибка. Когнитивное искажение, связанное с идеей о замене человека машиной. Идеей, исподволь звучащей в самом термине «искусственный интеллект». Ох уж эта магия слов! Никто ведь не заставляет нас именно так понимать интеллект и именно так ставить задачу создания искусственного интеллекта.
Задачу ведь ставим мы сами.
Мы — это коллективный разум человечества.
Безопасное определение ИИ
Искусственный интеллект — это вычислительные технологии, создаваемые для повышения эффективности интеллектуального труда людей.
Цивилизационная цель искусственного интеллекта — не превосходить человека и не замещать его, и даже не имитировать его интеллектуальные способности, а служить и помогать ему в умственном труде.
Эффективность ИИ должна оцениваться не по сравнению с работой человека, а по улучшению условий и производительности труда человека. Включая совокупное влияние на экономику, социум, жизнь людей. Это требует взвешивания многих критериев, оценивания возможностей и угроз в каждом конкретном случае применения ИИ, тщательной разработки законодательства, стандартов, регламентов, правил техники безопасности и прочих регуляторных норм отдельно для каждой отрасли.
Такое определение пресекает непродуктивные терминологические споры о понятии интеллекта и заодно естественным образом объясняет парадокс «AI Effect» и теорему Ларри Теслера.
Автоматическая проверка орфографии, когда она только разрабатывалась, относилась к искусственному интеллекту, поскольку она повышала эффективность умственного труда людей — не надо больше лазить в словарь за каждым словом, в котором сомневаешься. Теперь этот сервис доступен каждому, проблема закрыта, повысить эффективность умственного труда в этом направлении больше не удастся, значит, технологию незачем причислять к ИИ. Счёты, логарифмическая линейка, арифмометр, калькулятор — тоже когда-то были искусственным интеллектом, вызывая восторги и опасения.