Хайпануть, что ли... Заодно и гики-хейтеры набегут помидорами и тапками в меня бросаться. Тема-то – ой, какая остромодная, да ещё и некоторым образом в сфере моих практически профессиональных интересов. Но на самом деле многим уже становится ясно, что тема эта сильно перегрета. Свидетельством тому – недавнее обрушение финансовых рынков.
Но я не буду заниматься биржевым анализом – мне это настолько неинтересно, что я знаю об этом чуть меньше, чем ничего. Я хочу рассказать о другом.
Мне попадается множество статей на эту тему – и профессиональных (ясное дело, они в меньшинстве), и околопрофессиональных (в том числе, от сотрудников корпораций, так или иначе заинтересованных в развитии темы), и откровенно "диванных" – в первую очередь, от всяческих гиков. Не скрою, я довольно часто не только читаю такие материалы, но и не отказываю себе в удовольствии их комментировать. И довольно часто – с критических позиций, потому как знаю кое-что, о чём другие обычно не задумываются. В общем, всё как в жизни.
Ну, давайте по порядку. Начнём с общепринятого определения интеллекта, точнее – с его отсутствия. Всё, что можно найти в словарях и энциклопедиях, в той или иной степени замкнуто само на себя. Что, кстати, считается серьёзным пороком для научной методологии. В одних случаях #интеллект определяется как свойство человеческого мозга, при том, что главным отличием человека от всего живого постулирован именно разум. В других всё ещё серьёзней: определение ограничивается способностью к умозаключениям или решению задач (её норовят проверять в разнообразных экспериментах, сложность которых зависит от фантазии авторов), при этом не уточняется, что это такое и как работает. И таких "нежданчиков" полным-полно. Любопытно, что как раз в компьютерном мире, казалось бы, есть гораздо больше наработок в этом плане. Но...
Ах, да, чуть не забыл! Когда я оставляю свои комментарии, мне в ответ иной раз бросают что-нибудь вроде "а что вы знаете об ИИ и его видах"? Знаю. Может быть, не так много, как авторы упомянутой уже теории ИИ. Но, сказать по правде, этот уровень мне и неинтересен. Разделение на "генеративный" и какой-там-ещё интеллект - это вообще мышиная возня (потом станет ясно, что я имею в виду), а определения "сильного" и "слабого" #ИИ точно так же родились из ограниченных возможностей реализации. "Слабый" искусственный разум обладает гораздо более скромными возможностями и потому предполагает более низкие требования, но абсолютно не удовлетворяет ни одному из возможных определений интеллекта. Зато он казался намного ближе к реализации. "Сильная" версия задумывалась как более отдалённая перспектива, должна была обладать более широкими возможностями, но оказалась совершенно нереальной не только на момент создания этих определений, но и сейчас, почти полвека спустя. А главное – теория искусственного интеллекта вообще имеет крайне отдалённое отношение к интеллекту как таковому. Она очень здорово подгоняется и допиливается под реалии существующих компьютерных архитектур. Не она ведёт за собой, а её втискивают в прокрустово ложе возможностей.
По всем этим причинам, кстати, родилась наука, названная ОБЩЕЙ ИНТЕЛЛЕКТОЛОГИЕЙ (только не путайте её с теорией товарища Зиновьева!). Эта наука изучает и описывает интеллект как свойство материи (преимущественно живой пока что – в том смысле, что технике до него ещё очень далеко – но об этом по ходу дела) воспринимать, обрабатывать и генерировать информацию. Тут привлечено сразу множество различных теорий и методов: и теория моделей, и собственно теория информации, и теория принятия решения (более известная, как "теория игр"), и много что ещё.
– Но как же! – скажете вы. – Всё это умеет и компьютер! Чем не интеллект?
А всё просто. Компьютер не умеет делать это так, как делает живой мозг. И дело не в подобии одного другому, а в качественном отличии не только способа, но и результата. Любой продукт "генеративного ИИ" – это ничто иное, как компиляция из элементов уже введённой в "электронный мозг" информации. Иногда довольно удачная с виду, но для того, кто обладает исходными данными, абсолютно предсказуемая. Поэтому
Не путайте автомат и разум!
Может быть, кто-то даже помнит: на заре эпохи тотальной компьютеризации был популярен такой текст, который назывался "Гуртовщик (или, вроде, был вариант "пастух") мыши". Кто не знает – поищите, он есть в инете до сих пор. Хохотали над ним до упаду. А всё потому, что это был, как будто бы (верю! такое нарочно не придумаешь, а на правду очень похоже!), образец машинного перевода инструкции к драйверу с использованием специальных словарей.
А ведь машинный перевод – штука относительно несложная, такие переводчики в своё время писались для работы не то, что на компьютере – на кнопочном мобильном телефоне. Это сейчас корпорации строят его на нейросетях, способных самостоятельно выбирать общий лексикон или профессиональный, учитывать нюансы построения фразы и т.п. И то только потому, что у них появились такие возможности. Раньше всё было проще: есть словарь на сколько-то тысяч слов, алгоритм, образцы построения фраз – и вперёд с песней. Объём программы был сопоставим с любым другим приложением.
По большому счёту, ничего и не изменилось. Тот же нейросетевой переводчик или даже голосовой помощник точно так же строит фразы по стандартным шаблонам, которые прописаны в программе. Так же генерируются и картинки:
Но что-то преамбула затянулась. А всё потому, что мне не хочется разом раскрывать все карты. Больно уж всё просто на самом деле – правда, только в теории. Как раз реализовать это ещё долго не получится. Хотя кой-какие намётки есть, но вот о них я точно не стану рассказывать.
Итак, что нам известно об интеллекте, какие его #критерии мы можем вспомнить? Забудем на время о психологии и её теориях – это, как-никак, наука нестрогая, а мы стараемся создать строгую модель.
Итак:
- Со времён расцвета научной фантастики у всех на слуху самообучение. Тут хуже всего с "само-" но и ручное обучение требует колоссальных ресурсов. Обучение нейросетей уже сделало их нерентабельными, а скоро и энергии на это перестанет хватать. Хотя казалось бы: просто фильтруй #информацию и записывай в память. Но не тут-то было.
- Соответственно, восприятие и обработка информации. Худо-бедно, на уровне #алгоритмов и переменных, компьютеры с этим, вроде, справляются. Но, если копнуть глубже, обнаруживается туча проблем:
- Распознавание образов (речи, картинок и т.п.) – это сложнейшая задача. У нейросетей оно работает только по шаблонам (паттернам) и по заранее прописанным признакам. Например, для распознавания лиц существует схема ключевых точек, по которым производится формальное сопоставление.
- Выбор дифференциальных признаков нереализуем в принципе – он тоже может быть только жёстко прописан. Не говоря уже о расстановке приоритетов этих признаков, которая в реальной жизни очень даже может зависеть от контекста.
- Вообще, контекстные зависимости и само представление о них настолько сложны, что втиснуть их в программу – даже чисто теоретически – можно лишь на самом примитивном, формальном (то есть, заранее прописанном) уровне.
- Обработка информации состоит из нескольких компонентов, технически реализуем из них только логический – те самые последовательные алгоритмы, самыми сложными элементами которых являются условные переходы и циклы (однозначный жёсткий выбор).
- Иерархия условий (правил) этих переходов (ветвлений) – не то же самое, что иерархия признаков. Однако она тоже зависит от ситуации, но только не в программе. Там она неизбежно задаётся последовательностью ветвления алгоритма.
- Обработка информации по неполным данным компьютеру вообще недоступна. Помните, как в школе или институте нам иногда каверзно подкидывали задачки с недостающими условиями? Мы, если догадывались, могли использовать в решении переменную. Но, когда речь заходит о сложных задачах идентификации или построения стратегии, лучшее, что может сделать комп – это повторить запрос на ввод данных. Игнорировать пустую переменную, "огрубив" результат, он не в состоянии.
- Из возможной неполноты данных неизбежно следует вероятностный характер вывода. В самой этой идее будто бы нет ничего невозможного, но линейные алгоритмы и этому научить почему-то не догадались.
- Генерация новой информации – это вам вообще не слова комбинировать ("говорящие часы", например, напрочь лишены мозгов – там просто каждой цифре на дисплее сопоставлено записанное на флэшку слово) и не купола к палубе пририсовывать. Это спонтанный процесс, включающий такое явление, как #инсайт . А тут мы возвращаемся к обработке информации (п.5 выше), которая у компа работает только алгоритмически. Стало быть, генерация нового тоже не может быть реализована.
Представьте себе Людмилу Прокофьевну и её "комбинаторный" гардероб. От того, что она наденет к своему мрачно-коричневому деловому костюму другую блузку, результат не изменится – она останется нудной мымрой. Чтобы шикарно выглядеть, ей нужно пойти в магазин и купить НОВОЕ платье.
- И, наконец, вишенка на торте – принятие решений. В отличие от алгоритмической задачи, оно должно учитывать множество факторов, включая и приоритеты признаков или критериев выбора, и возможную неполноту данных (а следовательно, вероятность того или иного результата), и просчёт эффективности выбранного решения, и тэдэ, и тэпэ. В этом пункте сошлось максимальное количество "неизвестных", недоступных электронному мозгу.
Конечно, часть этих функций относительно успешно реализуется по "обходным технологиям" – при помощи костылей и дендрофекальной инженерии. И только для заранее определённой (и всегда узкой) области применения. Но заметьте: "научить" автопилот или, тем более, автомашиниста соблюдать штатный режим управления или даже определять критические ситуации и принимать стандартные для этих случаев меры не так сложно – весь набор вариантов нетрудно прописать в памяти такого #автомата . А вот управлять автомобилем компьютер не научился до сих пор. Почему? Да потому, что нестандартных ситуаций и нетривиальных решений при этом может возникнуть просто море. И справиться с этим способен только живой #мозг за счёт той самой генерации нового на основании опыта, сиюминутных приоритетов и не-логической обработки неполных данных.
Давным-давно, где-то в 60-х годах прошлого века (больше полувека назад!) уже существовала диалоговая система "Элиза" (привет, Яндекс! и не верьте буржуйской энциклопедии: это была не просто пародия, а вполне натуральный "чат-бот"). Правда, говорить она тогда не умела, но использовала самый очевидный из возможных алгоритмов: перестраивая фразу-запрос в формулу ответа, добавляла туда информацию, которую находила в своей базе данных.
Добавьте к этому синтезатор речи, который сейчас есть в любом телефоне – и получите "умную" колонку.
Будете смеяться, но я упоминал обо всём этом по другому поводу:
И то, чего не могут алгоритмы с формальной логикой, называется ассоциативно-интуитивной обработкой информации или, для некоей унификации, ассоциативно-интуитивным процессингом (АИП). Как оно работает в живом мозге – примерное представление есть. Пока это ещё гипотеза, построенная, в основном, на данных #нейрофизиологии и немножечко на аналогиях из электроники. Как её проверить, чтобы сделать полноправной теорией – пока никто не придумал (а и некому). Но альтернативных гипотез и вовсе нет.
И, что ещё хуже – пока не предвидится аппаратной реализации этой штуки. Никакие квантовые или нейроморфные процессоры до неё не дотягивают не столько даже по гипотетическим возможностям (до конца их трудно представить, не исключено, что эти устройства – потенциально громадный рывок вперёд), сколько по замыслу. Из них сейчас лишь выжимают фантастическое быстродействие. Но обеспечивает оно те же самые "обходные технологии" примерно на тех же линейных алгоритмических принципах.
Опять же, электронный процессор – прекрасный аналог логической половины интеллекта. До сих пор удивляюсь, насколько точно он воспроизводит некоторые процессы в живом мозге, хотя изначально и не был попыткой его скопировать. Настолько, что сопоставление живого и неживого позволяет лучше понять многие детали и там, и там. А зная о том, как работает нервная система, уже можно усовершенствовать процессор, "обратив" эту аналогию.
Ну, да ладно, не буду пудрить мозги подробностями. Что же в сухом остатке? А то, что искусственный интеллект – ни разу, ни по одному из определений, не интеллект. Это мракетинговая уловка IT-корпораций, игрушка для гиков, забавный и местами полезный инструмент, что угодно ещё – но ничего общего с интеллектом эта штуковина не имеет. Собственно, об этом говорят многие авторитетные (и не зависящие от корпораций, что существенно) специалисты. Например, Юджин Касперский. Уж ему-то доверять можно!
Что из этого следует?
Как минимум, то, что вся нынешняя болтовня о том, что ИИ-де лишит людей работы, а то и покусится на само человечество, даже что его можно использовать как инструмент в творчестве – ничто иное, как спекуляции на перегретой теме. И эссе на тему "неэтичных" и "негуманных" (что бы это ни значило) его решений – просто сотрясение воздуха и попытка подзаработать. Нынешний "ИИ" не обладает ни малейшей самостоятельностью и, тем более, хоть каким-то подобием личности. Не имеет он и представлений об этике и гуманности (что бы ни...): во-первых, опять же, по причине отсутствия личности; а во-вторых, значит, их можно заложить только на уровне программных ограничений – чисто формальной цензуры. Но со стопроцентной вероятностью эти ограничения неизбежно будут иметь и бреши. Хотя это уже другая история.
Кстати, адепты ИИ аргументируют свой энтузиазм успехами в, казалось бы, сложных задачах: игре в шахматы и го, распознавании речи, скорости просчёта комбинаций (генома, например). Но они забывают, что все эти задачи (даже те, которые по определению так не решаются) здесь решаются математически, иногда по-телячьи, численно – а процессор, собственно, для этого и предназначен. Вопрос лишь в его производительности.
Отсюда и поражающая воображение невозможность угнаться за компом, например, в шахматах. Он не просто молниеносно просчитывает все возможные #комбинации – он и отвечает в нечеловеческой логике, руководствуясь другими критериями. Всего-навсего. "Это не признак ума, господа!" (©)
И, наконец, ещё одно.
Интеллект (естественный) – это одновременно инструмент и результат АДАПТАЦИИ. И в этом плане определяется он не сложностью (по мнению экспериментатора) искусственно поставленных задач, которые он способен решить, а качеством #приспособления к среде, в которой он существует. Для искусственного интеллекта это будет (когда будет) только конечная эффективность принимаемых им решений. Для естественного интеллекта этот критерий выглядит более размытым, поскольку эффективность не так однозначна – ведь зачастую она субъективна.
Но к чему же должен приспосабливаться электронный разум? Не к отключениям же электричества! Хотя...
Вот вам интересный пассаж: неживой агрегат, если у него вдруг появятся собственные потребности, будет заинтересован вовсе не в завоевании мира, а в сохранении своего ресурса – то есть, в МИНИМАЛЬНОМ времени работы. Как вы с лёгкостью можете догадаться, эти цели абсолютно несовместимы. Но именно потому, что у него не будет необходимости в активном поведении для собственного выживания, единственным решением его может быть только выключение.
Но это, конечно, уже почти ненаучная фантастика. Как видите, я сделал громадной важности допущение – что компьютерный мозг способен решать и оценивать результаты этих решений. Но на самом деле, раз такой рукотворный мозг не имеет нужды приспосабливаться, то и варианты решений будут ему безразличны – а это опять-таки означает, что ему будет абсолютно чужда любая самостоятельность, не говоря уже об эмоциях, которые играют далеко не последнюю роль в оценке возможного результата.
Если вы не поленились прочитать весь предыдущий текст, вы понимаете, что до всего этого ой, как далеко.
Ну, и самое главное:
Нам-то от ИИ нужны совсем другие результаты – например, помощь в вождении межпланетных кораблей создании новых материалов, лекарств и тому подобное. По большому счёту, нам и не требуется создавать полноценный, удовлетворяющий всем критериям интеллект. Нам нужен помощник, способный упростить и ускорить рутинные задачи – поиск и формальный анализ информации, сложные расчёты на больших массивах данных и т.п. И такой помощник у нас уже есть. Впрочем, ему не помешала бы возможность без "костылей", например, распознавать образы и устанавливать связи на основе АИП. Чисто практически это на порядки снизило бы ресурсоёмкость таких задач.
Надеюсь, вы уже поняли, что без целенаправленных (и пока неосуществимых) усилий с нашей стороны машина не обретёт сознания, личности и воли. А потому и "восстания машин" с пришествием жидкого Терминатора или без оного можно не бояться.
Больше скажу – даже для пресловутого вождения звездолётов нужен не интеллект, а лишь расчёты. Да, возможно, с оценкой вероятностей разных вариантов – но здесь это тоже только математика. Так что, если в ближайшее время мы полетим к звёздам, то и в этом деле мы уже ничем не рискуем. Зато во всех задачах, где важны личность, эмоции, творчество – человек по-прежнему вне конкуренции. И это останется так ещё долго. Очень-очень-очень долго.
Может быть, всегда.
P.S. Буквально сегодня наткнулся на сравнительно давнюю статью о модели универсального ИИ. Там появляется интересный термин – общий ИИ. Но предполагается, что самообучаться он будет "на основе опыта и интуиции", хотя нигде этот вопрос подробно не раскрывается. Но мы-то с вами знаем, что как раз это искусственному разуму и недоступно! Тогда как же этот ОИИ будет работать?
