Удивила "новость", опубликованная главным информационным агентством страны. Доктор технических наук академик РАН Игорь Каляев выступил с предложением ввести понятие "интеллектуальная мощность" для оценки "ИИ". "Логично предположить, что сила интеллекта системы зависит от ее способности выполнять некую интеллектуальную работу за ограниченный промежуток времени. <…> Предлагаю ввести понятие интеллектуальной мощности — это объем интеллектуальной работы, выполненный за некий промежуток времени", — сказал Каляев.
Логично ли? Кажется, нет. Нам сразу хочется спросить, что такое "сила интеллекта системы" и "интеллектуальная работа"? Понятие "сильный искусственный интеллект", придуманное американским философом Джоном Сёрлом в 1980 году, мягко говоря, странное, и даже отчасти глупое, но речь не о том. Если, говоря про "силу", Игорь Анатольевич, имел в виду "сильный", то спешим заметить, что "сильный" и "сила" — это два разных понятия - качественная и количественная характеристика. В пользу этой версии говорит сама статья: "все чаще используют такие понятия, как "слабый" и "сильный" искусственный интеллект". В таком случае, получается, что цель ввода нового термина заключается в том, чтобы измерять какую-то "интеллектуальную мощность" для присвоения звания "сильного" или "слабого" алгоритму. Зачем?
Так называемый, "искусственный интеллект" (который, на самом деле, ни разу не интеллект) — это многоступенчатый алгоритм, динамически изменяющий свое состояние, в каждом узле (именуемом "нейроном"), выбирающий наиболее статистически верный (подходящий) вариант. Абсолютно никакого интеллекта, только методы математической статистики, преимущественно, из второй половины прошлого века. "Интеллектуальная работа", чтобы это не значило, любого ныне существующего алгоритма в двоичной системе всегда равна 0. Ну как, сильно?
Давайте перенесемся в мир, где эльфы и единороги пьют смузи, катаются на гироскутерах, и допустим, что это не так. Скорость работы любого (не только нейросетевого) алгоритма напрямую зависит от вычислительной мощности техники, на котором осуществляется его исполнение. Как, наверное, все знают, нейросетевые алгоритмы обычно разворачиваются на кластерах графических процессоров или суперкомпьютерах с графическими процессорами. Понятие "вычислительная мощность" (оно же "производительность") древнее и общепринятое. Также имеется понятие из конца 1960-х "FLOPS" - количество операций с плавающей точкой в секунду. Не стоит забывать, что любой алгоритм также зависит от эффективности и оптимальности (этой темы мы коснулись в публикации про язык Си): мы же можем выбрать не самый подходящий алгоритм для решения задачи и сделать его реализацию однопроцессной и однопоточной, и тогда эти ваши суперкомпьютеры попросту не будут иметь значения. Кроме того, у нейросетевых алгоритмов есть две ключевые особенности. Во-первых, скорость и качество ("правильность") принятия решения существенно зависит от обучающего "датасета", то есть от качества его разметки, реализуемой "кожаным мешком". Во-вторых, огромное влияние имеет конфигурация алгоритма, которая осуществляется подгонкой все тем же "кожаным мешком", для решения конкретного класса задач на конкретных вычислительных мощностях. Все перечисленное, помимо вычислительной мощности, - неформализуемые (или очень трудно формализуемые) факторы - как быть с ними? Игнорировать их нельзя - слишком большое влияние они оказывают на итоговый результат. Таким образом, не понятно, как сравнивать "не самый лучший" алгоритм на самом мощном суперкомпьютере в мире (ныне это Frontier, американский суперкомпьютер, имеющий производительность почти 1.2 эксафлопс, т.е. 1.2 * 10^18 флопс) и "лучший" алгоритм на каком-нибудь Pentium'е? Представим себе, что мы подогнали оба алгоритма так, чтобы по формуле академика Каляева "интеллектуальная мощность" у них была одинаковая. Оба алгоритма "слабые" или "сильные"? До какого численного значения "интеллектуальной мощности" будем считать алгоритм "слабым"? Что возьмем за эталонную величину? А самое главное, все равно не понятно, зачем это нужно.
Что же про "сильные и слабые ИИ" нам расскажет Интернет?
- "теория сильного (также используют термин универсальный) искусственного интеллекта предполагает, что искусственная система может приобрести способность мыслить и осознавать себя как отдельную личность (в частности, понимать собственные мысли), хотя и не обязательно, что их мыслительный процесс будет подобен человеческому"
- "теория слабого (также используют термины прикладной или узкий) искусственного интеллекта предназначен для решения какой-либо одной интеллектуальной задачи или их небольшого множества (например, системы для игры в шахматы, распознавания образов, речи, кредитный скоринг и т. д.), которые не подразумевают наличия у компьютера подлинного сознания"
Тоже несусветный бред, особенно, в части "мыслить и осознавать". Мы понимаем, что в PR темы "ИИ" вкладывается огромное количество денег, вероятно, даже большее, чем в сами разработки. Потому не ставим перед собой задачу борьбы с ветряными мельницами. Мы, дорогие читатели, в том числе с Вашей помощью, только надеемся создать островок здравомыслия в океане безумия. В приведенных выше "определениях" есть здравое зерно - вопрос об "универсальности": действительно, бум, вызванный невероятным количеством денег, влитых в генеративные алгоритмы, породил множество интересных реализаций (в т.ч. ChatGPT, Midjourney и другие). Все они решают много разных классов задач, в каком-то смысле их можно назвать "универсальными" (или же просто попытаться выделить "надкласс" и записать всех в "прикладные"/"узкие"?). Вполне закономерно возникает вопрос - а как понять какой алгоритм более универсален, какой - менее? Для начала, правда, посредством научных дискуссий, стоит определить уместно ли вообще такое сравнение. Если да, то кажется целесообразным говорить, по крайней мере, на русском языке, не о "силе", а, например, о "степени универсальности".
Мы надеемся на то, что журналист ТАСС просто, как это в наше время часто бывает, написал что-то ради того, чтобы что-то написать. Разумеется, совершенно не погружаясь в суть.
Больше публикаций Цифрокритицизма: