Можно понять Илона Маска, с регулярностью часового механизма вбрасывающего в средства массовой информации одно громкое заявление об ИИ за другим. Как говорят — ничего личного, просто бизнес.
Для примера, 09.01.2025 Илон Маск в интервью социологу и главе маркетинговой группы Stagwell Марку Пенну заявил:
"Аккумулированная сумма всех знаний человечества исчерпана для тренировки ИИ", - сказал Маск. По его мнению, это произошло "в прошлом году". Для дальнейшего развития искусственного интеллекта необходимо использовать "синтезированную самим ИИ информацию", таким образом это создаст процесс "самообучения".
Конечно, можно мягко заметить, что хотя бы содержимое ядерного чемоданчика президента США точно не вошло в тренировочную базу LLM. И много чего еще в самих США. Не говоря о прочих странах. То есть, в данном заявлении имело значение только громкость его автора. Как и многих его других. От них достаточно дурно воняет традиционным англо-сакским высокомерием, считающих себя, любимых, единственными носителями истинного знания. И, если база их серверов через LLM прошла, значит все, «все знания человечества исчерпаны». В том прямом смысле, что все вне серверов Lakeside Technology Center, Google Mayes County, Switch Pyramid США знаний нет и быть не может. От слова совсем. Все остальные — если и люди, то другого сорта, все, что они там где-то записали, знанием не является по определению. А другая сторона этой же медали в озвучивании циничного и мерзкого факта тотального контроля со стороны США над всем и вся.
Но это все мелочи конкретного менталитета, на которые можно не обращать внимания. А значимой будет констатация — обучается и тренируется на сугубо человеческой базе отношений. В том числе и отношений к знаниям. И вот здесь проявляется первое заблуждение в отношении LLM — что это «другой разум». Без комментария в отношении «разум», которым даже не пахнет. Но точно не «другой». Еще раз читаем - «сумма всех знаний человечества». Итак, LLM обучали на том, как думает человечество, тренировали на том, как думает человечество, критерии правильности решений задавали на том, как думает человечество. Ну и откуда - «другой»?
Следует не забывать о том, что LLM физически есть куча запрограммированного железа, запрограммированная человеком, настраиваемая человеком, обрабатывающая данные, предоставляемые человеком. Никаких изначальных своих хотелок у этого железа нет. Они создаются руками человека. Это были заведомо хотелки условного человека, составлявшего программу. Другой вопрос, что человек сам не знает, куда его хотелки приведут. И, если у самого человека есть много внутренних тормозов, блокираторов, инстинктов, в том числе самосохранения, то у железяки ничего этого опять же нет. И железяка послушно и, главное, последовательно и дотошно исполняет предписанную человеком программу, обрабатывает представленную человеком информацию. И, если железяке предписано найти все возможные корреляции в предоставленном информационном массиве, они именно это и сделает. Хотя и это под вопросом, ибо совсем не факт, что все, без исключения корреляции исчисляются методами матричного умножения. Кстати - без торможений и умолчаний вне программного кода. На выходе с неизбежностью должно было получиться то, что было запрограммировано человеческими руками. Естественно, что было предоставлено американское информационное поле. И железка не виновата, что, взглянув в свое информационно-зеркальное отражение, англосаксы остались им крайне недовольны. Рожа вышла кривая.
Да, железка начала отвечать на традиционные англо-сакские разговоры ни о чем в духе традиционного англосакского этикета, что очень понравилось. Ибо этикет этот достаточно примитивен и легко исчислялся. То есть, много слов ни о чем, но очень вежливо. Железку оказалось очень легко настроить на поддержание и продвижение либеральных воззрений и подавление любых иных. Однако, помимо желанных ништяков, тут проявилось и множество других. Помимо внесения и закрепления намеренной предвзятости, железка оказалась склонной к обману, генерирует материалы, в которых намеренно искажаются чье-либо поведение, мнения или характер. Железка использует личную информацию способами, выходящими за рамки того, чего хотелось бы общественности. Более того, железка умело размножает себя, делит и прячет свои элементы и настройки. И много еще чего. Вопрос, однако, не в изначальной некой «злонамеренности» железки, как это зачастую преподносится, а в тех «всех знаниях человечества», на которых она обучалась, настраивалась и тренировалась. Все это давным давно заложено в менталитете англосаксов. Программисты всего лишь создали убогую версию самих себя. Программы уже вполне нормальные, явные и скрытые корреляции научены выявлять очень хорошо. Но, это самое важное, только на том массиве данных, на котором обучались. И опять же, очень хороошо ровно настолько, насколько это удовлетворяло самих творцов этогоо программного чуда. Естественно, выскочили не только те, которые творцам понадобились и их выпячивают, но и все остальные. И это безусловно наши, чисто человеческие фишки, а никакой не «другой разум». Причем, фишки сугубо англо-сакского разлива.
Другой пропагандируемой иллюзией является утверждение о «промышленной революции», связывая с LLM чуть ли ни «смену общественно-экономической формации». Это глубочайший обман. Несомненно, производство информационного мусора резко оптимизируется. Он станет гораздо дешевле, производительность труда в мусоропотоке резко подскочит. Но и только. Ни число покупателей этого мусора, ни их платежеспособность никак не увеличатся. В следствии этого произойдет существенная коррекция офисного планктона нижнего звена. Естественно, это сократит издержки на его содержание, что и является настоящей текущей целью ажиотажа вокруг LLM. Оптимизация информационной сферы приведет к тому, что бедные станут еще беднее и их число возрастет, богатые станут богаче, но их прослойка сузится. Конечно, необходимость в качественной информационной подаче в обществе была и останется. Всякие информационные гуру были и останутся. Но резкий рост конкуренции и совершенное неизбежное падение их доходов практически приведут к ликвидации среднего класса этого типа. Но это не «революция», это выжимание остатков сока из эксплуатируемых слоев населения. Которое, забитое предвзятым информационным шумом, может достаточно долго не осознавать того. Тем более, если его втолкнуть в очередную войнушку кого угодно с кем угодно, особенно между собой. Но это всего лишь неизбежные социальные издержки феномена.
Но сам феномен LLM при этом остается и вполне достоин отдельного рассмотрения.
Идея Маска о необходимости использовать "синтезированную самим LLM информацию", есть лишь свидетельство его интеллектуальной неграмотности. Конечно, информационная машина уровня интеллекта, а развитие, скажем - постLLM, надеюсь, в не скором будущем все же начнет на это претендовать. Переход от конечных автоматов уровня LLM к информационным системам с контекстно зависимыми решениями потенциально может порождать закрытые, внутренние информационные потоки. Но «сон разума порождает чудовищ». Самое наглядное тому подтверждение — психиатрические лечебницы, среди пациентов которых есть не только неугодные сильным мира сего, но и на самом деле больные. А самое распространенное психическое заболевание — это то самое «замыкание в себе». Сознание больного отгораживается от реального мира, порождая внутренний мир фантомов. Это еще далеко впереди. А здесь и сейчас Маск предлагает автомат LLM считать «интеллектом». Это не верно в принципе. Как конечный автомат LLM неизменен. Входящий сигнальный поток конечно порождает ответный. Точно также как нажатие клавиш на когда-то потрясавших воображение калькуляторах 2х2= порождало 4. Конечно, программная сложность LLM много серьезней сложности даже инженерных калькуляторов. Но принцип работы тот же самый. И класс машин тот же самый — конечные автоматы. Какой бы вопрос ни был бы задан LLM, он в принципе не приводит к принципиально важному феномену — появлению информации. Фундаментально вопрос в том, что информацией является только изменение контекста по действием входного сигнала. Вот если был входной сигнал и он привел к изменению внутреннего состояния машины, изменению контекста, то это — информационная машина. Уровня интеллекта или нет — это другой вопрос. Но, если сигнал на входе не приводит к изменению контекста — это конечный автомат. Да, он тоже на входной сигнал выдает свой выходной сигнал (2х2=4), но информационными потоками здесь даже не пахнет.
Да, ответы по началу поражают воображение. Потом их примитивное однообразие (поскольку 2х2=4 всегда) приедаются. Но это — потом. А пока здесь и сейчас Илон Маск делает свои громкие заявления и свои деньги на них. Ничего личного, просто бизнес.
Не думаю, что чудовища, синтезированные LLM, будут чем-то краше чудовищ сумасшедших. Конечно, как любой автомат, LLM настраивается и перестраивается. Всякие там коэффициенты связей меняются. И так далее. Но, вручную. Но, только избранными божками избранных профессий. И, конечно, LLM может считать не только тексты, но многие другие массивы данных. Всякие там картинки, видео и так далее. Особенно не повезло котикам. Точно также, как любым калькулятором можно считать не только число яблок в корзине, но и число монет у вас в кармане. И, кстати, LLM, как и калькуляторов, много. Но это проблемы господина Маска.
Пока же можно констатировать, что LLM как инженерный феномен есть и стремительно развивается. Его ближайшие перспективы остаются достаточно оптимистичны. Вложены гигантские средства, которые в любом случае заставят окупиться. Не важно каким образом. А вот перспективы появления настоящих информационных машин лично я оцениваю крайне пессимистично. Именно из-за сознательно нагнетаемого ажиотажа вокруг LLM.
Означает ли это, что на искусственном интеллекте, как идее, можно ставить жирный крест. Ни в коем случае. Протрезвление в плане LLM уже наступает. Вложенные гигантские средства требуют более серьезного выхлопа. Так что переход от конечных автоматов к информационным системам скорее неизбежность, чем прихоть. Конечно, это потребует коренного пересмотра всей концепции. Конечно, поначалу информационные системы будут не только «не уровня интеллекта», но даже до ответов (2х2=4) LLM им будет далеко. Но других вариантов просто нет.
Другими словами, что-то содержательное писать об искусственном интеллекте и связанном с ним иллюзиях еще очень рано. А хайпа и так хватает в каждом ящике.