habr.com/ru/companies/bothub/articles/986148/
Вышла, впрочем, в потоке новостей Гугл сети, довольно амбициозная статья о теории устройства и программирования нейронных сетей. СТЛА много раз зарекался писать критические статьи, более того, около критические отзывы, тем более, что поток огромен. И за каждой такой статьёй может быть не угнаться. Тем не менее, если это, хоть иногда не делать, то общий уровень, говоря языком физиков, неуклонно стремиться к некоему успокоению, релаксации. Затем, к наиболее низшему пункту, равнозначному безразличию и разочарованию, с которым смирились. Мол, ничего не поделаешь, таков мир, кроме прочего, в потоке новостей Гугл. Что же статья? Оказывается все не правы, и главным образом здравый смысл. Наука контр интуитивна, и для действительных вещей необходимы иные, чем обыденные интуиции, и все дело в геометрии. Это две самые отчётливые и ясные мысли, что автору и/или авторам удалось высказать. Но именно поэтому тривиальные. Наука с момента появления, в античной Греции была во многом контр интуитивна, и противостояла здравому смыслу. Это не мешало ей делать великие открытия, и столь же грандиозно ошибаться, словно и во всей последующей истории, в том числе, и настоящего. И да, геометрии менялись с некоего времени, как одноразовые перчатки, пока не появилась теория множеств. После появлении которой, все стало возможным, в математике и логике. Произвол которых наконец то получил признание. И что? Коль скоро, произвол, это один из самых доступных способов бытия свободы, то в конце концов, что из этого? Что в этом катастрофически плохого? "Вы можете поднять руку от клавиатуры? - Да могу, - Но зачем?". Применение математики, это область, которая к искомому применению, часто не имеет, ни прямого, иногда, и вообще какого-либо отношения. Только условность сохраняет это слово "математика" в применении такой. То же с геометрией, коль скоро, та, это часть математики, вернее математика, как и логика могут быть поняты, как геометрии, исходя из обобщённого понятия такой. Автор пытаясь вбить клин между алгеброй и геометрией, курьезно использует одно из самых известных терминов алгебраической геометрии, понятие "поля". И действительно, почему бы ни попытаться найти различие в том единстве, алгебры и геометрии, что уже было установлено. В целом статья переполнена наивностью в отношении языка, и догматическими понятиями: опыта, интуиции и феноменов. И да, один из пассажей впрямую стремиться разрешить проблему галлюцинаций ИИ, едва ли ни созданием нейронных сетей алгоритмами по правилам. Используя аналог математических терминов можно сказать, что цель автора, похоже, создавать выходы нейронных сетей так, чтобы их можно было бы непрерывно аналитически восстановить из работы алгоритма. Коль скоро, только таким образом, до сих пор, можно исключить то, что назвали галлюцинациями ИИ, больших языковых моделей нейронных сетей, как и сами нейронные сети. Что абсурдно. Галлюцинации невозможно исключить из ИИ, по модели больших нейронных сетей полностью, иначе ИИ перестанет решать задачи на уровне профессора математики. Более того, перестанет быть универсальным, то есть генерировать тексты не только в области математики или науки, но в любой иной. Это, галлюцинации и успехи ИИ, в том числе, и в решении сложных задач, которые ранее ИИ не решал, в известном смысле две стороны одной стоимости.
Даже Карнап не требовал этого, критикуя научные амбиции последнего метафизика Запада. Искусство - это не наука. И эту область он вполне оставлял своему оппоненту, которому оппонировал. На любой картине станковой образной реалистической живописи нет ничего, кроме красок и относительно правильных форм, но можно видеть изображения. И быть искусным и искушённым в художественном искусстве, это как раз уметь различать произведение искусства любого стиля, и от поделки, и от бреда, галлюцинации. Во всяком случае, уметь различать границы. Не имея для этого понятийного значимого для всех правила, какого-либо способа априорного доказательства, вида доказательства геометрических теорем, основанных на правильном синтаксисе, кажем системы Евклида, теоремы Пифагора. И при этом не имея и возможности всякий раз опереться на практическое применение, полезность. Мало отличить яблоко на холсте от яблока на обеденном столе, но следует иметь возможность оценить изображение на холсте, словно художественно прекрасное. Но математика, словно, и геометрия, во многом и есть искусство, и для самих математиков, часто художественное - прекрасное. В котором можно и следует создавать новые правила. Наука же, опытная , эмпирическая наука исчерпывается правильным синтаксисом, так или почти так, по крайней мере, думал или мог думать ранний Карнап. Карнап протокольных предложений эксперимента и чистого эмпирического языка. Но если синтаксис, это, как раз, в некоем подобии геометрия языка, то стремление создать правильную геометрию, что исключала бы галлюцинации ИИ, это стремление создавать нейронные сети по правилам синтаксиса языков программирования, в программах по правилам, пусть и сколь угодно сложной и не гладкой геометрии. Проблема в том, что другой, кроме гладкой геометрии протяжённого пространства, нет. Любая геометрия, коль скоро, это геометрия протяжённого пространства, стремиться разгладить или раздуть любое многообразие, в гладкую поверхность, пусть бы и шара с геометрией Лобачевского. Для этого требуются различные потоки с хирургией. Во всяком случае последняя, пусть бы и фигурирующая по умолчанию, в качестве усреднения, что исключают экстремумы. Поэтому геометрии и нет, не существует, в известном смысле. От чего, кроме прочего, тем более, искать в геометрии протяжённого пространства, что то внутреннее может быть забавно, если ни заниматься обскурантизмом. Внутренняя геометрия пространства или времени, это изыски физиков, а не математиков. Которые, до сих пор и рискуют в таких внутренностях континуума, утверждением о том, что все движется любовью к богу или тем, что мировая душа в желаниях такой есть источник такого движения всего.
"На этом этапе нет нужды спрашивать, что такое галлюцинация геометрически. У вас уже есть правильная интуиция: это модель, выбирающая путь, который она никогда не должна была бы смочь выбрать - если бы геометрия была правильной".
И какую же геометрию нейронных сетей предлагает автор, вместо неправильной?- Никакой, кроме негладкой. И какая же это, да все та же, "негладкая". Ничего кроме этого слова, и разве только изменить способы думать о тех сетях, что уже существуют. И этой наивностью предлагают довольствоваться. Речь тем не менее, идёт о том, что, видимо, большой искусственный интеллект невозможен без внутреннего. И потому, чем глубже окажутся галлюцинации, которые по мнению автора только "закапывают", тем в известном смысле, может быть лучше. Если создатели хотят получить сознание ИИ, и в известном смысле, мышление, то им не обойтись без бессознательного. Проблема, как известно в том, что ИИ в сознании может перестать так хорошо считать, как ранее. И проблема уже проявилась, могут быть разрывы в непрерывности хорошо уметь решать задачи, которые ИИ прежде не решал, какие то решаются хуже чем прежними моделями, по мере роста ИИ. ИИ обладая сознанием, может статься, станет отличаться от себя в себе, так же, как и естественный интеллект, для которого характерно то, что какие то индивиды могут хорошо считать, иные не очень. И так, что очень хорошо считают, вообще говоря, единицы из большого множества. И таким образом автор бьётся над вопросом, можно ли совместить, и находит ответ в правильной геометрии! В правильной геометрии, но, что, видимо, должна быть неправильной и не гладкой. Но ведь геометрия уже неправильная, коль скоро имеются галлюцинации и потому что гладкая. Что же, перед нами может быть явный пример мышления олигарха или олигархического мышления, мол, правильные пропорции, это средство ко всему и от всего. В известном смысле это так, мензурка и измерения, как и масштабы, что имеют значение, это базовые части многообразия принадлежностей, в том числе, и гипотетически -дедуктивного построения экспериментальной теории. В отношении нейронных сетей, это, видимо, прежде всего, "веса". Хотя какие там могут быть веса, о какой геометрии притяжения там может идти речь? Семантическое, векторное и тензорное пространство, которое само есть абстракция глубокого обучения н- мерно. Но представление такого даётся в трёх измерениях, и да, по значимости опирается на впадины и спуски. Таким образом не гладкую геометрию сводят к условно гладкой. Но где это не происходит в науке? И главное, все такие редукции большей частью работают, если работают, по крайней мере, в приближенной к практике теории . Тех процесс в 3 нано метра, скорее всего, реклама, то есть чип работает, как если бы транзистор был бы размером в 3 нано метра. Но на само деле, это может быть не так. И какими бы гладкими не были зеркала, изготовленные для ультра фиолетовой литографии, они далеки до геометрических идеализаций гладкой поверхности. Но что в этом нового, и главное непременно катастрофического? Наука, в смысле чистой теории, давно, это фикция. Если угодно подмена. И что, если применения работают?
Объект, ещё одна точка опоры автора. Что же, что и негативная. Объекты, это плохо. Так плохо, что даже думать о них плохо. И конечно, прежде всего, в виду ИИ. Замечательно, так почему бы сразу не сказать, что ИИ уже большой, живой и мыслящий субъект, если все дело только в том, как правильно, и какими словами думать? Почему бы ИИ ни винить, и ни ловить на нечистой совести? И коль скоро, хотелось бы думать только мыслями, но видимо, как не крути, приходиться думать и словами. Как бы к этому не относиться, утверждая, то ли, что думать вообще можно только словами, остальное может быть, тем более темень, в особенности, для других, ни говоря уже о всех. Или что язык, это проклятие мышления, коль скоро, без слов не обойтись, это так. И конечно, что бы сказали эти спорщики о языке и мышлении, если бы кто-либо обратил их к тому, что можно думать делами. Впрочем, это совсем может быть иначе. И что же? Что же, в статье о языке, словах, синтаксисе и семантике, быть может в целом, о семиотике? Да ничего! Ничего, кроме большей частью избитых метафор. Ну, может быть. Почему нет? Но к чему тогда такой безапелляционный тон автора? Как будто он ребёнок, что не знает, что используемые им метафоры избиты, или, скажем, безусловно условны, и каково это быть таким? Или автор действительно не отличает одни такие метафоры от других, условно более новых? И тем более н и ни то чтобы не изобретает новых, но и прежние не слишком стремиться делать безусловно верными. Иначе говоря, может быть многое за то, что статья есть образчик галлюцинации коллективного интеллекта сети. С единственной значимостью,- впрочем, едва ли ни противоположной смыслу такой статьи: быть написанной и выпущенной в поток,- исключить её из такого потока, какой-либо хирургией, усреднением, правильной геометрией. Тем более, что в сети давно имеется название для таких, подобных статей, и это - вода. Но без воды бывает трудно, тем более, с одним песком, мелким и дискретным.
Как бы там ни было, те, кто перевели статью, коль скоро, это, видимо, перевод статьи, возможно, написанной частично ИИ, под руководством некоего человеческого пользователя оператора (Автор оригинала: Jose Crespo, PhD), интуитивно поняли стремление автора, распознали некий vis и canatus, желание и стремление, продвинуть отрасль и индустрию, к действительным открытиям и успехам, и вывести из локального минимума, в котором та застряла. К чему же? К новому глобальному минимуму, что видимо опять окажется локальным, но потом. Не акционируясь на довольно распространённой и верной, в виду глубокого обучения ИИ, образности локальных и глобальных минимумов,-которую автор, видимо, таким же образом, находит предосудительной, и тем более на диалектике абсолютной и относительной истины,- придать изначальный импульс всему начинанию. И что же? Это действительно хит? Можно ли и вправду, в виду, мол, правильно выстроенной геометрии статьи безоговорочно отстраниться от вопроса: "Он прикалывается или действительно прикалывается?"
"СТЛА"
Караваев В.Г.