Записи БудДена

Будет ли в России свой ChatGPT? С тех пор, как мне подарили подписку на ChatGPT3.5 и я понял, что он может вполне качественно делать кусочки программ на баше, я наконец заметил. что есть такая тема и начал её изучать. Что могу сказать на сегодня? Тезисно. Во-первых, любая наука и инженерная деятельность состоит из двух слоёв - видимого и невидимого. Между ними идёт игра по замороченным правилам. Реальные достижения всегда находятся в невидимом слое и охраняются. Видимый слой служит опорой для невидимого, с одной стороны, и используется для дезинформации конкурентов, с другой. Видимый слой - это и есть публичная наука. Невидимый - это "ноу-хау". В качестве примеров - первые мастера фарфора в России (жили фактически в тюрьме), ключевой ингредиент в Кока-Коле (клопы). Или какие-нибудь адсорбционные холодильные машины. Эти машины применялись для датчиков в шпионских спутниках, и потому долго были засекречены наглухо. Хотя любой, кто в теме, легко мог бы их придумать заново, прийти к профессору хорошего вуза (с допуском к гостайне) и услышать, что это "неинтересная тема". Большие языковые модели являются ярким примером инженерной деятельности. С одной стороны, вроде бы там много математики, с другой - сплошь и рядом рецепты из серии "возьми печень летучей мыши, пойманной при растущей Луне". И ценой каждого такого рецепта могут быть годы труда, миллионы машино-часов, бессонные ночи инженеров, удачные находки и яркие озарения. Даже если кому-то удастся украсть и слить уже обученную модель ChatGPT4 - это будет как программа без исходных текстов и документации. Недостаточно для повторения успеха. И вот тут можно перейти к вопросу о том, будет ли в России свой ChatGPT? Сложно давать сроки ввиду очень быстрого развития области, но я думаю, что не скоро. Почему? Сеть учится не сама, её учат и это трудно. Здесь нужна реальная работа, а не переклейка этикеток. К реальной работе на сегодня в нашей стране способны очень немногие из-за деградации образования, старения и вымирания тех, кто учился ещё в СССР, и утечки мозгов. И кроме того, это очень дорого. Яндекс способен, но госпожа Бунина не может жить в одной стране, которая "воюет с соседями", а может жить в другой, несмотря на то же самое. И там таких господ Буниных по всей вертикали управления полно. (Хм, а я ведь это пишу в сервисе Яндекса). Про Сбер достаточно вспомнить, что Греф предлагал вообще перевести образование на английский. Получится ли у него "ИИ с другой картиной мира"? Во-вторых. Допустим, нашли нормальную контору. Ну, скажем, Росатом. Допустим, повторили все гениальные находки и разработали движок. А дальше что? Если говорить об общих знаниях, то ChatGPT переварил Википедию. Русскоязычная Википедия, если верить злым языкам, создаётся в основном на Украине и в США (есть статистика по интенсивности редактирования статей). Здесь мне сложно не перейти на многоэтажный мат, но ничто не мешало хотя бы уж в 2015 году не спеша начать делать российский аналог Википедии. Самое простое: перевести англоязычную. Она, хоть и ангажирована, но гораздо честнее и качественнее русскоязычной. Или, взять все статьи из Википедии, отцензурировать их. Дальше, у нас в России полно словарей и энциклопедий по любым темам. Просто выкупить права и залить в движок (и откат тоже можно при этом получить, отличное же дело я предлагаю). Это всё трудозатраты, но оптимизированные и на порядок проще создания ChatGPT4. Но наша страна и это не осилила. Да что там говорить, даже с размеченным корпусом русского языка проблемы, а он тоже необходим для LLM. А если не сказано "А", т.е. нет входных данных для обучения сети, то не будет и "Б", т.е. обученной сети. В-третьих, возвращаясь к "дорого". Система управления высокотехнологичными разработками у нашего государства работает не особо. Да, есть БПЛА Ланцет, он вроде хорошо куда надо попадает. Но это - внутриармейская кухня. В мирной жизни мы видим цикл: громкие анонсы - работа закипает - суд - отзыв грантов - посадка. От такого цикла ничего не родится. Я не вижу в магазине телефонов на Эльбрусах, хотя вроде на "Авроре" наконец-то выпустили. Вот так.

Обновляем жёсткий диск - поход по граблям Хотел послушать куранты - и в этот момент мой ASUS ROG G771JW сломался - что-то случилось с питанием. Видимо, при подключении зарядки проскакивает искра. Возможно, дело было в конкретном блоке питания, а может быть, дело в том, что я подключаю мониторы и где-то по цепи питания образуется какая-то ненужная петля. Во всяком случае, всё это работало довольно долго, а потом компьютеры стали ломаться один за другим. Блок питания отправлен в отставку. После каникул купил на вторичном рынке такой же ноутбук (благо, они сильно подешевели), переставил диски и всё заработало. Но этого показалось мало. Основной раздел на линуксе был заполнен на 90%, а также мне нужен Windows. Раскошелился на Samsung EVO 780 аж на 2 терабайта и приступил к замене. Ввиду агрессивности Windows, решил сначала поставить Windows, а уже затем скопировать разделы Linux. С Windows всё прошло легко: штатным средством переустановки скачал на флешку дистрибутив и всё установилось. Дальше стандартно: отключение "быстрой загрузки", чтобы попасть в биос. Почему-то по кнопке Del стало нельзя попасть в bios, но я вспомнил про F2. Дальше скопировал с помощью Clonezilla Linux разделы, но (вторая ошибка) не вынул сразу же старый диск. В итоге получились разделы на разных дисках, но с одинаковым UUID (я об этом узнал не сразу). Как результат, вместо новой системы загружалась старая. Кроме того, Uefi раздел почему-то не возник после установки Windows 10, поэтому после updage-grub новая линукс-система прописывалась в uefi старого диска, подлежащего удалению из компьютера. Когда заметил это, отдельно скопировал uefi раздел и стал следить, что монтируется. Но это плохо работало, т.к. и uefi раздел тоже получил дублирующийся uuid. На этом этапе надо было вынуть старый жёсткий диск. Clonezilla даже про это пишет, но кто ж будет все эти простыни читать. Когда разобрался в проблеме дубликатов UUID, с помощью tune2fs поменял UUID нового линукс-раздела (uefi раздел не решился трогать), а grub правил (много раз) с помощью update-grub, который смотрит, какие системы есть на дисках и добавляет их в меню загрузки. После замены UUID на новом разделе новая система начала пытаться загружаться. Но теперь UUID в /etc/fstab новой системы стали не совпадать с UUID раздела, в итоге сообщение "failed to start remount root and kernel file systems". Исправить его из самой системы нельзя, т.к. корневой раздел смонтирован в режиме "только для чтения". Загрузился в clonezilla (это на самом деле живой диск линукса), смонтировал раздел новой системы и поправил там /куда-смонтировал/etc/fstab (uuid получается с помощью blkid). На самом деле путь к успеху был гораздо более извилист, я пишу только ключи к головоломке, а не полную последовательность действий. В следующий раз пригодится. Теперь, не считая того, что для моего нового линукса есть две записи в меню загрузки BIOS, вроде всё нормально. У меня на одном SSD две системы и обе вроде бы загружаются. Думаю, правильным было бы сначала клонировать существующий диск (с увеличением размеров разделов), потом создать новый раздел под Windows, поставить Windows, потом разрулить проблемы, которые оно создало. Но умная мысля приходит опосля, и неизвестно, какие грабли ждут на этом пути.