Найти в Дзене
Портируем microGPT на Common Lisp с помощью LLM
Смотрите чего я навайбкодил: https://github.com/40ants/microgpt Это порт на Common Lisp скрипта microgpt, который недавно опубликовал Andrej Karpathy. Эта штука включает в себя код трансформера и инференс. То есть она может обучиться на каких-то входных текстах, а потом генерировать похожие тексты. Всё как у больших LLM, только буквально в одном Python-скрипте. Ну и, конечно, эта штука больше создана для обучения, а не для того, чтобы показывать хорошую производительность. В этом примере она учится на корпусе русских имен и может генерить новые, похожие по написанию: % ./microgpt.py num docs: 484 vocab size: 57 num params: 5152 step 1000 / 1000 | loss 2...
1 неделю назад
Как военные могут использовать LLM
? По мотивам предыдущего поста про готовность OpenAI убивать людей за пределами США мне стало интересно в каких областях можно применять современный ИИ в войне. Вот с десяток идей который без проблем сгенерила наша отечественная Алиса. 1. Анализ разведданных в реальном времени LLM обрабатывают тонны информации: соцсети, новости, перехваченные сообщения, данные с дронов. Вытаскивают главное, строят хронологии и готовят сводки — вместо недель за часы. 2. Динамические сценарии для учений Больше никаких статичных планов...
2 недели назад
Вся эта история с OpenAI происходит на американском континенте
? Кто-нибудь в курсе, что это за шумиха и почему даже некоторые известные личности отказываются от подписок OpenAI? Например, автор книг про Lisp и AI Mark Watson написал отдельный пост о том, что удаляет свой профиль OpenAI...
2 недели назад
Вся эта история с OpenAI происходит на американском континенте
? Кто-нибудь в курсе, что это за шумиха и почему даже некоторые известные личности отказываются от подписок OpenAI? Например, автор книг про Lisp и AI Mark Watson написал отдельный пост о том, что удаляет свой профиль OpenAI. Более того, он удаляет все упоминания об использовании их API из своих книг и будет публиковать обновленные версии, в которых не будет ничего про OpenAI...
2 недели назад
Вся эта история с OpenAI происходит на американском континенте
? Кто-нибудь в курсе, что это за шумиха и почему даже некоторые известные личности отказываются от подписок OpenAI? Например, автор книг про Lisp и AI Mark Watson написал отдельный пост о том, что удаляет свой профиль OpenAI. Более того, он удаляет все упоминания об использовании их API из своих книг и будет публиковать обновленные версии, в которых не будет ничего про OpenAI...
2 недели назад
Как небольшой косяк LLM мне спать не давал
На днях ввечеру буквально пару часов времени потерял на пустом месте, пытаясь отдебажить кейс, в котором у меня определение функции не появлялось в пакете после перекомпиляции приложения. - Глазами вижу в файле определение функции. Оно есть. - Компилирую её с помощью Ctlr-C Ctrl-C – она в пакете появляется. - Перезапускаю REPL, делаю (asdf:load-system ... ) - функции в пакете нет. Как так??? При этом при загрузке модуля с помощью asdf:load-system компилятор выдает только одно предупреждение о том, что функция не определена, но она где-то используется...
3 недели назад
Дизайнеры Nix – наркоманы или гении
? На своем ноутбуке с Mac OS я помимо Homebrew использую Nix для того, чтобы ставить пакеты. Почему я когда-то заинтересовался Nix? Так это потому, что в нем интересная концепция поколений, когда ты можешь безопасно попробовать какую-нибудь программу, а потом откатить все изменения в системе, которые были сделаны при установке этой программы. Более того, Nix даже задуман так, что в нем есть специальный способ установить программу, не меняя системного окружения вообще. То есть ты запускаешь специальный Shell, в котором какая-нибудь программа доступна, а при выходе из этого Shell она исчезает...
1 месяц назад
Как проходил полуфинал MTS True Tech 2025
Итак, рассказываю, как проходил полуфинал MTS TrueTech в 2025 году. Полуфинал заключался в том, что нам нужно было написать софт, который бы управлял реальным роботом так, чтобы робот мог пройти лабиринт из одного угла в противоположный. При этом структуру лабиринта, по которому будут запускать робота, мы не знали. ► Про херовую организацию Организаторы запускали роботов в закрытой комнате, откуда не было трансляции. Но была комната для подготовки роботов, и мы могли видеть, что происходит в этой комнате через камеру на потолке, и камеры роботов. Проблема, однако, заключалась в том, что роботов, к которым нам дали доступ, было много...
2 месяца назад
Бегущий в лабиринте
В двух предыдущих постах я описывал, как решал первую задачу из отборочного этапа хакатона МТС True Tech Champ. Всего в отборочном этапе было три задачи. Сегодня расскажу о второй. В ней нужно было провести робота по лабиринту. Причем робот должен был дойти от угла лабиринта до его центра. Раз так, значит банальное правило левой или правой руки могло и не помочь, потому что с ним робот мог ходить по внешней стене до бесконечности. ► Визуализация лабиринта Первое, что я сделал, это создал себе программу для визуализации данных, как их видит робот. Напомню, что в этом состязании у робота нет знания о структуре лабиринта...
3 месяца назад
Более быстрый робот в первом задании MTS True Tech Champ
Как я писал в предыдущей заметке, первая моя попытка провести робота через две комнаты из первого задания хакатона МТС True Tech была неудачной. Робот ехал медленно и сбивался с пути. Но в какой-то момент один из участников подсказал мне в чате, что нужно действовать иначе. Первая моя ошибка была в том, как я пытался вывести робота из тупика, откуда он начинает свой путь. Я сначала делал разворот на 180 градусов. И это было медленно. Чертовски медленно. На разворот уходила почти минута. А надо было просто выезжать задом! Причем задом можно было проехать весь путь от начальной точки до конечной...
4 месяца назад
Первый этап хакатона МТС True Tech Champ 2025
Как и обещал, начинаю серию постов про хакатон MTS True Tech 2025. Это технический хакатон, который разделен на две части. Первая часть алгоритмическая, а вторая часть робототехническая. Участвовать можно только в какой-то одной. Я решил попробовать себя в робототехнике. При этом опыта на момент старта было примерно ноль. Никогда раньше ничего не делал для роботов и было очень интересно попробовать. Хакатон начался в сентябре, но присоединился я к нему только лишь в начале октября, пропустив довольно большое количество времени просто из-за того, что в сентябре участвовал в другом хакатоне, лидеры...
4 месяца назад
Каково это, быть многоруким Шивой
Каково это, быть многоруким Шивой? Иногда меня спрашивают: "Саша, как ты все успеваешь?" Но обычно эти люди не подозревают, что успеваю я очень малую часть того, что задумано. У меня постоянно, есть куча каких-то проектов и идей, над которыми хочется поработать. Снаружи может казаться, что я успеваю многое, но на самом деле я делаю лишь небольшую часть из того, что запланировал. А все остальные планы копятся и копятся. Причем свойство характера у меня такое, что когда возникает какая-то новая идея, я ею загораюсь и начинаю работать над ней, отбросив всё остальное...
4 месяца назад