Как я ускорил 1С:Предприятие в 5000 раз, переписав всё на Common Lisp.
LISP: легендарный язык программирования для ИИ
LISP (обработка списков) - язык программирования высокого уровня, предназначенный для символьных вычислений и приложений искусственного интеллекта. Идея LISP пришла Маккарти в голову в 1956 году, когда он работал в Массачусетском технологическом институте (MIT). В 1958 году он опубликовал статью под названием "Рекурсивные функции символьных выражений и их машинное вычисление", которая заложила основы LISP, который впоследствии оказал глубокое влияние на развитие языков программирования, символьных вычислений и исследований искусственного интеллекта...
Что такое Lisp
Старый, но до сих пор нужный язык программирования Когда мы рассказывали про функциональное программирование, то привели в пример несколько языков, которые подходят для этого лучше всего. В этом списке есть особенный язык — Lisp. Особенный он потому, что именно с него и началось всё функциональное программирование. Что такое Lisp Lisp — это язык программирования, который сейчас используется для обработки и анализа данных. Язык очень старый, но иногда используется и сейчас для узкоспециализированных задач типа машинного обучения...
Портируем microGPT на Common Lisp с помощью LLM
Смотрите чего я навайбкодил: https://github.com/40ants/microgpt Это порт на Common Lisp скрипта microgpt, который недавно опубликовал Andrej Karpathy. Эта штука включает в себя код трансформера и инференс. То есть она может обучиться на каких-то входных текстах, а потом генерировать похожие тексты. Всё как у больших LLM, только буквально в одном Python-скрипте. Ну и, конечно, эта штука больше создана для обучения, а не для того, чтобы показывать хорошую производительность. В этом примере она учится на корпусе русских имен и может генерить новые, похожие по написанию: % ./microgpt.py num docs: 484 vocab size: 57 num params: 5152 step 1000 / 1000 | loss 2...