Энтузиаст запустил разговорный ИИ на 50-летнем процессоре Z80

Энтузиаст под псевдонимом HarryR представил экспериментальный проект Z80-μLM — компактную модель «разговорного ИИ», способную работать на восьмибитном процессоре Zilog Z80 образца 1976 года. Разработка уместилась в бинарный файл объёмом около 40 КБ и запускается на системе с частотой 4 МГц и 64 КБ оперативной памяти.

Как отмечается в описании проекта, цель заключалась в проверке предельной компактности ИИ-модели при сохранении минимальной индивидуальности и возможности дообучения. В результате автор создал .com-файл, который включает код, веса, вывод данных и простой пользовательский интерфейс в формате чата. Модель использует генерацию коротких посимвольных последовательностей и обучение с учётом квантизации (QAT), что позволило уложиться в крайне жёсткие аппаратные ограничения.

Процессор Z80, для которого создавался проект, является одним из самых распространённых CPU своего времени и применялся в широком спектре вычислительных устройств. Сравнение Z80-μLM с современными языковыми моделями не предполагается: разработчик подчёркивает, что речь идёт об эксперименте, демонстрирующем принципиальную возможность запуска ИИ-подобных алгоритмов на устаревшем «железе».

Функционально Z80-μLM работает в двух режимах. В режиме Tinychat модель отвечает на приветствия и простые вопросы о себе короткими репликами. Второй режим — Guess — представляет собой игру «20 вопросов», где ИИ загадывает объект, а пользователь пытается его угадать. Полноценные диалоги при этом не предусмотрены, а возможности системы намеренно ограничены.

Проект не претендует на прохождение теста Тьюринга, однако, по словам автора, демонстрирует, насколько минимальным может быть размер ИИ-модели при автономной работе и простом распространении.