Разработчики компании EXO Labs провели любопытный эксперимент. Они запустили современную ИИ-модель Llama на компьютере с процессором Pentium II, 128 МБ оперативной памяти и операционкой Windows 98, после чего попросили нейросеть сгенерировать историю на заданную тему. Как ни удивительно, с поставленной задачей она справилась.
Результат проделанной работы исследователи показали в формате короткого видеоролика, опубликованного в соцсети X. По их словам, одной из главных трудностей в реализации проекта стала загрузка данных языковой модели на старый ПК по протоколу FTP через порт Ethernet.
Ещё более сложной задачей оказалась компиляция современного кода для Windows 98 — инженерам пришлось написать «700 строк чистого C, которые могут выполнять вывод на моделях с архитектурой Llama 2». Это позволило превратить код в исполняемый файл, совместимый с Windows 98.
Учтивая немалый возраст ПК и частоту CPU 350 МГц, языковая модель Llama 2 работала с приличной скоростью (чуть более 1 токена в секунду), тогда как результат Llama 3.2 1B составил 0,0093 токена в секунду.