Ютубер sammyuri представил инновационный проект в Minecraft — языковую модель CraftGPT, которая функционирует исключительно на основе редстоун-схем. Этот оригинальный проект сочетает в себе 5 миллионов параметров и словарь из 1920 слов, создавая уникальную возможность ведения диалогов в игровой среде.
CraftGPT обладает контекстным окном в 64 токена и была обучена на датасете TinyChat, который состоит из разговорных фраз на английском языке. Несмотря на свои параметры, качество генерируемого текста в данной модели оставляет желать лучшего: она склонна к ошибкам в грамматике и часто теряет нить разговора. Процесс генерации одного ответа требует около двух часов с использованием плагина Minecraft High Performance Redstone (MCHPR) и увеличением скорости тиков сервера до 40 тысяч раз. В иной ситуации, без этого ускорения, одному ответу потребовалось бы свыше десяти лет.
Проект включает более 438 миллионов блоков и не требует установки модов или дата-паков для запуска. Для эффективного функционирования сервера требуется минимум 32 ГБ оперативной памяти, однако для стабильной работы рекомендуется 64 ГБ. Код, веса модели и инструкции по запуску опубликованы в репозитории на GitHub, что дает возможность другим разработчикам и игрокам ознакомиться с работой саммюри и продолжить её развитие.
Стоит отметить, что хотя качество работы CraftGPT и не дотягивает до уровня современных языковых моделей, сама идея внедрения подобной технологии в игровую среду Minecraft вызывает интерес и обсуждение среди сообщества.
]]>
