Компания Gigabyte разработала новую программу для обучения и оптимизации моделей ИИ на своих комплектующих. Эта утилита даёт возможность пользователям локально развивать модели искусственного интеллекта с очень большими параметрами, до 236 миллиардов и более. Раньше для такого обучения требовалась помощь удаленного центра обработки данных.
Программа AI Top, основанная на Linux, специально создана для работы с железом Gigabyte и включает материнские платы, SSD-накопители, графические ускорители и блоки питания. В настоящее время доступен только один блок питания и одна материнская плата, а также два SSD-накопителя и три видеоадаптера.
Выпущенный пресс-релиз говорит о совместимости других видеокарт Gigabyte с AI Top, в том числе серии Nvidia GeForce RTX 40, AMD Radeon RX 7900, Radeon Pro W7900 и W7800.
AI Top уже поддерживает свыше 70 моделей LLM с открытым исходным кодом на Hugging Face, включая Baichuan 2, Distill-GPT2, GLM4, Llama 2 и Llama 3. Владельцы систем Gigabyte могут настраивать модели искусственного интеллекта локально для большей конфиденциальности и безопасности, не обладая специальными навыками программирования.
Gigabyte улучшила сложные параметры обучения моделей искусственного интеллекта, сделав их более доступными и понятными через "дружественный графический пользовательский интерфейс". Программа Gigabyte включает AI Top Tutor для консультаций и технической поддержки, предоставляемой бесплатно на их веб-сайте только для операционной системы Linux.