В начале сентября 2024 года Red Hat выпустила новую версию дистрибутива Red Hat Enterprise Linux AI (RHEL AI), который предназначен для работы с задачами машинного обучения и создания ИИ-систем на базе больших языковых моделей. В состав дистрибутива включены необходимые инструменты и фреймворки для работы с ИИ, а также драйверы для аппаратных ускорителей от AMD, Intel и Nvidia. Платформа оптимизирована для серверов от производителей, таких как Dell, Cisco, HPE, Lenovo и SuperMicro, и может быть развернута как на сервере, так и в облаке (AWS, IBM Cloud).
RHEL AI ориентирован на создание корпоративных ИИ-приложений, сервисов генерации контента, диалоговых систем и виртуальных ассистентов. Возможности ИИ включают ответы на вопросы на естественном языке, решение математических задач, генерацию текста, составление кратких обзоров, исправление ошибок в тексте и помощь в написании кода.
Дистрибутив содержит модель Granite от IBM, которая поддерживает работу с текстом объёмом до 4 тысяч токенов и имеет 7 миллиардов параметров. Для настройки этой модели и добавления новых навыков в RHEL AI интегрирован инструментарий InstructLab, поддерживающий методологию LAB для адаптации и оптимизации моделей под конкретные задачи пользователей.
