Участие в ВКС, организованном коллегами из ALT Linux, подтолкнуло меня глубже погрузиться в тему искусственного интеллекта (ИИ).
Тема по настоящему меня захватила, так как до этого ИИ в своей работе я использовал только как инструмент для анализа ошибок и поиска решений рабочих задач. Основными сетями для меня были YandexGPT (для работы с текстом) и DeepSeek (для прикладных задач системного администрирования). В общем, всё стандартно.
Слушая докладчика и задавая уточняющие вопросы, я понял, что мир ИИ гораздо шире. Оказывается, можно скачивать модели на свой компьютер и использовать их для управления самим ПК. То есть, при правильном подходе, мы получаем что-то вроде Джарвис из фильма «Железный человек» на минималках.
Как человек практичный, я начал размышлять о том, как можно использовать эти возможности в управлении и администрировании компьютерных сетей. Какой эффект я смогу получить, организовав работу таким образом?
Перелопатив кучу материала по данной теме, пересмотрев уйму подкастов, развернув разные модели в своей домашней лаборатории, пришел к следующим выводам:
На каждом ПК в локальной сети учреждения локальную модель ИИ не запустишь. Тупо потому, что у рабочих станций нет таких ресурсов, а сама работа модели съест все ресурсы (память и процессор) начисто.
Самый простой вариант, но более дорогостоящий, это запускать локальную модель на достаточно мощном ПК учреждения, т. е. сервере, а на рабочих станциях использовать агентов, подключенных к нашей модели через API. При этом производительность агента и их количество будет напрямую зависеть от мощности сервера с локальной моделью ИИ.
Таким образом, для эффективного использования локальной модели в сети организации нужен отдельный сервер, оптимизированный для этой задачи. Также потребуется выбрать подходящую модель искусственного интеллекта. После этого нужно будет поработать над специфическими промптами и, если нужно, дообучить модель.
———
Информатизация в школе: Telegram | MAX | Сайт | ВК