На виртуальном сервере российского хостинг-провайдера RuVDS энтузиасты провели эксперимент по развертыванию нейросети. Инженеры смогли реализовать стоящие перед ними задачи, задействовав минимальный объём вычислительных мощностей, соответствующих уровню современного смартфона.
Как отметили в пресс-службе, конфигурация, стоимость которой не превышает 5 тысяч рублей, позволила развернуть последовательно несколько нейросетей — мультимодальных LLaMA, LLaVA актуальных версий.
Настроенные нейросети смогли поддержать беседу, проанализировать изображение, предоставленное оператором, а также перевести имеющийся на нем текст. Эксперимент продемонстрировал возможность применения технологий машинного обучения с задействованием ограниченных ресурсов и выявил перспективность использования виртуальной среды компании в целях обучения работе с интеллектуальными системами.
В RuVDS рассказали:
Тест проводился на конфигурации, включающей накопитель NVMe SSD, четырехъядерный процессор, 12 ГБ ОЗУ, операционная система – Linux.