mClouds.ru - облачные технологии

Почему? 🤔 При выборе GPU для LLM легко ориентироваться на размер весов: помещаются в память — значит, можно запускать. Но во время работы модели потребуется место и для других данных. Мы подготовили обзор, который поможет прикинуть, сколько VRAM нужно именно под вашу нагрузку. 📌 Куда уходит видеопамять 🔹 Веса модели. Например, для 7 млрд параметров в FP16 потребуется около 14 ГБ — только на их хранение. 🔹 KV-кэш. Сохраняет результаты вычислений для уже обработанных токенов. Чем длиннее диалог, документ и ответ, тем больше памяти он занимает...

CrowdSec — ПО с открытым исходным кодом для обнаружения атак. Оно анализирует логи, выявляет подозрительное поведение и передает решения баунсерам — компонентам, которые блокируют доступ через firewall или веб-сервер. CrowdSec также обменивается с сообществом данными об IP-адресах атакующих, учитывая угрозы, замеченные на других серверах. 📌 Собрали для вас инструкцию по настройке на Ubuntu 26.04 LTS Пошагово показали, как: 📍 установить CrowdSec...

Поясняем. Мы тестировали 1С на AMD EPYC 9555 с PostgreSQL 18.1 на Ubuntu 24.04. Провели тест Гилёва в двух режимах: 🔹 TCP/IP — 77 баллов 🔹 Unix-сокет — 86,21 балла Разница — +12%. И это при том, что ничего не менялось в железе или настройках СУБД. Только способ подключения к базе. Почему Unix-сокет быстрее TCP/IP передает данные через сетевой стек...

платформы до октября 2027 года. Основная поддержка Windows Server 2022 заканчивается 13 октября 2026-го. Но Hotpatch-апдейты будут выходить еще целый год — до октября 2027-го. Напомним, что расширенная поддержка (без Hotpatch) продлится до 2031 года. 💡 Hotpatch — это технология, которая доставляет обновления безопасности без перезагрузки сервера. Сервисы продолжают работать, а система получает критические патчи на лету. 📌 Важное ограничение: Hotpatch работает только для редакции Windows Server 2022 Datacenter: Azure Edition...