1843 подписчика
🔖 Словарь ИИ: разбираемся в сложных терминах
Погружаясь в тонкости и различия ИИ-моделей, процесс их тренировки и запуска, вы наверняка столкнетесь с непонятными терминами.
Чтобы не теряться и понимать, чем вы пользуетесь, в понятиях стоит разобраться. На самом деле в этих сложных словах нет ничего страшного.
1️⃣ Инференс (Inference) — это непосредственно процесс работы нейросети, когда она уже обучена и решает вашу задачу. Говоря об инференсе, обычно рассматривают скорость работы модели (в токенах в секунду), или задержку с момента отправки запроса до получения полного ответа.
2️⃣ Квантование или квантизация (Quantization) — «сжатие» нейросети путем уменьшения точности вычислений «под капотом». Условно, числа начинают округляться не до четырех знаков после запятой, а до двух. Или вовсе вместо дробных чисел используют экономящие память целые. Это позволяет запускать модель на более слабом «железе» без сильных просадок в производительности.
3️⃣ Дистилляция (Distillation) — передача знаний от большой и мощной нейросети-учителя к маленькому быстрому «ученику». Так получают компактные модели, которые могли не видеть все обучающие данные «учителя», но при этом перенимают его знания.
4️⃣ ИИ-агенты — системы, которые работают автономно для выполнения задачи, используя окружающую среду и инструменты.
2️⃣ LRM (Large Reasoning Models) — большие языковые модели, обученные рассуждать шаг за шагом перед ответом.
3️⃣ Векторная база данных — хранит не «сырые» данные (текст, изображения), а эмбеддинги, длинные списки чисел, отражающие смысл слов, с которыми работают нейросети.
4️⃣ RAG (Retrieval Augmented Generation) — метод, соединяющий векторные БД и LLM. Позволяет ИИ работать с актуальной информацией и не галлюцинировать.
5️⃣ MCP (Model Context Protocol) — стандарт, позволяющий LLM работать с любыми приложениями.
6️⃣ MoE (Mixture of Experts) — подход, при котором большая нейросеть делится на набор небольших «экспертов» для повышения эффективности.
7️⃣ ASI (Artificial Superintelligence) — финальная, теоретическая стадия развития ИИ, который превзойдет человека по всем способностям.
А вы знали эти термины?
#искуственныйинтеллект #термины
1 минута
27 сентября