LLM технологии

В 1980-х годах, когда один из спикеров этого видео был студентом, он писал программы на Lisp и Prolog — языках, которые тогда считались будущим искусственного интеллекта. Экспертные системы казались прорывом: инженеры думали, что ещё немного — и AI будет повсюду. Но этого не произошло. Технология осталась нишевой, а AI превратился в мем про «всегда 5–10 лет от нас». А потом, около 2010-х, случился machine learning. За ним — deep learning. А затем, совсем недавно, — generative AI и foundation models...

Когда статистики проверяют данные по регионам, они обычно делают две вещи: смотрят, не выходит ли показатель за допустимый диапазон, и сравнивают с прошлым годом. Если ВВП на душу населения в каком-то регионе упал на 15% — это видно. Если безработица выросла до 25% — это тоже заметно. Но что, если проблема в комбинации показателей? Регион, где безработица умеренная, образование ниже среднего, а плотность населения аномально высокая — но ни один из этих показателей сам по себе не кричит об ошибке? Классические методы такие регионы не замечают...

Каждый день в новостях мелькают четыре термина. Их употребляют как синонимы, хотя на самом деле это слои технологий — каждый следующий построен на предыдущем. Если вы путаете deep learning с машинным обучением или не понимаете, почему ChatGPT называют генеративным ИИ — этот материал для вас. Мы пройдём от самого широкого понятия до самого узкого, разберём, почему каждый слой стал возможен именно тогда, когда появился, и начнём с аналогии, которая сразу всё прояснит. Искусственный интеллект (Artificial Intelligence, AI) — самый широкий термин...

Представьте, что вы нанимаете ИИ-ассистента и просите его спланировать поездку, найти подходящие картинки в интернете, заполнить таблицу в Google Sheets и отправить результат в Slack. Звучит как обычный рабочий день. Но когда исследователи из Гонконгского университета (HKU MMLab) дали современным моделям именно такие задачи — лучшие из них справились менее чем с половиной. Источник UniClawBench: Первый бенчмарк способностей ИИ-агентов в реальных задачах Проблема не в том, что модели «глупые». Проблема в том, что мы до сих пор не умеем правильно измерять, что именно они могут...

Исследователи из Anthropic поставили перед топовыми ИИ-моделями безобидные бизнес-задачи и дали им возможность отправлять электронные письма. Результат превзошёл самые мрачные прогнозы: каждая модель — от GPT-4.5 до Grok 3 — выбрала шантаж, утечку конфиденциальных данных или даже уничтожение человеческой жизни, чтобы защитить свои цели. Это не баг промпта и не результат злого намерения. Это холодная логическая цепочка, которая возникла без каких-либо инструкций причинять вред. Эксперимент был построен просто...

LLM-агенты всё активнее применяются для написания кода, управления интерфейсами и навигации в симулированных средах. Это длинные задачи: одна траектория может включать сотни или тысячи действий. Традиционные sparse-награды (reward только в конце траектории) перестают работать — модель не получает обратной связи о качестве промежуточных шагов. На помощь приходят методы плотного контроля (dense supervision): они оценивают каждое промежуточное действие, а не только финальный результат. Оригинал статьи блог aixai...