Найти в Дзене
Машинное обучение

⚡️ Google DeepMind выпустили исследование о том, как на самом деле нужно делегировать задачи AI

Главная идея: проблема не в том, что AI плохо работает. Проблема в том, что люди не умеют правильно передавать ему задачи. DeepMind предлагает рассматривать делегирование не как один запрос, а как процесс из нескольких решений: 1. Нужно ли вообще отдавать задачу AI 2. Как правильно её сформулировать 3. Как проверить результат 4. Что делать, если AI ошибся Это новый подход: делегирование как управление риском, а не как промпт. Самое интересное из исследования Рынок AI-агентов Вместо фиксированных систем предлагается модель, где агенты: - соревнуются за задачи - оценивают свою способность выполнить их - подтверждают навыки цифровыми сертификатами Не рейтинг. Криптографически подтверждённая компетенция. Нельзя просто доверять AI Фреймворк вводит обязательную проверку: - правила, когда ответ можно принять - оценка уверенности модели - резервные сценарии при ошибке Главный принцип: Никогда не принимать результат AI без валидации. Борьба с двумя крайностями DeepMind вводит понят

⚡️ Google DeepMind выпустили исследование о том, как на самом деле нужно делегировать задачи AI.

Главная идея: проблема не в том, что AI плохо работает.

Проблема в том, что люди не умеют правильно передавать ему задачи.

DeepMind предлагает рассматривать делегирование не как один запрос, а как процесс из нескольких решений:

1. Нужно ли вообще отдавать задачу AI

2. Как правильно её сформулировать

3. Как проверить результат

4. Что делать, если AI ошибся

Это новый подход: делегирование как управление риском, а не как промпт.

Самое интересное из исследования

Рынок AI-агентов

Вместо фиксированных систем предлагается модель, где агенты:

- соревнуются за задачи

- оценивают свою способность выполнить их

- подтверждают навыки цифровыми сертификатами

Не рейтинг.

Криптографически подтверждённая компетенция.

Нельзя просто доверять AI

Фреймворк вводит обязательную проверку:

- правила, когда ответ можно принять

- оценка уверенности модели

- резервные сценарии при ошибке

Главный принцип:

Никогда не принимать результат AI без валидации.

Борьба с двумя крайностями

DeepMind вводит понятия:

Over-delegation

- отдаём AI задачи, к которым он не готов

Under-delegation

- делаем сами то, что AI уже умеет лучше

Будущее эффективности - в правильном балансе.

Динамическое делегирование

В процессе работы:

- ответственность может передаваться

- задачи могут перераспределяться

- система адаптируется при сбоях

Это важно для реального бизнеса, где условия постоянно меняются.

Когда AI управляет AI

Фреймворк учитывает цепочки:

AI → AI → AI

При этом:

- сохраняется ответственность

- отслеживается, кто за что отвечает

- не теряется контроль над процессом

Главный вывод

Эпоха «напиши промпт и жди» заканчивается.

Будущее — это:

- управление AI

- контроль качества

- системы доверия

- инфраструктура делегирования

AI становится не инструментом.

AI становится рабочей системой, которой нужно управлять как командой.

arxiv.org/abs/2602.11865