Главная идея: проблема не в том, что AI плохо работает. Проблема в том, что люди не умеют правильно передавать ему задачи. DeepMind предлагает рассматривать делегирование не как один запрос, а как процесс из нескольких решений: 1. Нужно ли вообще отдавать задачу AI 2. Как правильно её сформулировать 3. Как проверить результат 4. Что делать, если AI ошибся Это новый подход: делегирование как управление риском, а не как промпт. Самое интересное из исследования Рынок AI-агентов Вместо фиксированных систем предлагается модель, где агенты: - соревнуются за задачи - оценивают свою способность выполнить их - подтверждают навыки цифровыми сертификатами Не рейтинг. Криптографически подтверждённая компетенция. Нельзя просто доверять AI Фреймворк вводит обязательную проверку: - правила, когда ответ можно принять - оценка уверенности модели - резервные сценарии при ошибке Главный принцип: Никогда не принимать результат AI без валидации. Борьба с двумя крайностями DeepMind вводит понят
⚡️ Google DeepMind выпустили исследование о том, как на самом деле нужно делегировать задачи AI
3 дня назад3 дня назад
13
1 мин