AI-системы в production ошибаются. Полностью автономная модель одобряет кредит по галлюцинирующему анализу. Полностью ручная проверка убивает экономику. Задача — поставить человека в нужное место контура, чтобы ловить опасные решения и не превращать AI в дорогой интерфейс для ручного труда. Цена ошибки. Чат-бот рекомендует ресторан с неправильным рейтингом — неприятно. AI одобряет кредит на $50 000 — судебный иск. Чем выше стоимость промаха, тем ниже порог для подключения человека. Обратимость. Отправленное push-уведомление не вернуть...