1 неделю назад
Human-in-the-loop: когда AI должен остановиться и спросить разрешения
Представьте: вы попросили AI-ассистента «причесать» Figma-файл перед демо. Через минуту он переименовал 80 слоёв, удалил «лишние» фреймы из архива, перекрасил половину компонентов в новый primary и закоммитил всё в основную ветку Git-плагина. Технически — выполнил задачу. Фактически — стер три дня работы коллеги, который держал черновики в том же файле. Это не страшилка про восстание машин. Это типичный сценарий, когда AI слишком уверен в своих полномочиях, а человек слишком уверен в AI. Human-in-the-loop...