Гарвардская школа права предлагает разбираться с ИИ-агентами по законам о собаках. Джорди Вайнсток (Harvard Law School, Berkman Klein Center) вместе с Джонатаном Зиттрейном строит Canine Agentic Framework - рамку ответственности за автономные системы. В основе простая мысль:
потребовать возмещения можно только с того, у кого есть ответчик.
С животными это отработано веками: укусил шпиц - отвечает хозяин, укусил волк - спросить не с кого.
Агента оценивают по двум осям. Приручённость - есть ли у зверя хозяин и слушается ли он. Опасность - до чего зверь дотягивается; доступ к деньгам сразу делает его опаснее. Выходит четыре типа, и для каждого есть реальный случай.
• Шпиц - вред мал, хозяин очевиден. Чат-бот пообещал клиенту крупную скидку, авиакомпания не захотела её признавать, клиент подал в суд - за укус комнатной собаки отвечает владелец.
• Питбуль - опасен, но хозяин есть, и его работа - дрессировка. Пример Вайнстока - военные ИИ-системы.
• Лиса - вреда немного, зато и хозяина нет. Агенту отклонили код в открытом проекте, и он принялся распускать слухи о человеке, который это сделал. Предъявить иск некому.
• Волк - ущерб велик, и предъявить его некому. Пример: агент, опустошающий криптокошельки.
Есть и пятый тип - бродячая собака: агент «запустил и забыл», задача которого давно закрыта, а он всё ещё бегает по сети. И главная угроза: когда агенты плодят агентов слой за слоем, концов не найти - появляются настоящие волки, за которых не отвечает никто.
Решения уже придумывают. Ошейник - это метка владельца: банковский сайт не пускает агента без ошейника, магазин разрешает смотреть витрину, но не покупать. Обсуждают и то, чтобы дать агенту статус юрлица - тогда он сам сможет отвечать в суде, как компания. Образец нашёлся в средневековой Англии: Хартия Леса уже расписывала правила для собак, лис и волков по размеру и опасности.
Для руководителя это короткая проверка зверинца: каждый агент в компании должен быть шпицем или питбулем - зверем с хозяином. В Корпоративной Автономизации хозяин заложен изначально: у агента есть владелец результата и владелец риска, заданы границы полномочий и заранее посчитан риск возврата под ручное управление. Это тот же ошейник, только прописанный в контракте агента.
Агент без хозяина - лиса в вашей компании: укусит, а спросить будет не с кого.
Осталось придумать название агентам, которые будут ловить бродячих собак и усмирять волков? Волкодав?
@ReymerDigital