Искусственный интеллект нового поколения, способный подсказывать и выполнять действия от имени пользователя, нуждается в немедленном правовом регулировании. Об этом заявил ведущий инженер AI-платформы Salesforce Нитин Варе в статье для The Washington Post.
По его словам, агентный ИИ способен сам бронировать билеты, заполнять документы, подавать заявки и даже тратить деньги без прямого участия человека. «Это не просто чат-бот. Он не советует — он действует», — отметил специалист.
При этом риски таких решений часто остаются незаметными: пользователь может не знать, что от его имени совершены действия с юридическими или финансовыми последствиями. Ошибки ИИ сложнее выявить и исправить, чем ошибки человека, подчеркнул Варе.
Эксперт предлагает закрепить на законодательном уровне обязанность вести прозрачный лог действий ИИ, установить гибкую систему разрешений и ввести запрет на передачу ИИ критически важных решений в медицине, финансах и праве. Также, по его мнению, компании должны нести полную юридическую ответственность за действия своих ИИ-систем.
«Мы рискуем незаметно делегировать жизненно важные решения машинам. Без четких правил это может стать новой нормой», — заключил Варе.