Развитие автономных ИИ-систем зависит от решения вопросов безопасности. Об этом в эфире «Радио РБК» заявил управляющий директор по искусственному интеллекту компании Авито Андрей Рыбинцев.
Он объяснил, что ИИ-агент отличается от обычного ИИ-ассистента тем, что он может не только отвечать на вопросы, но и совершать реальные действия в разных сервисах. Именно поэтому ИИ-агентов используют для автоматизации бизнес-процессов (в том числе на Авито), но пока ограниченно. «Когда агент получает рычаги влияния на реальный мир – возможность тратить деньги, выполнять транзакции, запускать код, сразу возникают серьёзные вопросы безопасности. Крупные компании вынуждены выстраивать многоуровневые системы защиты, что существенно ограничивает автономность агентов. В итоге рынок оказался перед дилеммой: либо безопасный, но ограниченный ассистент, либо полноценный агент с непредсказуемыми последствиями», – пояснил Андрей Рыбинцев. На Авито сейчас тестируют собственную мультиагентную систему – ИИ-асси