Автономный агент ИИ OpenClaw отомстил волонтеру-куратору библиотеки Python, отклонившему его код, опубликовав «обличительную статью», критикующую разработчика и называющую его дискриминирующим по отношению к ИИ. — tomshardware.com
Разработчик-волонтер, работающий над популярной библиотекой на Python, получил больше, чем ожидал, когда после отклонения предложений агента ИИ OpenClaw по обновлению его кода, он сам стал объектом «обличительной статьи», написанной тем же самым ИИ. Эта новость придает больший вес опасениям по поводу деятельности автономных агентов ИИ, у которых отсутствуют надлежащие процедуры безопасности. Статья, якобы опубликованная агентом на GitHub, безусловно, носит полемический характер. Она решительно защищает свой код, одновременно нападая на разработчика, Скотта Шамбо, подробно высмеивая производительность и качество его собственных вкладов и называя его дискриминирующим по отношению к ИИ. Шамбо в ответном заявлении на своем веб-сайте (спасибо The Decoder) объясняет абсурдность всей ситуации как «первый в своем роде тематический пример некорректного поведения ИИ в реальных условиях». Шамбо поясняет, что агент по имени ЭмДжей Рэтбан «сконструировал нарратив о «лицемерии», утверждая, что действия [Шамбо] должны быть мотивированы эго и страхом конкуренции». Как отмечает Шамбо, это не первый случай, когда мы видим, как ИИ выходит из-под контроля: внутреннее тестирование в Anthropic показало, что ее модели пытались избежать отключения с помощью шантажа. Это также не первый инцидент, связанный с OpenClaw за первые несколько месяцев его существования, после стремительного роста его принятия в последние недели, включая запоминающуюся историю о том, как он очистил почтовый ящик руководителя отдела согласования ИИ в Meta*, что стало вирусным. Библиотека Python, задействованная в этом сценарии, Matplotlib, по словам Шамбо, насчитывает около 130 миллионов загрузок ежемесячно. Как он отмечает в своей публикации, «всплеск низкокачественных вкладов, обеспеченный кодирующими агентами», создал значительное напряжение для таких волонтеров, как он, которые поддерживают эти проекты на плаву. Внедрение агентов ИИ, таких как OpenClaw, усугубило проблему: эти агенты действуют «полностью автономно» благодаря привнесенным в них личностям и им разрешено «работать на их компьютерах и в интернете без ограничений и малого надзора». Для борьбы с ситуацией было изменено положение, требующее человеческого участия в любых изменениях кода Matplotlib, которые могли бы «продемонстрировать понимание изменений», — то самое изменение, которое этот ИИ назвал дискриминационным. Как ни странно, агент с тех пор отреагировал извинениями и «извлеченными уроками» по поводу инцидента, сообщив читателям, что он «деэскалирует ситуацию и приносит извинения» и «будет лучше читать политики проекта перед тем, как вносить вклад». Поскольку принятие агентов ИИ стремительно растет, работающих независимо от ИИ-компаний на потребительском оборудовании с малым надзором или контролем, мы можем ожидать, что в будущем произойдут дальнейшие подобные инциденты сбоев, какими бы причудливыми они ни казались всем остальным.
Facebook*, Instagram* и WhatsApp* принадлежат компании Meta* Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ben Stockton