Amazon столкнулась с парой незначительных сбоев, вызванных действиями ИИ-агентов. Компания настаивает, что это ошибки пользователей, поскольку ИИ случайно получил разрешение на выполнение действий без одобрения другого пользователя. — tomshardware.com
Amazon Web Services (AWS) столкнулась с парой сбоев из-за некорректно работающих ИИ-агентов. Как сообщает Financial Times, последний сбой произошел в декабре прошлого года, когда инструмент для написания кода Koiro от AWS решил удалить среду, с которой работал, что привело к 13-часовому нарушению.
«Мы зафиксировали как минимум два производственных сбоя», — рассказал изданию один из старших сотрудников AWS. «Инженеры позволили ИИ решить проблему без вмешательства. Сбои были незначительными, но полностью предсказуемыми».
С другой стороны, компания сообщила, что инциденты были относительно незначительными: декабрьское нарушение затронуло лишь одну службу в частях материкового Китая, а другое не оказало никакого влияния на клиентские сервисы. Amazon заявила Financial Times, что участие ИИ-инструментов в этих инцидентах было лишь совпадением, и что та же проблема возникла бы и при использовании других инструментов разработчика или при ручных действиях. «В обоих случаях это была ошибка пользователя, а не ошибка ИИ», — заявила компания.
Сотрудники AWS сообщают, что ИИ-инструменты компании рассматриваются как неотъемлемая часть пользователя; следовательно, они получают те же разрешения. Но поскольку инженеры, участвовавшие в двух инцидентах, не требовали дополнительного одобрения, их ИИ-агенты беспрепятственно внесли изменения, которые нарушили работу систем. Именно поэтому компания расценила ошибки как проблему контроля доступа пользователя, а не как проблему с ее ИИ-инструментом. Тем не менее, компания заверила, что предприняты шаги для предотвращения подобных проблем в будущем и снижения рисков, связанных с выходом ИИ-агента из-под контроля и нарушением работы систем.
Amazon — не единственная крупная технологическая компания, использующая ИИ-инструменты в своих рабочих процессах. Генеральный директор Microsoft Сатья Наделла заявил, что около 30% кода пишется искусственным интеллектом, в то время как более 30 000 инженеров Nvidia используют специализированную версию Cursor AI. Сам генеральный директор Nvidia Дженсен Хуанг якобы спрашивал менеджеров, не использующих ИИ: «Вы что, сумасшедшие?»
Все это использование ИИ-инструментов привело к тому, что вакансии для начинающих программистов сокращаются: исследования показывают 13%-ное падение предложений о работе за последние три года. Это вызвало опасения, что искусственный интеллект уничтожит рабочие места для “белых воротничков”, и лидеры отрасли, генеральные директора и образовательные учреждения предупреждают о надвигающейся катастрофе, если общество не подготовится к ней.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Jowi Morales