Мантра Anthropic «Безопасность прежде всего» уступила место новой политике, позволяющей обучать опасные модели. Это происходит на фоне давления Пентагона, требующего доступа к Claude. — pcworld.com
«Безопасность прежде всего» — вот мантра, которая выделяла Anthropic среди крупных конкурентов в сфере ИИ. Изначально обязательство компании гласило: если Anthropic, разработчик Claude, не сможет гарантировать, что новая модель будет соответствовать ее строгим стандартам безопасности, она прекратит обучение этой модели, даже если конкуренты пойдут вперед.
Однако в тот самый момент, когда, казалось бы, обязательство Anthropic «безопасность прежде всего» должно быть нужнее всего — а именно, во время противостояния с Пентагоном — компания обнародовала пересмотренную политику, которая добавляет критическую лазейку.
Как сообщил журнал Time, версия 3.0 Политики ответственного масштабирования Anthropic отступает от прежнего обещания компании, позволяя ей продолжать обучение потенциально опасных моделей, над которыми активно работают ее соперники.
Новая политика также включает предписания о большей прозрачности в вопросах безопасности ИИ, наряду с клятвой «отложить» разработку опасных моделей, если компания сочтет, что уверенно опережает конкурентов.
Все это происходит в критический момент для Anthropic, которой в пятницу предстоит выполнить требование Пентагона о широком доступе к моделям Anthropic для военного использования.
Во время встречи в Пентагоне с генеральным директором Anthropic Дарио Амодеи во вторник министр обороны Пит Хегсет, по сообщениям, пригрозил использовать Закон о производственной деятельности в оборонных целях, чтобы заставить Anthropic передать свои модели, которые военные хотят использовать «в любых законных целях», по данным The New York Times.
Сообщается, что Anthropic настаивает на своем, требуя от Хегсета обещания, что Пентагон не будет использовать ее модели для «автономного оружия» или для шпионажа за американцами.
Однако некоторые рассматривают пересмотренную Политику ответственного масштабирования Anthropic как выход из текущего затруднительного положения, позволяющий компании потенциально уступить требованиям Пентагона, сохраняя при этом соответствие собственной политике безопасности. Стоит отметить, что xAI, контролируемая Илоном Маском, и OpenAI уже заключили соглашения с Пентагоном.
Со своей стороны, Anthropic возражает против мнения о том, что ее обновленная RSP ослабила ее политику безопасности, утверждая вместо этого, что старые «красные линии» устарели, учитывая невмешательство правительства в дела ИИ.
Предоставив себе свободу продолжать обучение нестабильных моделей, которые активно разрабатывают другие, Anthropic сможет выступать в качестве стабилизирующей силы, а не позволять более безрассудным компаниям становиться лидерами в индустрии ИИ, заявляет Anthropic.
Возможно, это так, и будем надеяться, что они правы. Тем не менее, тревожит видеть, как компания в сфере ИИ, всегда выступавшая за безопасность, переписывает собственный свод правил.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ben Patterson