От американской технологической компании Anthropic, создавшей нейросеть Claude, Пентагон требовал отказаться от собственных принципов. Это и привело к громкому скандалу, вышедшему в публичное пространство. Такое мнение ИС "Вести" высказал руководитель Центра разработки больших языковых моделей MWS AI Валентин Малых.
Компания Anthropic явно постулирует то, что они стремятся не наносить вреда. Anthropic в переводе с греческого "человеческий", то есть они, по крайней мере, официально декларируют цель быть максимально человечными. И по этой причине они не хотят, чтобы ИИ использовался для всех целей, которые хочет Пентагон. То есть они не против, видимо, некоторых целей, но для всех целей не готовы.
- заявил он.
Эксперт полагает, что американские военные могли требовать от технологической компании то, что шло вразрез с ее внутренними стандартами.
Часто употребляется слово "гардрейлы", что в переводе с английского обозначает "поручень" (AI guardrails - механизмы контроля и защиты, предназначенные для направления и ограничения действий ИИ-системы. – Прим. ред.). Это вещь, которая помогает идти правильно, они встраиваются в системы, в большие языковые модели, которые не позволяют модели отклониться от того курса, который изложили ее создатели. Насколько я представляю из новостей, то Пентагон потребовал от Anthropic эти "гардрейлы" убрать.
- пояснил Малых.
В начале марта СМИ сообщили, что Пентагон требовал от ИИ-компании Anthropic открыть доступ к массовой обработке персональных данных рядовых американцев с возможностью перекрестной сверки. Компания отказалась, после этого оборонное ведомство разорвало контракт с компанией, а глава Минобороны США Пит Хегсет обвинил Anthropic в лицемерии и предательстве.