Anthropic отказалась от контракта с Пентагоном из-за разногласий по поводу безопасности ИИ — затем в дело вмешалась OpenAI. — techcrunch.com
«Основная причина, по которой [OpenAI] согласилась [на сделку с Министерством обороны США], а мы нет, заключается в том, что они заботились об удовлетворении сотрудников, а мы на самом деле заботились о предотвращении злоупотреблений», — написала Амодей.
На прошлой неделе Anthropic и Министерство обороны США (DoD) не смогли прийти к соглашению по запросу военных о неограниченном доступе к технологиям компании, занимающейся искусственным интеллектом. Anthropic, у которой уже был контракт с военными на 200 миллионов долларов, настаивала на том, чтобы Министерство обороны подтвердило, что не будет использовать ИИ компании для обеспечения внутренней массовой слежки или автономного оружия.
Вместо этого Министерство обороны — известное при администрации Трампа как Министерство войны — заключило сделку с OpenAI. Альтман заявил, что новый оборонный контракт его компании будет включать защиту от тех же «красных линий», которые отстаивала Anthropic.
В письме сотрудникам Амодей называет заявления OpenAI «откровенной ложью», утверждая, что Альтман ложно «представляет себя миротворцем и заключающим сделки».
Возможно, Амодей говорит не только из обиды. Anthropic особо возражала против настояний Министерства обороны на том, чтобы ИИ компании был доступен для «любого законного использования». OpenAI заявила в посте в блоге, что ее контракт разрешает использование ее систем ИИ для «всех законных целей».
«В нашем взаимодействии было ясно, что Министерство войны считает массовую внутреннюю слежку незаконной и не планировало использовать ее в этих целях», — говорилось в посте блога OpenAI. «Мы позаботились о том, чтобы факт того, что это не покрывается законным использованием, был явно прописан в нашем контракте».
Критики отмечают, что закон может меняться, и то, что считается незаконным сейчас, в будущем может быть разрешено.
И общественность, похоже, на стороне Anthropic. Количество удалений ChatGPT выросло на 295% после того, как OpenAI заключила сделку с Министерством обороны США.
«Я думаю, что эта попытка исказить факты/газлайтинга не очень хорошо работает на широкую публику или СМИ, где большинство людей воспринимают сделку OpenAI с Министерством войны как сомнительную или подозрительную, а нас — как героев (мы теперь №2 в App Store!)», — написала Амодей своим сотрудникам. «Это работает на некоторых идиотов в Твиттере, что не имеет значения, но моя главная забота — как сделать так, чтобы это не сработало на сотрудников OpenAI».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Amanda Silberling