OpenAI, Anthropic, Google и xAI ведут переговоры с Пентагоном о том, чтобы развернуть их нейросети в закрытых сегментах военных сетей
При этом оборонное ведомство хочет использовать гражданские технологии без стандартных ограничений, мешающих боевому применению алгоритмов
Во время встречи в Белом доме главный технический директор Пентагона Эмиль Майкл сообщил техническим руководителям компаний, что военные стремятся задействовать модели ИИ как в открытых, так и в секретных доменах Пентагона
Речь идет не только о рутинном документообороте, но и о планировании миссий, а также наведении высокоточного оружия
OpenAI согласилась с предложением: она открыла доступ к своим инструментам для 3 млн сотрудников оборонного ведомства в несекретной сети под названием genai. mil, согласившись снять часть ограничений на использование ChatGPT
Anthropic, напротив, занимает более жесткую позицию. Руководители компании заявили военным чиновникам, что не хотят, чтобы их технологии использовались для автономного наведения оружия и проведения внутренней слежки в США
Эксперты в области нейросетей предупреждают, что ИИ может допускать ошибки и генерировать ложную информацию
Это может привести к катастрофическим последствиям и убийствам невинных, но Пентагон игнорирует эти риски
Эксперты OpenAI и Anthropic покинули свои должности в знак протеста против якобы халатности руководства корпораций, не учитывающих риски чрезмерного внедрения ИИ в жизнь человека
Anthropic опубликовала отчёт, в котором говорится, что ИИ потенциально может быть использован для подготовки тяжких преступлений, включая создание химического оружия
Ещё одной опасностью аналитики назвали автономную работу ИИ
