Компания Anthropic в 2026 году предотвратила несколько попыток использования своих моделей искусственного интеллекта для проведения исследований, которые могли способствовать разработке биологического оружия. Об этом сообщает The New York Times со ссылкой на отчет компании.
В документе утверждается, что Anthropic не может однозначно определить цели данных работ, так как их результаты применимы как для создания вакцин, так и для разработки опасных патогенов. По заявлению компании, исследователи обошли региональные блокировки моделей и пытались скрыть истинные намерения, чтобы миновать меры предосторожности.
«Вы не увидите кого-либо, кто скажет, как в комиксах: «Я хочу создать биологическое оружие, чтобы убить всех». Это невероятно сложная и неоднозначная ситуация», — заявил глава отдела разведки угроз Anthropic Джейкоб Кляйн.
Из-за неопределенности целей компания не стала раскрывать имена ученых, их гражданство или перечень биологических компонентов. Тем не менее в Anthropic приняли решение заблокировать данных пользователей.
В качестве примера подозрительной активности приводится инцидент, произошедший в мае. Один из исследователей использовал нейросеть Claude для написания заявки на грант по экспериментам с вирусом чикунгунья. Ученый планировал создать мутации, которые сделали бы вирус более опасным при неоднократном заражении животных. В Anthropic уточнили, что работа предназначалась для военного научно-исследовательского института.
Агентство Bloomberg 10 сентября сообщило, что OpenAI может замедлить разработку передовых ИИ-систем из-за растущих опасений относительно рисков, связанных с их созданием и использованием. Уточнялось, что в последние недели сотрудники крупнейших ИИ-компаний стали открыто говорить о растущих рисках, связанных с развитием передовых технологий нейросетей.