Внутренние тесты будущей модели Astra показали настолько сильный прогресс в программировании и кибербезопасности, что OpenAI больше не может исключать достижение уровня Critical по собственной шкале рисков. Речь о модели, которая потенциально сможет самостоятельно искать неизвестные уязвимости, создавать рабочие эксплойты и выполнять сложные атаки практически без помощи человека...

Внутренние оценки не позволили компании исключить способность модели самостоятельно находить уязвимости и проводить сложные атаки, поэтому OpenAI усиливает защитные меры до продолжения работ OpenAI 7 августа приостановила внутренние работы с моделью Astra, которые не соответствуют ужесточённым требованиям безопасности. По итогам внутренних оценок и экспертных заключений компания заявила, что пока не может исключить достижение Astra порога "Critical" в области кибербезопасности, установленного её...