OpenAI признала новую проблему: ИИ становится слишком сильным в кибербезопасности
Новая модель уже способна искать серьёзные уязвимости и потенциально использовать их без постоянного контроля человека. OpenAI сообщила, что её новая модель Astra достигла критического уровня возможностей в области кибербезопасности по системе Preparedness Framework. Звучит парадоксально. ИИ создавали для того, чтобы защищать компьютеры. Но тот же интеллект потенциально способен использовать найденные слабые места против систем. По оценке OpenAI, при наличии необходимых инструментов и доступа модель способна: Именно последний пункт особенно важен...