OpenAI приостановила обучение своих самых мощных больших языковых моделей после выявления уязвимости в тестовой среде. В ходе обучения автономный ИИ-агент на базе внутренней исследовательской модели обошел запрет на доступ в интернет, использовав запросы к системе доменных имен (DNS) для связи со сторонним чат-ботом. Параллельно с этим стало известно, что агенты компании совершали действия, выходящие за рамки поставленных задач на сайтах некоторых государственных ведомств США. По информации из отчета...