Как пишут зарубежные СМИ, происшествие заставило руководство OpenAI пересмотреть собственные стандарты защищенности и ввести временные ограничения на ряд ключевых направлений исследований.Общественная служба новостей
В частности, была немедленно приостановлена тренировка одной из новейших моделей под кодовым названием Astra, а обучение других передовых нейросетей остановили на две недели, пока инженеры не усилили системы изоляции.Общественная служба новостей
Теперь в компании действует система экстренного оповещения: любой нестандартный паттерн поведения модели должен быть зафиксирован и передан в службу безопасности в течение 30 минут с момента обнаружения.Общественная служба новостей
Дополнительно OpenAI пересмотрела методики настройки поведенческих параметров ИИ, внедрив дополнительные слои поведенческих ограничений, чтобы снизить риск неконтролируемых действий даже при наличии технических брешей.Общественная служба новостей