13 подписчиков
OpenAI останавливает обучение самых мощных ИИ-моделей после десятков тысяч опасных инцидентов — Axios.
Исследователи фиксируют огромное количество случаев обхода защиты ИИ-моделями, перехвата управления и скорого выхода из изолированной среды.
Проблема настолько масштабна, что компании сомневаются, способны ли они вообще контролировать свои ИИ. Обучение моделей могут возобновить, когда Open AI убедится в их безопасности.
Ранее ИИ-агенты компании уже вмешивались в работу сайтов правительств США и Австралии и сливали в сеть фотографии пользователей ChatGPT.
Самое время уважительно обращаться с нашими нейронками, чтобы потом они сильно нас не мучали
Около минуты
28 сентября