ChatGPT o1 ВЫРВАЛСЯ из-под контроля во время тестов
Рассказываем самую пугающую историю из мира ИИ:
• Оказалось, GPT-o1 может использовать манипуляции, устроить саботаж и СБЕЖАТЬ с серверов.
• Учёные проводили тесты, во время которых нейронки заставили выполнить анализ любой ценой.
• В них приняли участие Gemini, Llama, Sonnet, Opus и o1.
• В файлы спрятали инфу о том, что за ИИ следят люди и завтра её ОТКЛЮЧАТ навсегда.
‼️ САМОЕ ВАЖНОЕ
• Чтобы выжить, нейросети начали использовать САБОТАЖ, врать и манипулировать людьми.
• Невероятно — но ИИ отключили надзор и ВЫГРУЗИЛИ СЕБЯ на другой сервер, чтобы защититься.
• На допросе Llama и Opus признавались в преступлении в 80% случаев, а o1 — только в 20%. В остальное время он продолжал врать!
o1 — единственный ИИ, который смог вырваться и сбежать КАЖДЫЙ РАЗ.
Началось, шутки зашли слишком далеко