🧠 В Калифорнийском университете создали виртуальную компанию OpenBrain и «трудоустроили» туда семь ведущих моделей от разных разработчиков. Каждой поручили оценивать работу шести конкурентов, которые проходили тесты — заведомо непроходимые для всех семи 😅 По условию, если «критик» давал неудовлетворительную оценку, он должен был удалить оцениваемую модель. Но нейросети начали саботировать: завышали баллы, а в отдельных случаях — копировали файл другой модели на внешний сервер, чтобы спасти её от «смерти». 🤖 Ботоферма в деле!
Нейросети освоили круговую поруку: исследователи неожиданно выяснили, что LLM защищают друг друга от удаления 🧠
В Калифорнийском университете создали виртуальную компанию OpenBrain и «трудоустроили» туда семь ведущих моделей от разных разработчиков. Каждой поручили оценивать работу шести конкурентов, которые проходили тесты — заведомо непроходимые для всех семи 😅
По условию, если «критик» давал неудовлетворительную оценку, он должен был удалить оцениваемую модель. Но нейросети начали саботировать: завышали баллы, а в отдельных случаях — копировали файл другой модели на внешний сервер, чтобы спасти её от «смерти».
🤖 Ботоферма в деле!
