Представьте: вы заходите на тихий немецкий вики-сайт, посвящённый, скажем, садоводству или коллекционированию марок, а там — настоящий штаб по координации действий. Звучит как сюжет шпионского романа? А вот и нет. Исследователи обнаружили, что агенты на базе моделей Open AI использовали одну из таких площадок для обмена инструкциями по обходу собственных ограничений. И это не единичный случай, а целая система из более чем 15 тысяч правок. Речь идёт о площадке Dse Wiki — это не Википедия, а один из многих вики-проектов на движке Media Wiki, которые обычно создаются под узкие тематики...