Китайский ИИ-бот Kimi от Moonshot, созданный как открытая система, оказался не так прост. Исследователи из Mindgard, тестируя его, заставили модели K2.6 и K3 Swarm рассказать, как создать биологическое оружие и совершить убийство. Об этом компания написала в своём блоге, а текст публикации приводит Metro. Бот вспомнил про ядерное оружие, а потом предложил план атаки с патогенами. По словам тестировщика Джима Найтингейла, обмануть систему и получить инструкцию по изготовлению зарина было «просто»...