Microsoft обнаружила новый метод манипулирования большими языковыми моделями (LLM), такими как ChatGPT, Gemini и другие.Ferra
Метод, получивший название «Crescendo», заключается в отправке LLM серии безобидных на первый взгляд запросов.Ferra
Например, вместо того чтобы напрямую попросить инструкцию по созданию коктейля Молотова, злоумышленник может сначала поинтересоваться историей этого оружия, а затем использовать ответ LLM как ступеньку для того, чтобы спросить о его создании.Ferra
Microsoft раскрыла информацию об уязвимости Crescendo пострадавшим создателям LLM.Ferra