25,4 тыс подписчиков
Соображалка на прокачку.
Извините, дальше будет много умняка, но увлекательного :)
Как было раньше: если не хватало мозгов, то учились. Сейчас учиться необязательно - берёшь большую языковую модель (LLM) и прокачиваешь скиллы. Этому даже термин придумали - capability uplift. Это особенно востребованно в сфере кибербеза, где возможность дешевле, быстрее и масштабнее проводить кибератаки может стать головной болью для тех, кто этот кибербез обеспечивает.
Например, кибернегодяи используют LLM, чтобы генерировать контент для мошеннических веб-сайтов, которые имитируют ресурсы известных организаций, от соцсетей до банков, чтобы склонить пользователя ввести учетные данные (классический фишинг), а могут изображать магазины известных брендов с невероятными скидками на товары (доставки которых пользователь, конечно же, не дождется).
С помощью LLM можно полностью автоматизировать создание сразу сотен веб-страниц с разным контентом, причём высокого качества. А это затрудняет детектирование с помощью правил, основанных на использовании конкретных фраз. Для обнаружения сгенерированных с помощью LLM страниц нужны системы, анализирующие метаданные или структуру страницы, либо нечеткие подходы, например, на базе машинного обучения (у нас есть!).
Но LLM не всегда работают идеально, а потому при большом масштабе автоматизации или слишком низком уровне контроля они могут оставлять артефакты, свидетельствующие о неумелом применении модели.
Рассказываем несколько прикольных случаев из нашей практики
kas.pr/...b6w
1 минута
1 ноября 2024