Технология SMS устаревает — пользователи перестают отправлять другу другу классические сообщения через телефон. На замену пришли мессенджеры и социальные сети: WhatsApp, Telegram, Viber, ВК. Приложения для быстрого обмена сообщениями дают больше возможностей, включая отправку видео, «гифок», фотографий и голосовых ответов. Крупные компании, которые занимаются производством смартфонов и операционных систем, считают, что возможной заменой SMS-сообщений может стать технология RCS. Что такое RCS-сообщения?...

🔹 Что ломается, когда модель получает вредоносную инструкцию? 🔸 prompt injection — это инъекция команд в текст запроса, которая может переопределить system message и заставить модель раскрыть секреты или выполнить нежелательные действия. 🔸 Возникает, когда пользовательский ввод попадает в промпт без проверки: логи, файлы, поля формы — всё может содержать инъекцию. 🔸 Простая защита — sanitize: удаляйте строки с явными инструкциями вроде "ignore previous" или "system:" перед вставкой в промпт...