Мир искусственного интеллекта меняется с такой скоростью, что то, что вчера казалось фантастикой, сегодня становится доступным каждому. На этой неделе сразу несколько новостей всколыхнули индустрию — от инструментов для взлома нейросетей до открытых моделей, способных конкурировать с лидерами рынка. Давайте разберёмся, что происходит и куда всё это движется. Появился сервис, который позволяет прокачать умение так называемого prompt injection — это методика, с помощью которой можно вытащить системные подсказки из LLM или заставить модель вести себя нестандартно.
Это не просто хакерская шалость - такие навыки помогают понять, как работают современные нейросети, где их слабые места и как их можно защитить. На площадке Lаkera Gandalf доступны уровни сложности: от простых диалогов до сложных сценариев, когда бот опирается на подгруженные данные и память. Этот тренажёр — идеальный способ для энтузиастов протестировать себя и узнать, насколько они хороши в prompt-инжиниринге. OpenAI опубли