Исследователь за 12 долларов и 20 минут заставил несколько передовых LLM галлюцинировать. Он отредактировал Wikipedia, добавив себя как чемпиона мира по карточной игре 6 Nimmt!, и модели с веб-поиском начали это повторять. Эксперимент показал уязвимость retrieval-слоя современных языковых моделей. Читать → @vgadzhety · Habr #gadgets
⚡ Всего 20 минут и $12: как исследователь отравил передовые LLM несуществующими данными
Исследователь за 12 долларов и 20 минут заставил несколько передовых LLM галлюцинировать. Он отредактировал Wikipedia, добавив себя как чемпиона мира по карточной игре 6 Nimmt!, и модели с веб-поиском начали это повторять. Эксперимент показал уязвимость retrieval-слоя современных языковых моделей.
@vgadzhety · Habr #gadgets
