Понятие ортогональности играет важную роль во многих областях математики и ее приложениях. Знание условия ортогональности и свойств ортогональных векторов позволяет решать широкий круг задач, связанных с геометрией, линейной алгеброй и анализом данных...

Внутри современной большой языковой модели спрятана штука, которая буквально решает, ответить вам или вежливо отказать. Долгое время считалось, что это «согласованность» (alignment) — результат хитрой настройки на миллиардах примеров, распределённое поведение, которое нельзя изолировать. Группа Энди Ардити, Нила Нанды и коллег в работе «Refusal in Language Models Is Mediated by a Single Direction»(NeurIPS 2024) показала прямо противоположное: отказ кодируется одним-единственным направлением в пространстве активаций...