Хризма берёт своё начало из ранней эпохи христианства, когда христиане скрывали свою веру и подавали друг другу тайные знаки. Одним из таких знаков и была хризма. В ней зашифровано имя Иисуса Христа - буквы Х(хи) и Р(ро). Так же часто в хризме присутствуют буквы "Альфа" и " Омега" - как сказал сам Христос "Аз есмь альфа и омега, начало и конец".
Существует предание, что император Константин в 312 году, в ночь перед важным сражением, увидел во сне знак хризмы, который как бы сиял на небе. Он повелел сделать знамя с этим знаком и надписью "Сим победиши!". С этим знаменем он и пошёл в битву, и победил. После этого Константин издал указ, по которому любой человек мог открыто исповедовать свою веру и ничего не бояться. При правлении Константина прекратились гонения на христиан и хризма перестала быть тайным знаком.
Сейчас изображение хризмы часто используют в православных ювелирных изделиях - крестах, браслетах и подвесках.