Происхождение йоги скрыто от нас завесой времени, ибо йога считается божественной наукой о жизни, открывающейся лишь просвещенным мудрецам во время медитации. Древнейшей археологической находкой, подтверждающей ее существование, были каменные печати, изображающие фигурки в позах йоги, обнаруженные в долине реки Инд и относящиеся приблизительно к 3000 г. до н. э. Йога впервые упоминается в Ведах, памятниках древнеиндийской литературы, часть которых датируется, по крайней мере, 2500 г. до н. э., но основная часть учения йоги и ее философии, известной как веданта, содержится в заключительной части Вед — Упанишадах. Главенствующей идеей в веданте является идея абсолютной реальности или сознания, известной как брахман, лежащий в основе всего существующего.
Примерно в VI веке до н. э. появились две эпические поэмы — «Рамаяна», написанная Вальмики, и «Махабхарата», написанная Вьясой и содержащая «Бхагавадгиту», представляющую собой, наверное, самое известное из произведений, имеющих отношение к йоге.
В «Гите» Бог, или Брахман, воплощенный в образе Кришны, обучает йоге воина Арджуну — в частности тому, как достичь освобождения путем выполнения своих обязанностей в жизни. Сущность раджа-йоги подкреплена сутрами йоги Патанджали, которые, как считают, были написаны в III веке до н. э. Классическим текстом по хатха-йоге является Хатха-йога-прадипика, в которой описываются различные асаны и дыхательные упражнения, образующие основу современной практики йоги.