Первые уроки рисования Якоб Альт получил в своём родном городе. В 1811 году он поступает в венскую Академию изящных искусств, где учится по классу исторической живописи у Фридриха Августа Бранда и Мартина фон Молитора.
Совершал многочисленные выезды «на натуру» в австрийские альпийские и придунайские области, где писал пейзажи. В 1828 и 1833 годах художник совершает путешествия по Северной Италии, некоторое время живёт в Риме.
Позднее Якоб Альт работает преимущественно как акварелист, создаёт виды Рима по заказу австрийского императора Фердинанда I и делает эскизы для серии литографий Адольфа Фридриха Кунике «264 вида Дуная по течению этой реки», выходившей в Вене с 1820 по 1826 год.
Кроме этого, Якоб Альт был автором и других серий пейзажных литографий, в том числе «Путешествия по живописному Дунаю от Энгельхартсцелля до Вены». Художник во время своих поездок также собирал обширный гербарий, хранящийся ныне в Земельном музее Нижней Австрии.
Его сыновья – Рудольф фон Альт и Франц Альт, также были известными художниками.