Зарождение ордена относят к 1-му десятилетию 1140 г., однако формально он был основан в 1190 г. в ходе Третьего крестового похода и носил имя «Гостеприимный орден Пресвятой Марии Тевтонской в Иерусалиме». Со временем роль этого ордена становилась все более значительнее. Во многом орден обязан этим личности своего четвертого верховного магистра, Германа фон Зальца (1209—1239), одного из выдающихся деятелей европейской политики своего времени.
Советник Фридриха II, но в то же время пользующийся доверием папы римского и его преемников, он сумел получить дарения для своего ордена в палестинских землях, на Сицилии, в Апулии, на юге Тироля, в Тюрингии и других областях империи. Как и Альберт Бременский, Герман фон Зальца пытался основать свое государство. В 1211 г. венгерский король Андраш II уступил ордену землю Бурца в Транснльвании в обмен на защиту от кочевников куманов. В результате вокруг города Германштадта (Сибиу в современной Румынии) появилась сеть замков и укреплений.
Однако эти начинания окончились неудачей: сын венгерского короля Бела, будущий король Бела IV, обеспокоенный растущим могуществом Ордена, изгнал немецких братьев из Трансильвании, невзирая на то, что в это дело вмешались почти все европейские правители, включая императора и папу римского. Действительно, князья империи были заинтересованы в Тевтонском ордене: ведь четырнадцать лет правления ордена в Трансильвании дали блестящие результаты, выгодные для западных колонистов. С другой стороны, служение ордену или сотрудничество с ним давало возможность реализовать основные задачи рыцарства, в которые входила борьба за христианскую веру и высшие христианские ценности.
В момент изгнания тевтонских рыцарей из Трансильвании князь Конрад I Мазовецкий, безуспешно пытавшийся завладеть краковским престолом, решил передать ордену земли, расположенные на северной границе Мазовии, дабы обезопасить их от набегов извне. В 1225—1226 гг. он всеми силами убеждал рыцарей обосноваться на границе с прусскими территориями. В 1230 г. первые группы тевтонских рыцарей заняли Хелминскую землю, обращенную в христианство епископом Кристианом, цистерцианцем из польского аббатства Лекно.
Сумев добиться отмены привилегий, данных епископу императором Фридрихом II, тевтонские рыцари захватили Кристиана в плен и приступили к завоеванию прусских земель. В покорении язычников-пруссов принимало участие множество рыцарей из разных областей Германии, Нидерландов, Франции, Англии, Чехии, Италии и Польши; война с язычниками приравнивалась ими к борьбе за христианскую веру — и в то же время это был прекрасный способ обогащения. Успехи ордена на ратной ниве объяснялись и тем, что тевтонские рыцари владели новейшими приемами военного мастерства.
Вскоре немецкие рыцари начали вторжения в области, расположенные вдоль Вислы, и достигли балтийских берегов. Поддерживая непрерывную связь с западными державами-союзниками, способными поддержать их в случае нужды, рыцари Тевтонского ордена основывали новые города и укрепляли древние поселения. История завоеваний ордена отражена в датах основания городов и предоставления им городского права: так, в 1233 г. были основаны Торунь (Торн) и Хелмно (Кульм), в 1234 г. — Квидзын, в 1237 г. — Эльблонг (Эльбинг), в 1254 г. — Клайпеда (Мемель), в 1255 г. — Кенигсберг. Последнее восстание пруссов было подавлено в 80-е гг. XIII в., после чего их земли, полностью подчиненные Тевтонскому ордену, превратились в могущественный домен, поддерживавший отношения со многими дворами западноевропейских правителей.
Не выходя за рамки истории Тевтонского ордена, достаточно будет сказать, что на севере Польши появилась политическое образование, благоволившее немецким колонистам и знакомое со всеми техническими и организационными новшествами, какие только были известны Европе в эпоху крестовых походов. Смыслом существования ордена была война, «крестовый поход» во имя веры Христовой, а также ради предоставления немецким колонистам, в большинстве своем простым рыцарям Тюрингии и Франконии, возможностей материального и карьерного роста. Для Польши они представляли угрозу, возраставшую по мере того, как другие трудности мешали объединению этой страны.
Включение рыцарей-меченосцев в ряды Тевтонского ордена повлекло за собой изменения в политической расстановке сил, сложившейся на балтийском побережье. Экспансия Дании, которой империя уступила в 1214 г. — после требований Вальдемара II — северные территории, принадлежавшие немецким и славянским князьям, не отвечало интересам ни местных правителей, ни городов, стремительно выросших на торговом пути, проходящем через Висбю и связывавшем Любек с Ливонией. Проведя несколько лет в плену у графа Генриха Шверинского, датский король Вальдемар 2, получив свободу, вновь развязал войну, пытаясь сохранить господство над своими владениями, но в 1227 г. был побежден соединенными силами князей и городов в битве у Борнхеведа. Дания потеряла почти все свои завоевания (кроме Рюгена), что лишь ускорило процесс возникновения городов Висмара, Ростока, Штральзунда, Штеттина (Щецина) и Данцига (Гданьска).