В XII веке вслед за ганзейскими купцами на восточный берег Балтики пришли крестоносцы. Главная цель экспансии – завоевание и крещение языческих народов. В 1224 году немцы захватывают основанный Ярославом Мудрым Юрьев, а созданный вскоре ими Ливонский орден на долгое время станет одной из главных угроз для западных рубежей Руси.
Потомки ливонских пленников Ивана Грозного с начала XVII века активно привлекаются для формирования «полков иноземного строя».
В конце XVIII века вместе с остзейскими дворянами в русскую армию приходит прусская дисциплина, вышколенность и доведенная до автоматизма боевая выучка – то, что вдохновило Павла I на военные реформы.
Многие из остзейских немцев на русской военной службе достигают карьерных высот. Например, выходец из старинного эстляндского рода Карл фон Толь. Этому талантливому штабному генералу принадлежит план войны с Наполеоном, именно он разработал оперативный план Бородинского сражения. Позднее Толь руководил успешными операциями в ходе русско-турецкой войны 1828 -1829 годов.
Еще одним знаменитым остзейцем был Барклай-де-Толли. «Тактика выжженной земли», которая использовалась генералом во время войны с Наполеоном, вызывала протест у русского поместного дворянства, но именно она во многом предрешила исход военной кампании.
Перед русско-японской войной доля генералов немецкого происхождения в генералитете русской армии составляла 21,6%. На 15 апреля 1914 г среди 169 "полных генералов" было 48 немцев (28,4 %), среди 371 генерал-лейтенанта - 73 немца (19,7 %), среди 1034 генерал-майоров - 196 немцев (19%).
Большой процент офицеров немецкого происхождения был в Лейб-гвардии Конном полку, в который, по традиции, набирались в основном прибалтийские (остзейские) немцы.
Другими известными балтийскими немцами в русской армии и флоте были П.К. Ренненкампф, Е.К. Миллер, адмирал фон Эссен, барон А. Будберг, генерал Н.Э. Бредов.