В XII веке на восточный берег Балтики пришли крестоносцы, преследуя цель завоевания и крещения языческих народов. В 1224 году немцы захватили основанный Ярославом Мудрым Юрьев, а созданный вскоре ими Ливонский орден на долгое время стал одной из главных угроз для западных рубежей Руси.
В начале XVII века потомки ливонских пленников Ивана Грозного были активно привлечены для формирования «полков иноземного строя». Эти полки отличались от традиционных русских войск более высокой дисциплиной, выучкой и боевым опытом. Именно они сыграли важную роль в победе Руси над Польшей в Смутное время.
В конце XVIII века вместе с остзейскими дворянами в русскую армию приходит прусская дисциплина, вышколенность и доведенная до автоматизма боевая выучка. Это оказало большое влияние на развитие русской армии и позволило ей добиться значительных успехов в войнах с Турцией, Францией и другими противниками.
Многие из остзейских немцев, служивших в русской армии, достигли больших высот в карьере. Например, Карл фон Толь, выходец из старинного эстляндского рода, был одним из ближайших советников Александра I и сыграл важную роль в планировании и проведении Отечественной войны 1812 года. Он также руководил успешными операциями в ходе русско-турецкой войны 1828-1829 годов.
Другим знаменитым остзейцем был Михаил Барклай-де-Толли. Его тактика «выжженной земли», примененная во время Отечественной войны 1812 года, вызвала критику со стороны некоторых русских военачальников, но в конечном итоге сыграла важную роль в победе России.
Перед русско-японской войной доля генералов немецкого происхождения в генералитете русской армии составляла около 22%. Это было обусловлено тем, что остзейские немцы традиционно занимали высокие посты в русской армии и флоте.