Карл Маннергейм принимал активное участие в русско-японской войне в рядах армии Николая II. Был инициатором нескольких успешных боевых операций. За умелое руководство и личную храбрость барону было присвоено звание полковника. В это же время Маннергейм принимает участие в «глубокой разведке» на территории Монголии. Целью разведки был поиск японских сил в Манчжурии, для устранения дипломатических скандалов разведка проводилась силами «местной милиции». Полковник писал: «Мой отряд — просто хунзуны, то есть местные грабители с большой дороги… Эти бандиты … ничего, кроме русской магазинной винтовки и патронов, не знают… Мой отряд собран на скорую руку из отбросов. В нём нет ни порядка, ни единства… хотя их нельзя упрекнуть в недостаточной храбрости. Им удалось вырваться из окружения, куда нас загнала японская кавалерия… Штаб армии был очень удовлетворён нашей работой — удалось закартографировать около 400 вёрст и дать сведения о японских позициях на всей территории нашей деятельности». Это была последняя операция в русской-японской войне.