17 марта 1933 года Гитлер назначил Зеппа Дитриха командиром эсесовского подразделения охраны правительственных зданий столицы, состоявшим из 120 бывших телохранителей фюрера. Через несколько месяцев эта часть была переименована в отряд СС особого назначения для охраны района Цоссен-Ютербог, а в сентябре подразделение Дитриха было преобразовано в элитный полк СС «Адольф Гитлер».
Тогда Зепп Дитрих имел в своем распоряжении всего три батальона – 12 рот. Затем, с развитием вооруженных сил СС, полку группенфюрера Дитриха были приданы саперный взвод, мотоциклетная рота и взвод танковой разведки. Йозеф Дитрих, организуя своим подчиненным учения в настоящей боевой обстановке, потери при которых составляли до 10-15 % личного состава, превратил лейбштандарт «Адольф Гитлер» в одно из самых лучших подразделений германской армии.
Но, Дитрих не замыкался только на военных вопросах. Гитлер помнил своего старого друга и иногда просил его о небольших "одолжениях". Так, Йозеф Дитрих принял самое активное участие в организованной фюрером 30 июня 1934 года расправе над своими старыми товарищами по партии. Зепп командовал расстрельным взводом и лично застрелил не один десяток старших офицеров СА, в том числе и несколько своих друзей по Мюнхену. 4 июля Гитлер устроил в Берлине торжественный прием по случаю подавления «заговора» СА. На этой церемонии Дитрих вместе с Гиммлером и другими эсесовцами получил почетные кинжалы СС. Через несколько дней он стал обергруппенфюрером СС (соответствует генералу вермахта – промежуточное звание между генерал-лейтенантом и генерал-полковником).
Первой операцией полка СС «Адольф Гитлер» стало присоединение к рейху Саарского района. В марте 1935 года, после проведенного здесь в соответствии с условиями Версальского договора референдума, на котором подавляющее большинство населения высказалась за возвращение в состав Германии, солдаты в черной форме под командованием обергруппенфюрера СС Йозефа Дитриха вошли в украшенный нацистскими флагами Саарбрюкен. В этот раз происходящее походило более на театральное действо, чем на военную операцию. Двухметровые солдаты в полной выкладке, ведомые офицерами ниже их минимум на пол головы, под звуки военного оркестра промаршировали по главной улице города перед объективами кинокамер. Но, пройдет чуть больше пяти лет, и пора оркестров и парадов безвозвратно канет в прошлое.