Павел Павлович Козловский родился 9 марта 1942 года в деревне Волковня Пружанского района Брестской области.
Его отец был солдатом Красной армии, погибшим в 1945 году во время Второй мировой войны.
После окончания средней школы в 1961 году Козловский поступил в Ташкентское высшее общевойсковое командное училище , которое окончил в 1965 году.
Позже он окончил Военную академию имени Фрунзе и Академию Генерального штаба. В марте 1989 года он был назначен командующим 28-й общевойсковой армией, а в июле 1991 года вернулся в Минск на должность начальника штаба Белорусского военного округа.
22 апреля 1992 года утвержден министром обороны Беларуси. Многие считают его создателем современной белорусской армии.