Ну, с одной стороны насилием и лишением гражданских прав, да и вообще прав как явления. Психологически это ломало. Кроме того, рабов чаще всего брали среди варваров, где доминирующим был родо-племенной строй, и жили там общинами. В общине отдельный индивид не мыслил своего существования без общества. Ну, то есть он сам себе ноль, и какую-то ценность обретает только в коллективе. Пленный из этой общности вынимался, с соплеменниками ему контактировать не давали, языка своих коллег по несчастью он не знал, и поэтому достаточно быстро приручался и приучался к новой жизни. Да и отношение окружающих как к говорящему предмету тоже помогало самому поверить в то, что ты предмет, хехе. Кроме того, система была отлажена веками практики, так что раб попадал в конвейер, где его личные взбрыки и попытки добиться какой-то свободы были давно учтены и просчитаны. С рабами обращаться умели.
При этом, за исключением времен Поздней Республики, когда завоевание Средиземноморья вошло в финальную фазу и рабов было просто безумное количество, раб был дорог и ценен, особенно обученный раб. Его ценили, поощряли, и это была вполне себе жизнь, иногда даже не слишком плохая. И это тоже фактор усмирения, выбор у тебя, обычно, был простой - жить относительно сносно или умереть. Выбирали жизнь.