Выражение означает «наизнанку» или «наоборот». Сегодня оно кажется нейтральным, но во времена Московской Руси было зашкварным. «Шиворотом» в то время называли боярский воротник, который указывал на особый статус владельца. Однако, если вельможа попадал в немилость государя, его сажали на тощую лошадь спиной вперёд, надев одежду наизнанку. Так его возили по всему городу на потеху толпе.