В качестве места заключения тюрьма существовала ещё в отдалённейшие века. В древности тюрьмы устраивались для содержания преступников, пленных и должников, как частных, так и государственных, а также и для усиления других наказаний и для приведения в исполнение различных казней.
В Древнем Риме с легендарных времен Сервия Туллия существовала подземная тюрьма Туллианум, в которой от заразных болезней погибло огромное количество христиан.
В Средние века широко практиковалось заключение пленных, должников, преступников и политически вредных лиц в монастырских кельях, в башнях крепостей и рыцарских замков, а также в городских ратушах. Печальную известность приобрели Тауэр в Лондоне, темница во дворце дожей в Венеции и подземелья Нюрнбергской ратуши.
Развившееся после Крестовых походов массовое нищенство послужило поводом к учреждению в Европе первых смирительных домов (нем. Zuchthaus). Подобный дом — House of correction был устроен в Лондоне в 1550 году; затем в 1588 году — в Амстердаме и специальный дом для помещения нищих детей в Нюрнберге; в 1613 году — в Любеке, в 1615 году — в Гамбурге и в 1682 году в Мюнхене. Туда заключались не только бродяги, нищие, разного рода преступники, но и рабочие и слуги за леность и дерзкое поведение. Вследствие этого смирительные дома вскоре переполнились и превратились в очаги разврата и заразных болезней (тюремный тиф).
В том же ужасающем положении оставались почти все тюрьмы в течение XVIII века. Тюремные помещения были низки, узки, без достаточного света и воздуха. Женщины, мужчины, дети содержались вместе; пища давалась скудная, обыкновенно хлеб и вода; постелью служили связки гнилой соломы на земляном, пропитанном подпочвенной водой полу. Таковы были тюрьмы в Англии, по описанию Говарда, но то же представляли собой и тюрьмы в других государствах, как, например, парижская Бастилия.
Исключение составляли Нидерланды, где, благодаря более гуманным взглядам на наказание, тюрьмы отличались достаточным порядком, надзором и организацией работ. В 1775 году была выстроена в Генте особая тюрьма (Maison de force), в которой заключённые работали днём вместе под строгим надзором, а ночью водворялись в отдельные камеры. Кроме ночного разобщения арестантов, имевшего целью охранение нравственности арестантов, в Генте впервые введена была и другая исправительная мера — распределение заключённых по их нравственным качествам на отдельные группы. Таким образом, гентская тюрьма была первой, в которой преследовались цели исправления преступников.
Затем исправление преступников стало рассматриваться как основная цель тюремного заключения и в других странах. При этом первоначально для этого в протестантских странах была испробована система тюрем особо строгого режима.
Американские квакеры задумали устроить тюрьму как место покаяния (penitentiary). С этой целью к старой тюрьме на Вальнут-Стрите они сделали в 1790 г. новую пристройку с 30 одиночными камерами. Это было началом одиночного заключения как особого типа тюрьмы. Но этот опыт продержался недолго в первоначальном виде — тюрьмы переполнились и одиночные камеры стали служить только ночными помещениями.
Так называемая Оборнская система (по названию города Оборн в штате Нью-Йорк) предполагала обязательное молчание заключённых и их разобщение на ночь. Заключённым запрещалось даже глядеть по сторонам и входить в сношения друг с другом при помощи знаков. Тюрьма в Оборне, рассчитанная на 550 заключённых, с таким же количеством отдельных келий для ночного разобщения, была окончательно устроена в 1820 г. Утром арестанты выпускались из камер и препровождались в общие мастерские. Там они работали под строгим надзором в полнейшем молчании, которое продолжалось и за обеденным столом, причём для уменьшения соблазна завести сношения с соседями все обедающие рассаживались лицом в одну сторону. В томительном, мрачном молчании проходил весь день; за всякое нарушение режима полагалось немедленное взыскание, заключавшееся в ударах плетью, которая находилась постоянно в руках надзирателей. Заключённые подвергались наказанию плетью не только за сказанное слово, но и за всякую рассеянность во время работы. Вечером арестанты разводились снова по камерам и стоя слушали вечернюю молитву, произносимую священником в коридоре. Выносить подобный режим могли только немногие, вследствие чего дисциплинарные наказания за несоблюдение молчания достигали ужасающей цифры. В США в самое непродолжительное время было выстроено до 13 тюрем этого типа и, между прочим, обширная тюрьма в Синг-Синге (Singsing) близ Нью-Йорка (в 1825 г.) с 1000 камер. Оборнская система быстро проникла также и в Европу, где она, правда, претерпела значительные смягчения.
В 1818 г. в штате Пенсильвания постановлено было построить одиночную тюрьму в Питсбурге, которая была закончена только в 1826 г. Система одиночного заключения была названа Пенсильванской системой. С первых же лет сказались преимущества одиночной тюрьмы: побегов стало меньше, заговоры и совместные протесты, а также развращение арестантов оказались невозможными. Но полное разъединение со всем обществом, запрещение переписки даже с родными доводило многих до сумасшествия; заболеваемость достигала высокой цифры; нравственное состояние заключённых было постоянно угнетённое; в них развивалось безучастное отношение ко всему существующему.
Прогрессивная, или ирландская, система, выработанная капитаном Крофтоном и введённая в Ирландии законом 7 августа 1854 г. (Irish prisons act) была направлена на социализацию преступника посредством возбуждения в нём стремления к самодеятельности и постепенного перевода его из разряда отверженных в среду полноправных граждан. Для этой цели долгосрочное наказание отбывалось по степеням (всего 4) с последовательным смягчением режима. Первую степень составляет одиночное заключение в течение 9 мес. (для женщин 4 месяца), причём 4 первых месяца арестант при самой тяжкой работе получал только вегетарианскую пищу, а затем уже переводится на смешанную пищу и более лёгкую работу. При хорошем поведении срок одиночного заключения мог быть сокращён на 1 месяц, а в обратном случае продлён на целый год. Вторая степень заключалась в совместной с другими арестантами дневной работе с разобщением на ночь и делилась на 5 классов: разряд испытуемых, в который поступают только арестанты, отличавшиеся дурным поведением в одиночном заключении, 3, 2 и 1 класс и, наконец, специальный класс. Во время пребывания в 3-м, 2-м и 1-м классе арестанту ежемесячно ставились отметки с выдачей марок отдельно за поведение, затем за учение и, наконец, за работу. В зависимости от их количества заключённые переводились в следующий класс. По прохождении всех 5 или последних 4-х классов заключённые переводились в так называемые intermediate prisons, то есть особые переходные тюрьмы, составлявшие третью степень наказания. В этих intermediate prisons тюремный режим почти совершенно отсутствовал, и заключённые не только получали увеличенную плату за свою работу, но и пользовались относительной свободой, так как их отпускали в церковь, за покупками и т. п. без сопровождения стражи. Время пребывания в переходных тюрьмах также сокращалось прогрессивно, в зависимости от зачтенного уже времени и продолжительности не отбытого ещё наказания. На весь остающийся затем по приговору срок арестанты переводились в четвертую степень, то есть они пользовались условным досрочным освобождением по отпускным билетам, которые, однако, за дурное поведение на свободе во всякое время могли быть отобраны с заключением провинившихся снова в тюрьмы. Эта система повлияла на гуманизацию тюремного заключения в Европе.