Что ж, вопрос, в некотором смысле, с подвохом.
Действительно, и слово jail, и слово prison означают "тюрьма", но есть ли между ними разница?
Оба слова существуют в английском языке не одну сотню лет (jail с 13 века, prison — с 12), оба происходят из латыни:
лат. cavea ("клетка") — caveola — фр. gaiole/jaiole — англ. jaiole — jail
лат. prehensionem ("схватывание, захват") — фр. prison — англ. prison
Что ж, раз уж оба слова были заимствованы и проделали столь долгий путь в языке, то, очевидно, какая-то разница между ними должна была быть. И она была.
Jail определяется как "место заключения для лиц, содержащихся под стражей на законных основаниях" (a place of confinement for persons held in lawful custody), а prison — как "место заключения, специально предназначенное для нарушителей закона" (a place of confinement especially for lawbreakers).
Говоря простым языком, jail — это место, куда попадают ненадолго и/или за не самые серьёзные правонарушения, а говоря юридическим — "место, находящееся под юрисдикцией местного органа власти, предназначенное для содержания лиц, ожидающих суда, или лиц, осужденных за мелкие преступления".
Prison — это место, куда попадают всерьёз и надолго за крупные правонарушения, или "учреждение для содержания лиц, осужденных за тяжкие преступления".
Впрочем, возможно, формальности этих терминов и соблюдаются в системе правосудия, но в разговорной речи и СМИ эти два понятия давно смешались до состояния синонимов.
В качестве примера можно привести газету "Нью-Йорк таймс", где в статье ещё от 1964 года в заголовке использовалось слово jail, а в первом же предложении уже prison:
Hoffa Gets 8 Years in Jail And a Lecture on Justice.
James R. Hoffa was sentenced to eight years in prison and fined $10,000 today for attempting to rig a Federal jury. — The New York Times , 13 Mar. 1964
И, например, словарь Merriam Webster приводит идиому "гнить в тюрьме" с двумя вариантами через слэш — left to rot in jail/prison, хотя технически, как вы понимаете, в jail сгнить не особо и успеешь.
Есть ещё, кстати, слова penitentiary (государственное учреждение, в котором содержатся нарушители закона для содержания под стражей или наказания, либо тюрьма в США) и hoosegow ("каталажка, кутузка"). И ещё целая куча разговорных синонимов.