Строго говоря, сефардские евреи являются потомками евреев, живших в Испании или Португалии до их изгнания из Испании в 1492 году. Название "сефард" происходит от термина, используемого евреями в Средние века для обозначения Пиренейского полуострова. К категории сефардов также относятся евреи, которые были вынуждены обратиться в католицизм в Испании и Португалии, но продолжали исповедовать иудаизм и сохранять свою еврейскую идентичность в тайне.
Сегодня термин "сефардский еврей" часто используется в более широком смысле, чтобы описать всех евреев, которые следуют сефардской религиозной практике, в отличие от тех, кто следует ашкеназским традициям.
Одним из главных различий между Сефардскими и Ашкеназскими евреями был язык. Языком сефардского иудаизма был ладино, который возник в Испании и позже был распространен в сефардских общинах в Турции, Северной Африке и на Балканах. Ладино лучше всего описывается как диалект Кастильского испанского языка, с заимствованиями из иврита, турецкого и других языков. Первоначально ладино был написан еврейскими буквами, а позже-латинским алфавитом. Вряд ли ладино теперь является повседневным языком в какой-либо сефардской общине, поскольку большинство сефардских евреев теперь говорят на языке народов, где они живут.
Хотя первая дата еврейского поселения в Испании неизвестна, считается, что евреи жили на Пиренейском полуострове еще в римские времена. Между 100 и 300 годами н. э. большое еврейское население поселилось в городах на юго-востоке Испании, и регион к югу от Кордовы стал регионом крупного еврейского поселения. Евреи жили как земледельцы и землевладельцы при Вестготах, но они также подвергались различным гонениям; в 689 году все они были низведены до статуса рабов.
В 711 году Арабские мусульмане завоевали регион и предоставили евреям религиозную, хотя и не полную экономическую или политическую свободу, и начался период, описываемый как "золотой век" испанского еврейства. Этот золотой век продолжался примерно до конца XIV века и ознаменовался продвижением многих евреев в качестве политических советников и врачей и развитием сефардских еврейских традиций в поэзии, литературе, философии и библейской интерпретации.
В 1136 году запретили иудаизм, и евреи стали страдать от усиления преследований. Начиная с 1391 года еврейская община подверглась все большему давлению, целые общины исчезли, и золотой век закончился. С этого момента испанская еврейская община регулярно подвергалась гонениям: были введены ограничения на участие в общественной жизни, многие были вынуждены обратиться в христианство, евреи и их имущество подвергались нападениям, и в конце концов они были изгнаны из Испании в 1492 году.
По оценкам, число евреев, покинувших Испанию, составляет от 50 000 до 250 000 человек. Большинство отправилось в земли, которые были тогда Османской империей, Португалией и Италией. В 1496 году Португалия двинулась на изгнание всех евреев,но в 1497 году заменила политику принудительного обращения. Ближе к концу следующего столетия произошла вторая диаспора сефардских евреев, которые переехали в Нидерланды, а затем в Англию, Северную Европу и Новый Свет.