Евреи появились на будущих российских территориях Причерноморья и Приазовья еще в I–II веках.
Первыми еврейскими поселенцами греческих колоний стали воины из Персии. Об этом свидетельствует надгробная плита захоронения воина-еврея на современном Таманском полуострове в Краснодарском крае, датируемая I веком. Через шесть веков евреи и вовсе стали доминирующим населением в регионе. Об этом пишет византийский историк Феофан:
«… в городе Фанагория и его окрестностях около живущих там евреев проживают также и многие другие племена».
Материальным подтверждением того, что в Фанагории существовала еврейская община, стала найденная в 2015 году в поселке Сенной в Краснодарском крае амфора конца IX — начала Х века. Надпись на аморфе профессор Еврейского университета в Иерусалиме Шауль Шакед идентифицировал как древнееврейскую. Сотрудник института археологии РАН Лариса Голофаст полагает, что надпись представляет собой знак кошерности содержащегося в амфоре продукта. Скорее всего, аморфа была привезена купцом-евреем, торговавшим в Фанагории, которая входила в Хазарское ханство.
Вслед за еврейскими купцами — раданитами — в Хазарию пришли священники, под влиянием которых правитель хазар Булан и знать перешли в иудаизм. В 1117 году половцы разрушили Белую Вежу и вынудили хазар уйти на Русь. В их числе были и этнические евреи из Арабского халифата и Византии, проживавшие в Хазарском каганате. Еврейские топонимы в Киеве — Жидовский квартал, Жидовские ворота — стали следствием этих миграционных процессов.
Известное письменное окончательно недостоверное подтверждение того, что в X веке в Киеве действовала еврейская община — «Киевское письмо». Письмо на иврите с просьбой к евреям других городов пожертвовать денег для выкупа Яакова бен Ханнуки было найдено среди прочих манускриптов Каирской генизы. Интересно, что последнее слово письма написано на тюркском языке, предположительно, на хазарском.
Киевские евреи перевели с иврита на древнерусский отрывки из книг Иосифа Флавия, апокрифы «исход Моисея», цикл легенд о Соломоне, «Слово Зоровавеля», книгу Даниэля и Свиток Эстер, а также книгу-хронику еврейской истории «Иосиппон». В житийной и полемической православной литературе упоминаются религиозные споры с иудеями, которые киевский клир вел вплоть до 1240 года.
Помимо Киева еврейские общины были в других городах Руси — Владимире-Волынском, Перемышле, Смоленске, Чернигове. Однако уже в XIII веке евреи Киевской Руси пострадали от татаро-монгольского нашествия, после чего в последующие 200 лет о них не было упоминаний на русских землях.