Сиба-ину не только самая маленькая из шести оригинальных и самобытных японских пород, но еще и самая старая! Раскопки, датируемые примерно 7000 г. до н.э. подтвердили присутствие маленьких собак в Японии в это время, а примитивные рисунки, датируемые 300 г. до н.э., изображают собак, похожих на сиба-ину, преследующих добычу. Некоторые кинологи считают, что предки сиба-ину принадлежали людям Дзёмон (это общее название популяции охотников-собирателей, живших на японском архипелаге в период Дзёмон (ок. 14 000–300 до н. э. )) или людям с веревочным узором, названным так из-за характерной глиняной посуды. Также спорным является вопрос о том, прибыла ли эта порода в Японию из Северной Азии или Кореи, но большинство экспертов сходятся во мнении, что сиба-ину произошли от собак, которые сопровождали людей, прибывших во время первой или второй крупной миграции в Японию (между 2300 и 10 000 лет назад), что делает их одной из старейших пород собак в мире. По данным National Geographic, Сиба-ин