По наиболее распространённой версии выражение является переводом немецкого оборота «Da liegt der Hund begraben!». По другой версии, выражение возникло как ответ на вопросы любопытных: где зарыта собака средневекового рыцаря Сигизмунда Альтенштейга, которой он будто бы поставил памятник за то, что она спасла ему жизнь.
В действительности же выражение появилось вследствие отношения наших предков к собаке, как к нечистому животному. На Руси собаку нельзя было зарывать в землю, подобно тому, как нельзя было хоронить в земле и нечистых (заложных) покойников – нечистое тело провоцировало «гнев Земли», т.е. всякого рода бедствия. С позиций предшествующего язычеству ведизма данное явление объяснялось довольно просто: негатив всегда притягивает негатив, а потому помещённый в землю объект с негативной энергетикой со временем, накопив значительный объём отрицательной энергии, начинает пагубно влиять на окружающее пространство, постепенно увеличивая радиус своего воздействия.
Возвращаясь к собакам, уместно будет вспомнить белорусские проклятия: «Каб ты як сабака валяўся!» и, вместе с тем, «Каб цябе святая зямля не приняла!», «Каб зямля твае косцi выкiдала!» – эти выражения предстают в принципе как равнозначные. Особенно показательно в этом смысле полесское проклятие: «Шоб тоби не приняла Мать сырая Зямля – сукину дачку» – наименование «сукина дочка» приобретает особую значимость в этом контексте.
Соответственно, те или иные бедствия могли приписываться именно осквернению земли, в которой зарыто нечистое тело. Для того, чтобы предотвратить дальнейшие бедствия – остановить гнев Земли – считалось необходимым обнаружить нечистое тело и извлечь его из земли. При этом место захоронения нечистого тела было обычно неизвестно и найти его было трудной задачей. Тем самым обнаружить, где собака зарыта (собака олицетворяет нечистое тело) означает: раскрыть первопричину, источник бедствия или вообще найти причину тех или иных событий.