Понятие «мат» довольно позднее. На Руси испокон веков его называли «лая матерная». Надо сказать, что изначально матерный язык включал в себя исключительно употребление слова «мать» в вульгарном, сексуальном контексте. Слова же, обозначающие детородные органы, которые мы сегодня относим к мату, не относились к «лае матерной».
Существует десяток версий функции мата. Одни ученые предполагают, что матерщина появилась на рубеже перехода общества от матриархата к патриархату и изначально означала властное утверждение мужчины, который, пройдя обряд совокупления с «матерью» рода, публично объявлял об этом соплеменникам.
Правда, предыдущая версия никак не объясняет употребление слова «лая». На этот счет существует другая гипотеза, согласно которой «матерщина» имела магическую, защитную функцию и называлась «пёсим языком». В славянской (и индоевропейской в целом) традиции собаки считалась животными «загробного» мира и служили богине смерти Морене. Пёс, служивший злой ведьме, мог обернуться человеком (даже знакомым) и прийти со злыми помыслами (навести сглаз, порчу или даже убить). Так вот, почувствовав неладное потенциальная жертва Морены, как раз и должен был произнести защитную «мантру», то есть послать его по «матушке». Это было свое время разоблачение злого беса, «сына Морены», после которого он должен был оставить человека в покое.
Любопытно, что даже в XX веке в народе сохранилось поверье, что «матерщина» отпугивает чертей и материться имеет смысл даже «ради профилактики», не видя прямой угрозы.