Как я писал в прошлых постах, СУБД - это обычная программа, только работающая специальным образом. Можно сказать чуть больше - в мире программирования практически все продукты являются обычными программами, без какой-то волшебной магии. СУБД устанавливается на компьютер - хоть на простой ноутбук, хоть на дорогущий сервер. Некоторые из СУБД (например - SQLite) вообще работают даже на мобильных устройствах. Собственно говоря, как и любая другая программа, СУБД хранится в некоторой папке. В случае с ОС Windows, это часто C/Program Files...