Разница между этими двумя словами по сути такая же, как между "color" и "colour", где первый вариант используется преимущественно в американском английском, а второй - а британском. Американцы используют вариант "mom", а британцы - "mum". Разница существует и в произношении. Американцы произносят "mom" как слово с долгим звуком ɑː /mɑːm/ (как в слове father), а британцы произносят "mum" с коротким и отрывистым гласным звуком ʌ /mʌm/ (с тем же гласным звуком, что в слове but). Стоит сказать и о том, что в ряде британских диалектов можно встретить и тот самый "американский" вариант...