Сегодня мы употребляем это выражение в сочетании с бранью, как извинения за эту самую брань. В таком ключе оно использовалось не всегда.
Изначально "простите за мой французский" было буквальным выражением без скрытого смысла. Оно вошло в речь в конце XVIII века, когда в обществе русского дворянства начал популяризироваться французский язык. Извинялись же за его использование перед теми, кто языка не знал.
Все дошло до того, что французский стал языком общения дворянства и, для многих, он был ближе родного русского. Однако, когда началась война с Наполеоном, популярность французского резко пошла на спад и его использование стало считаться неуместным и не патриотичным.
От него старались отказаться, но иногда французские слова, все же, проскакивали в речи и за них вновь стали извиняться, как за что-то неприличное.
После войны популярность языка так и не восстановилось, а вот выражение осталось и его продолжали использовать в случаях, когда в речи проскакивало что-то неприличное.
Что интересно, точно такое же выражение существует и в английском языке. Причем оно проделало точно такой же путь - от извинение за использование иностранных слов до способа смягчить ругательство. Однако, в английском оно появилось несколько позже, нежели в России - только в XIX веке. Появилось ли оно независимо или было позаимствовано из русского не понятно.