Сергей Николаевич родился 11(24) июня 1912 года в Саратове в семье рабочих. В школе учился крайне плохо, совершал разные шалости. В старших классах был исключен из школы за хулиганство.
Будущему актеру пришлось идти работать. Был помощником пекаря, слесарем и плотником. Любая работа не вызывала у него особого интереса, пока волею судьбы Сергей не попал в балетную студию. За пару недель он стал лучшим учеником и ему пророчили блестящее балетное будущее. В 1929 году, опоздав на экзамены в балетное училище при Большом театре, поступил в эстрадно-цирковой техникум. Блестяще окончил техникум в 1933 году и был принят в труппу Театра оперы и балета.
Карьеру в балете вскоре пришлось завершить по настоянию врачей. Во время спектакля Сергею Николаевичу стало плохо – сердечный приступ. После этого Филиппов поступил в эстрадный театр-студию, много выступал, был замечен Н.П. Акимовым и приглашен в Театр комедии.
Фильмография Филиппова насчитывает около 110 картин, озвучил несколько мультфильмов.