Franz Philipps musikalische Begabung trat sehr früh in Erscheinung und so erhielt er seit seinem 7. Lebensjahr Klavierunterricht. Schon als Gymnasiast hat Philipp eine Messe komponiert und bei Schulgottesdiensten spielte er die Orgel. Seit 1908 - also noch während seiner Gymnasialzeit - belegte er am Freiburger Konservatorium die Fächer Musiktheorie, Instrumentation, Komposition, Violine und Klavier. Von 1911 bis 1912 studierte er die Fächer Literaturwissenschaft und Philosophie an der Universität Freiburg und von 1912 bis 1913 dann das Fach Orgel am Basler Konservatorium. Dort begegnete er seinem wohl wichtigsten Lehrmeister, dem Reger- und Straube-Schüler Adolf Hamm, durch den er als Komponist und Kirchenmusiker nachhaltig geprägt wurde. Bei Hamm erlernte er die Grundlagen für seine später vielbewunderte Kunst der freien Improvisation und des souveränen Beherrschens des Kontrapunktes.

In den Jahren vor dem Ersten Weltkrieg entstanden erste mit Opuszahlen versehene Kompositionen wie die Lenau-Lieder op. 1, und auch während des Krieges komponierte Philipp eine Reihe von Werken, die vom damaligen Zeitgeist geprägt waren, wie z. B. die Kriegslieder op. 5. Im Jahr 1916 erregte der Komponist mit der Uraufführung seines patriotischen Chorwerkes für Männerchor und Sinfonisches Orchester op. 10 Deutschlands Stunde in der Berliner Philharmonie erstmals größeres Aufsehen.

Im Ersten Weltkrieg wurde Franz Philipp verwundet, zurück blieb ein irreversibler Hörschaden. Nach seiner Genesung kehrte Philipp nach Freiburg zurück und wirkte in seiner Heimatstadt als Organist und Chorleiter, wo er sich rasch einen Ruf als einfallsreicher und improvisationsfreudiger Komponist im Stil Anton Bruckners erwarb. Neben seiner Tätigkeit als Kirchenmusiker wirkte er ab 1923 sehr erfolgreich als staatlicher Musikpädagoge am Lehrerseminar.

Durch das große Ansehen Philipps als bedeutender katholischer Kirchenmusiker im In- und Ausland wurde er 1924 zum Direktor des Badischen Konservatoriums Karlsruhe berufen, wo er 1925 die Badische Orgelschule und 1926 den Badischen Kammerchor sowie das Badische Kammerorchester gründete. Unter seiner Leitung wurde das Konservatorium 1929 zur Badischen Hochschule für Musik erhoben. Neben der Gewährung eines Ehrenhonorars wurde Philipp 1932 dann auch zum Professor ernannt.

Franz Philipps Hauptarbeitsfeld lag vor 1933 und nach 1945 hauptsächlich auf dem Gebiet der Kirchenmusik. Doch zwischen 1934 und 1944 entstanden Kompositionen, die dem Nazi-Regime des Dritten Reiches huldigten (Volkskantate op. 32 oder Deutsche Volkshymne zum Lob der Arbeit op. 33, Kantate Ewiges Volk op. 45). Solche Kompositionen versuchte Philipp später zurückzuziehen.

Angesichts politischer Schwierigkeiten aufgrund seiner starken Verwurzelung in der katholischen Kirchenmusik trat der Komponist 1941 nach fast 18-jähriger Tätigkeit unter Angabe gesundheitlicher Gründe von seinem Posten in Karlsruhe zurück. Innere und äußere Spannungen und ein gesundheitlicher Zusammenbruch erzwangen diesen Schritt. Nach 1942 lebte Philipp als freischaffender Komponist wieder in Freiburg.

Dort fand er im Elend des Zweiten Weltkrieges und der Nachkriegszeit - sein Sohn war 1944 bei Calais in der Normandie gefallen - die Kraft zu einem gewichtigen Spätwerk. Die Kantate Zwischen Zeit und Ewigkeit op. 65 entstand (Uraufführung 1950), die er als sein Lebenswerk ansah.

Die Symphonische Kantate "De profundis" op. 83 und die Missa symphonica op. 85 setzten noch neue Höhepunkte im Schaffen des damals 74-jährigen Komponisten. Franz Philipp starb am 2. Juni 1972, als Ehrenvorsitzender unzähliger Chorvereinigungen und Vereine in seiner Heimatstadt Freiburg im Breisgau.

Philipps musikalisches Schaffen ist stark von der sinfonischen Gestaltung Anton Bruckners und der Harmonik Max Regers geprägt. Weitere Wurzeln seines musikalischen Schaffens liegen in der Gregorianik und im bewussten Bezug auf das deutsche Volkslied. Sein Werk umfasst alle Phasen der musikalischen Ausdrucksformen, vom einfachen Kinderlied über die Kammermusik bis zum groß angelegten sinfonischen Chorwerk.

Philipps Gesamtwerk weist 98 Opuszahlen sowie einige Werke ohne Opuszahl auf. Den inneren Antrieb seines künstlerischen Lebens erhielt der Komponist zum einen durch seine tiefe Religiosität, zum anderen durch die Liebe zur alemannischen Heimat. Dies spiegelt sich dann auch in Philipps Werken wider. Durch sein Schaffen für die katholische Kirchenmusik hat er eine Umorientierung und Modernisierung vorangetrieben. Der Komponist verwendete als einer der ersten wieder deutsche Texte auch für liturgische Kompositionen, wobei seine besondere Hinwendung dem Gemeindegesang galt. In seinen Hauptwerken strebt er danach, Sinfonie und Kantate zu monumentaler Einheit zu verschmelzen.

Kein geringerer als Reinhold Schneider hat das Gesamtwerk in einem Brief an Philipp ebenso knapp wie umfassend geschildert: "Es war Ihnen vergönnt, das musikalische Münster Freiburgs zu erbauen". 1960 erhielt der Komponist als erster Preisträger den Reinhold-Schneider-Preis der Stadt Freiburg verliehen.

Der musikalische Nachlass von Franz Philipp wird heute in der Badischen Landesbibliothek Karlsruhe aufbewahrt und der Forschung zur Verfügung gestellt. Es handelt sich dabei um gedruckte Notenausgaben seiner Werke sowie um handschriftliche Noten.