Ebbe le prime lezioni di musica dalla madre pianista. Poi passò al conservatorio parigino ed ebbe maestri eccellenti come Lesueur e Halevy.

Più tardi si appassionò al romanticismo tedesco. Nel 1839 ebbe il Prix de Rome.

Quando suonava l'organo nelle varie chiese, l'atmosfera di religiosità lo invogliò allo studio della teologia.

Ebbe una crisi mistica e fu sul punto di vestire l'abito talare. Ma le muse lo distolsero e preferì il teatro all'altare, e così si dedicò attivamente alla lirica.

Cominciò nel 1851 con Saffo che ebbe scarso successo. Nel 1852 sposò Anna Zimmermann. Nel 1854 fu rappresentata La Monaca Sanguinante. Nel 1857 cominciò a comporre Ivan il Terribile, che lasciò incompleto, e il materiale sarà utilizzato più tardi per il capolavoro che sarà Faust.

Nel 1859 ci fu Il medico suo malgrado, da Moliére. Nel 1859 finalmente la fortuna lo baciò in fronte e venne fuori il capolavoro Faust, nel 1860 Philémon et Baucis e nello stesso anno La Colombe.

Nel 1862 all'operà di Parigi cadde clamorosamente La Regina di Saba, nel 1864 arrivò Mireille, nel 1867 Romeo e Giulietta, nel 1878 Poliuto accolto con freddezza, l'ultima opera fu Il tributo di Zamora del 1881.

Il capolavoro assoluto, è come si è detto, Faust. Gounod cominciò a concepire nella sua mente  durante il suo soggiorno in Italia,  l'idea di comporre un'opera ispirata a Goethe, e tornato in patria si mise al lavoro.

Nella tragedia Goethiana Faust per avere una risposta agli enigmi dell'esistenza vende l'anima al diavolo pur di avere un attimo di appagamento.

Dall'immensa mole della tragedia Goethiana i librettisti Carrè e Barbier, trassero l'essenziale. L'opera di Goethe è eminentemente filosofica, ma Gounod non volle l' ingerenza di pensieri filosofici nella sua opera.

I caratteri dei personaggi sono ben caratterizzati: Mefistofele è beffardo, Faust appassionatamente innamorato, Margherita è una fanciulla dolcissima.

Con la presenza di Mefistofele ci sono, come è prevedibile, scene sinistre. La musica è accessibile anche agli impreparati, è raffinata e l'autore chiede prova di possedere talento per la melodia. Alla prima l'opera non entusiasmò, ma con dei piccoli ritocchi, dalle recite successive fino ai nostri giorni è stato sempre un successo continuo.

Il severissimo Wagner, dall'alto della sua sapienza musicale la giudicò musica sdolcinata e svenevole. Ma la critica e il pubblico hanno messo in forse il giudizio di uno dei più grandi geni musicali del mondo.

Oggi Faust è una delle opere più famose ed eseguite. Mefistofele di Boito e Faust di Gounod trattano lo stesso soggetto e le due opere comminano trionfalmente in tutto il mondo, senza rivalità. Tutte le altre opere dello stesso autore non hanno il vigore del capolavoro, anzi sono fragili. Ma tutta la musica di Gounod, anche quella di minor successo sono tipicamente francesi, come affermano grandi musicisti come Berlioz e Debussy.

Gounod scrisse anche molta musica sacra: messe, oratori, mottetti e cantate.

Fra queste la più ispirata è la Messa di S. Cecilia. E' d' obbligo anche sottolineare una Meditazione sul primo Preludio del clavicembalo, ben temprato di Bach, che poi sarà conosciuta sotto il nome di Ave Maria.

Alla morte di questo grande, avvenuta a Saint-Cloud, il governo proclamò il lutto nazionale.