Er studierte Geschichte und habilitierte sich 1830. 1835 wurde er Professor für Geschichte und Literatur in Heidelberg und 1836 in Göttingen. Gervinus gehörte neben den Professoren Wilhelm Eduard Albrecht, F. C. Dahlmann, H. von Ewald, J. Grimm, W. Grimm und W. E. Weber zu den Göttinger Sieben, die am 18.11.1837 gegen die Aufhebung des Staatsgrundgesetzes von Hannover durch König Ernst August protestierten. Er wurde daraufhin entlassen und des Landes verwiesen. 1835–1842 veröffentlichte er mit der „Geschichte der poetischen National-Literatur der Deutschen“ sein wichtigstes Werk. Ab 1844 war er Honorarprofessor in Heidelberg, 1848 wurde er Vertrauensmann der Hansestädte beim Bundestag, Mitglied des Siebzehnerausschusses und gehörte bis Ende Juli 1848 der Frankfurter Nationalversammlung an. Nach 1849 zog er sich aus der Politik zurück. Demokratische Ideen, die er in der „Einleitung in die Geschichte des 19. Jahrhunderts“ äußerte, führten 1853 zu einem Hochverratsprozeß und zu seiner Amtsentlassung. Er war danach bis zu seinem Tod Privatgelehrter in Heidelberg. 1856–1866 veröffentlichte er u. a. die „Geschichte des 19. Jahrhunderts seit den Wiener Verträgen“.