Er wurde 1799 Fähnrich bei der Leibgarde in Potsdam, 1802 Secondelieutenant, 1807 Premierlieutenant und kam 1809, nachdem er beim König für die Neugestaltung des Heerwesens "Ideen zur Reorganisation der leichten Infanterie" eingereicht hatte, als Stabskapitän in das neu errichtete Garde-Jägerbataillon. Von da an wurde er schnell befördert. 1813 kämpfte er als Major bei Großgörschen, 1815 war er als Oberst Chef des Generalstabes des kombinierten norddeutschen Bundesarmeekorps sowie Ende des Jahres Chef des Generalstabs beim Generalkommando in Preußen. Am 7.10.1816 berief man ihn ins Kriegsministerium, wo er 1817 Chef des Militärkabinetts wurde. Von da an begleitete er Friedrich Wilhelm III., der ihn seinen Freund nannte, auf allen Reisen, zu Besichtigungen und Truppenübungen. 1823 erhielt er vom König 20 000 Taler, mit denen er in Charlottenburg den Lietzensee und Umgebung kaufte und daraus einen Sommersitz schuf. 1827 erhielt er, zum Dank für sein Wirken, die Charlottenburger Ehrenbürgerrechte. Am 25.4.1835 ernannte ihn der König zum Kriegsminister. Seit 1829 bereits gesundheitlich geschwächt, bat von Witzleben 1837 um seinen Abschied, der im März, vier Monate vor seinem Tod, bewilligt wurde. Der Charlottenburger Besitz wurde 1840 von der Familie veräußert und daraus 1899 von einer Terrain-Gesellschaft der öffentliche Lietzenseepark geschaffen.