Zimmermann besuchte das Gymnasium in Cottbus und trat in den Verwaltungsdienst ein. Er war Bürgermeister in Bärwalde und Bernau und wurde am 2.10.1875 Gemeindevorsteher von Steglitz. Während seiner Amtszeit entstanden eine Reihe öffentlicher Bauten, u. a. das Rathaus und die Matthäuskirche, die am 28.11.1880 geweiht wurde. Der Grundstein für das Rathaus war am 13.9.1896 gelegt worden, und am 22.3.1898, dem Geburtstag des 1888 verstorbenen Kaisers Wilhelm I., konnte Zimmermann es bereits einweihen. Steglitz entwickelte sich in jener Zeit von einer kleinen Gemeinde zu einem blühenden Vorort Berlins, die Einwohnerzahl stieg von 5 000 auf über 22.000. Am 1.10.1901 trat Zimmermann als Gemeindevorsteher zurück. Er ist auf dem Friedhof Steglitz, Bergstraße, beigesetzt und erhielt ein Ehrengrab.