Schmitz besuchte in seiner Geburtsstadt ein Gymnasium und studierte danach von 1874 bis 1878 Malerei an der Düsseldorfer Akademie, wechselte jedoch 1876 zur Bauklasse der Akademie, um Architektur zu studieren. Nach Beendigung des Studiums sammelte er vier Jahre in einem Atelier praktische Erfahrungen im Bauwesen. Er beteiligte sich an internationalen Denkmalwettbewerben. 1881 erhielt er den ersten Preis für seinen Entwurf des Viktor-Emanuel-Denkmals in Rom. Er gewann auch 1883 den Ausscheid für das Gebäude des Oberösterreichischen Landesmuseums in Linz. 1884 ging Schmitz nach Leipzig, um seine Kenntnisse in der Kirchenbaukunst zu erweitern. 1885 ließ er sich in Berlin nieder und war zuerstmit kleineren Arbeiten beauftragt, so 1885 mit dem Bau einer Wettersäule auf dem Berliner Schloßplatz.. 1888 reiste er in die USA und erhielt dort mehrere Aufträge, Entwürfe für Denkmale bzw. Gebäude auszuarbeiten. In Berlin beteiligte er sich ab 1890 am Wettbewerb um das Nationaldenkmal, das dem deutschen Kaiser Wilhelm I. gewidmet war. Er erhielt den ersten Preis, das Denkmal wurde jedoch nie errichtet. Von Schmitz stammt das 1896 eingeweihte Kaiser-Wilhelm-Denkmal auf dem Kyffhäuser. 1893 wurde in Indiana, Bundesstaat Indianapolis (USA), das Siegesdenkmal, das nach Entwürfen von Schmitz entstanden war, enthüllt. 1894 nahm ihn die Königliche Akademie der Künste zu Berlin als Mitglied auf. In jener Zeit wohnte Schmitz in Charlottenburg, Hardenbergstraße 24. 1896 entstand nach seinen Plänen die Anlage für die Berliner Gewerbeausstellung im Treptower Park. Schmitz löste sich bei seinen Entwürfen von den historisierenden „Neo“-Formen seiner Zeitgenossen und errichtete wuchtige Baudenkmale. Am 1.10.1898 begann unter Schmitz‘ Bauführung der Bau des Völkerschlachtdenkmals bei Leipzig, dessen Einweihung am 18.10.1913 stattfand. Schmitz, der ab 1902 auch Mitglied der Dresdener Kunstakademie war, lieferte die Entwürfe für das „Deutsche Haus“ auf der Weltausstellung 1903/04 in St. Louis, USA. Ab 1905 wohnte er in dem nach seinen Entwürfen errichteten Haus in der Charlottenburger Sophienstraße 11. Zwischen 1904 und 1906 wurden nach seinen Entwürfen das „Gildenhaus“ des Papier- und Druckgewerbes in der Dessauer Straße 2, das Weinhaus Rheingold in der Bellevue-, Ecke Potsdamer Straße in Kreuzberg sowie 1905 das Geschäftshaus „Automat“ in der Friedrichstraße 167/68 in Mitte gebaut. 1905 verlieh ihm die Technische Hochschule Dresden die Doktorwürde, und 1913 erhielt er seine Benennung zum Geheimen Baurat.