Die Straße war ein Teil der Straße 10 a der Abteilung IV des Berliner Bebauungsplanes. Sie wurde benannt, nachdem die Zwölf-Apostel-Kirche fertiggestellt war. Sie verlief östlich der Zwölf-Apostel-Kirche, der Straßenverlauf führte südlich der Kirche im rechten Winkel nach Osten als Stichstraße. Diese Sackgasse wurde im Volksmund als "Bullenwinkel" bezeichnet, 1906 wurde sie bis zur Frobenstraße weitergeführt. Am 18. September 1934 erfolgte die Umbenennung dieses Abschnitts in Kurmärkische Straße, zur gleichen Zeit wurde das Teilstück der Zietenstraße westlich der Zwölf-Apostel-Kirche, zwischen Kurfürstenstraße und Zietenstraß 6, in An der Apostelkirche umbenannt.