Er war der Sohn des Novellendichters und Übersetzers Eduard von Bülow. Mit neun Jahren erhielt er bei F. Wieck ersten Klavierunterricht, begann jedoch 1848 in Leipzig mit dem Studium der Rechtswissenschaften, das er 1850 in Berlin fortsetzte. Dort betätigte er sich auch publizistisch bei der "Abendpost". Im Herbst 1850 entschied er sich für die Musik, ging trotz Widerstands seiner Eltern nach Zürich und arbeitete dort und danach in St. Gallen am Stadttheater. In Weimar schloß er bei Liszt seine Ausbildung als Pianist ab. Er wurde Mitarbeiter der "Neuen Zeitschrift für Musik" und begann 1853 erste Konzertreisen durch Deutschland und Österreich. 1855 trat er eine Anstellung als Klavierlehrer am Sternschen Konservatorium in Berlin an und wurde Konzertdirigent bei der Berliner "Gesellschaft der Musikfreunde". 1864 rief ihn König Ludwig II. nach München, 1867 wurde er Hofkapellmeister. Während dieser Zeit dirigierte er die Wagner-Uraufführungen "Tristan und Isolde" (1865) und "Die Meistersinger von Nürnberg" (1868). Drei Jahre später ging er nach Florenz und von dort auf Konzertreisen nach London, Rußland und Amerika, wo er 139 Konzerte gab. 1877 wurde Bülow Hofkapellmeister in Hannover, 1880-1885 Hofmusikintendant bei Herzog Georg II. in Meiningen. Nach der Scheidung von seiner ersten Ehefrau, Liszts Tochter Cosima, die die zweite Ehefrau Richard Wagners wurde, heiratete von Bülow 1882 die Schauspielerin Marie Schanzer (1857-1941). Ab 1885 wirkte er als Dirigent, Pianist und Lehrer, u. a. als Leiter der Abonnementskonzerte in Hamburg. 1882-1894 war er erster Chefdirigent der Berliner Philharmoniker. 1889 und 1890 hatte er erneut Konzertauftritte in Amerika. Anfang 1894 fuhr er zur Erholung nach Ägypten, starb jedoch wenige Tage nach seiner Ankunft in Kairo.