Nach dem Theologiestudium in Wittenberg war er als Hauslehrer in Dresden und ab 1693 in Quedlinburg tätig.
Ein kirchliches Amt wollte er vorerst nicht annehmen. Er schrieb ein Werk über die ersten Christen und erhielt daraufhin 1697 eine Professur für Geschichte in Gießen. Nach Quedlinburg zurückgekehrt, begann mit der Arbeit an seinem Hauptwerk „Kirchen- und Ketzerhistorie“, das 1699 erschien. Drei Jahre später war er Hofprediger im Herzogtum Sachsen-Eisenach, wurde aber bereits am 4.10.1702 des Landes verwiesen. Die verwitwete Herzogin und der preußische König setzten sich jedoch für ihn ein. 1705 wurde er von Friedrich I. in Preußen nach Werben in die Altmark berufen. Arnold wirkte dort als Superintendent, von Herbst 1707 bis 1714 war er in gleicher Funktion in Perleberg tätig. Arnold gilt als Vertreter des Pietismus. Er klagte die geistige Unfreiheit der Menschen an und gab die Schuld daran der Kirche. Sie hätte in allen Zeiten die Ketzer – Arnold nannte sie die „wahren Gläubigen“ – verfolgt.