Er studierte zuerst Philologie und Philosphie, wechselte dann jedoch zu den Naturwissenschaften. 1856 ging er als Lehrer für Chemie, Physik und Mathematik an eine Wiener Realschule. 1861 gab er mit „Chemische Studien“ sein erstes Werk heraus. Er arbeitete auf dem Gebiet der physikalischen Chemie und bestimmte die Loschmidtsche Zahl, die Anzahl der in einem Kubikzentimeter enthaltenen Moleküle eines Gases bei 760 Torr und 0 Grad Celsius. 1868 wurde Loschmidt Dr. phil. h. c. und außerordentlicher Professor für physikalische Chemie sowie Direktor des physikalisch-chemischen Labors am Institut für Physik der Universität Wien. Er wurde 1890 emeritiert.