Nach dem Schulbesuch in München studierte Hefner-Alteneck an der dortigen Technischen Hochschule, später in Zürich. Auf der Pariser Weltausstellung 1867 war er von den Erzeugnissen der Firma Siemens & Halske so begeistert, daß er sich dort als Konstrukteur bewarb. Zunächst nur als Arbeiter beschäftigt, wechselte er später ins Konstruktionsbüro, wurde 1872 Assistent, 1877 Vertreter des Büroleiters und 1880 Prokurist. Als Werner von Siemens 1889 das Geschäft seinen Söhnen übertrug, schied er aus der Firma aus. 1897 wurde er Aufsichtsratsmitglied der AEG. Der theoretisch hochbegabte Hefner-Alteneck zählte zu seiner Zeit zu den besten Konstrukteuren und Erfindern der noch jungen Elektrotechnik, er machte zahlreiche Erfindungen vor allem auf dem Gebiet der Telegraphie und Zeichenübertragung: 1872 erfand er den (in verbesserter Form heute noch gebräuchlichen) Trommelanker für elektrische Motoren, 1873 konstruierte er mit dem "Dosenschreiber" eine Art Schreibmaschine, mit der Buchstaben in Morsezeichen umgewandelt wurden, 1878 baute er die "Differentialbogenlampe", und mit Hilfe der von ihm 1889 konstruierten "Amylacetatlampe" konnte erstmals zuverlässig die Lichtstärke bestimmt werden. Bis 1941 war dafür die Maßeinheit "Hefnerkerze" gebräuchlich. Die von ihm 1903 entwickelte Zeigerschreibmaschine "Mignon" wurde von der AEG produziert. In seinen späteren Jahren bemühte er sich nachdrücklich um eine Reform der deutschen Patentgesetze. Hefner-Alteneck war Mitglied der Akademie der Wissenschaften; 1897 wurde ihm in München die Ehrendoktorwürde verliehen. Er erhielt ein Ehrengrab in Schöneberg auf dem Alten Kirchhof der Sankt Matthäus-Gemeinde.