Im Jahre 1375 wurde der als Sackgassendorf angelegte Ort im Landbuch Kaiser Karls IV. erstmals urkundlich erwähnt. Das Dorf unterstand damals der Burg Köpenick. Seine Bewohner besaßen anfänglich keinerlei Acker, sondern lebten ausschließlich vom Fischfang. Für das Jahr 1541 sind 18 Fischerstellen nachgewiesen; im Jahre 1885 hatte Rahnsdorf nur 318 Einwohner. Erst mit der Eingemeindung der Villenkolonien Hessenwinkel und Wilhelmshagen sowie der Anlage eines Siedlungsgebiets um die Rahnsdorfer Mühle setzte ein beachtlicher Bevölkerungszuwachs ein. Kurz vor der Entstehung der Einheitsgemeinde Groß-Berlin 1920, in die Rahnsdorf eingemeindet wurde, konnten über 2 800 Einwohner gezählt werden. 1920 kam Rahnsdorf als ein Ortsteil zum Verwaltungsbezirk Köpenick. Seit der Bezirksfusion 2001 gehört es zum Bezirk Treptow-Köpenick.