Cette rue suit le tracé d’une voie romaine reliant Lutèce à Sèvres et Meudon. Indiquée sur les plans de 1672 sous le nom de grand chemin de Bretagne, elle fut, de 1813 à 1851, un section de la route départementale n° 61 pour sa partie comprise entre le boulevard Pasteur et la rue Cambronne.
Elle s’est appelée, de 1825 jusqu’en 1865, rue de Sèvres du nord de la rue Saint Lambert et grand chemin des Charbonniers au-delà. Celui-ci bordé de champs, conduisait au cimetière de Vaugirard ; aussi fut-il pavé en 1835 pour rendre plus aisé l’accès à cet endroit.
Ce chemin et la rue de Sèvres ont fusionné en 1865 sous le nom du général comte Joseph Lecourbe (1759-1815). On a découvert dans cette rue, au cours de fouilles, en 1903, des fragments de la mâchoire inférieure d’un mammouth.