Portant originellement le nom de « rue des Brouillards[2] », cette rue de la butte Montmartre apparaît sous la forme d'un sentier sur le plan d'Albert Jouvin de Rochefort de 1672. En 1825, la partie de la rue comprise entre la rue Lepic et la rue de l'Abreuvoir porte le nom de « rue de la Croix-du-But ».
Voie de l'ancienne commune de Montmartre jusqu'en 1860, elle est intégrée dans la voirie parisienne en 1863 et prend son nom actuel en 1867. En 1900, une partie de la rue est annexée à la place Constantin-Pecqueur.
No 15 : emplacement, au XVIIIe siècle, de la laiterie du domaine du château des Brouillards. Kirschbaum, fabricant de lampes, transforme les lieux en bal sous le nom de La Feuillée de Montmartre, établissements fréquentés par la bourgeoisie et quelques célébrités comme Victor Hugo, Léon Gambetta, Joris-Karl Huysmans. Puis l'endroit devint le Petit Moulin Rouge, qui déclinant fut vendu en 1886[7].