À l'origine, la rue ne faisait que 7,8 m de large. Sa largeur est portée à 10 m par une décision ministérielle du 3 messidor an IX (). Une majorité des bâtiments du côté ouest de la rue sont démolis pour permettre le prolongement de la rue de Rivoli et la formation de la place du Carrousel[1].
La rue est le théâtre de durs combats le lors des Trois Glorieuses (soulèvement populaire parisien contre Charles X, les 27, 28 et ). Cet événement a été illustré par le peintre Hippolyte Lecomte (Combat de la rue de Rohan le ).
Le , le président de la République Émile Loubet et le roi d'Espagne Alphonse XIII, alors en visite officielle à Paris, sortent indemnes d'un attentat à la bombe à main visant leur cortège, alors que celui-ci se trouvait à l'angle de la rue de Rohan et de la rue de Rivoli[2].