Weil studiò filologia classica e archeologia classica e nel 1872 ottenne il dottorato alla Friedrich-Wilhelms-Universität. Dal 1874 al 1876 ottenne una borsa di studio dal Deutsche Archäologische Institut (DAI). Nel 1879 entrò in servizio alla Königliche Bibliothek zu Berlin come assistente, nel 1887 divenne curatore ausiliario, nel 1890 curatore e nel 1896 bibliotecario. Nel 1906 divenne professore. Da un punto di vista scientifico si interessò della numismatica greca. Prese parte agli scavi del DAI a Olimpia.
Pubblicazioni
De amphictionum delphicorum suffragiis, Berlin 1872 (Dissertation)
Julius Friedländer: Repertorium zur antiken Numismatik, im Anschluss an Mionnet's Description des medailles antiques, Aus seinem Nachlass hrsg. von Rudolf Weil, Berlin 1885
Studien auf dem Gebiete des antiken Münzenrechts, Berlin 1893