Рудольф содействовал победе Генриха над восставшими саксонцами при реке Унструте в 1075 году, но затем перешёл на сторону противников Генриха.
На собрании князей в 1076 году участвовал в решении лишить Генриха престола, если тот в течение года не освободится от церковного отлучения. Несмотря на то, что Генрих IV получил в Каноссеотпущение грехов, князья в отсутствие папских легатов избрали Рудольфа королём (в Форхгейме15 марта1077 года), с тем условием, чтобы выборы епископов были свободны, а королевский сан ни в каком случае не был бы наследственным. 26 марта Рудольф короновался в Майнце.
При Флархгайме, 27 января1080 года, Рудольф одержал победу, после чего Генрих повторно был отлучен от церкви. При Хоэнмёльзене, 15 октября1080 года, победил Рудольф, но один из рыцарей Генриха во время битвы прорвался к Рудольфу, отрубил ему руку и нанес тяжелую рану в живот. Рудольф умер днем позже и был похоронен в Мерзебурге, где сохраняется отрубленная у него в битве кисть руки.
Бульст-Тиле Мария Луиза, Йордан Карл, Флекенштейн Йозеф. Священная Римская империя: эпоха становления / Пер. с нем. Дробинской К. Л., Неборской Л. Н. под редакцией Ермаченко И. О. — СПб.: Евразия, 2008. — 480 с. — 1000 экз. — ISBN 978-5-8071-0310-9.