En 1995, il remporte le championnat finlandais Groupe A au volant d'une Opel Astra. Il est alors remarqué par SEAT, avec qui il remporte le titre national de Formule 2.
Il est engagé par Peugeot pour le championnat du monde des rallyes 2001. Au volant de la Peugeot 206 WRC, il remporte avec son copilote Risto Pietiläinen son unique victoire au Rallye de Suède, et termine à la cinquième place du championnat, à seulement huit points du vainqueur Richard Burns, malgré le fait qu'il n'ait pas disputé deux manches du championnat. Rovanperä est présent 15 fois sur les podiums de WRC (9 fois second) en 115 participations de 1993 à 2006, sa première saison pleine étant 1997. Il a essentiellement deux copilotes en mondial: Risto Pietiläinen et Voitto Silander, et a couru successivement pour SEAT (1997–00), Peugeot (2001–04), Mitsubishi (2005), et Red BullSkoda Team (2006).
Il est apprécié pour ses capacités de pilote sur terre, et la sûreté de son pilotage.
Il est actuellement pilote pour la formation Red BullSkoda, après que son ancienne équipe Mitsubishi ait abandonné le WRC en 2006.
En 2010, retour en rallye avec sa participation à la version "VHC" des Legend Boucles de Spa (Belgique), sur Porsche 911.
Son fils Kalle, né en 2000, a été en 2013 le copilote de son propre copilote Risto Pietiläinen, puis a poursuit sa carrière comme pilote officiel Škoda en WRC-2 à partir de 2018.
Participation à la victoire de Seat au Championnat du monde des rallyes FIA catégorie 2 litres : 1997, 1998, et 1999 (sur Ibiza GTI, puis Córdoba WRC, avec Oriol Gómez, Toni Gardemeister, Jörgen Jonasson et Gwyndaf Evans (1997-1998), et Piero Piatti en 1999).