У 2001–2003 був заступником партійної організації ЧСДП в Празі, а в 2004 році став міністром регіонального розвитку в уряді Станіслава Гросса.
Після відставки Гросса 25 квітня2005 став шостим прем'єр-міністром Чехії. У травні 2006 року, незадовго до парламентських виборів, обраний головою ЧСДП.
На парламентських виборах, що відбулися 2 червня2006, партії довгий час вели переговори про створення правлячої коаліції. Незважаючи на те, що опозиційній ГДП не вдалося отримати більшість у 101 місце в 200 — місцевій нижній палаті парламенту, 16 серпня 2006 новим прем'єр-міністром став Мірек Тополанек. У 2010 році Пароубек пішов з посади керівника ЧСДП.