Von 4. September 2006 bis 9. Januar 2007 war Šedivý parteiloser Verteidigungsminister in der Regierung Mirek Topolánek I. Von 2007 bis 2010 war er stellvertretender NATO-Generalsekretär für Verteidigungspolitik und Planung. Am 1. September 2012 wurde er zum ständigen Vertreter der Tschechischen Republik bei der NATO ernannt. Dieses Amt übte er bis August 2019 aus.