Kariernya mulai cemerlang setelah dia memangku jabatan Pangdam V/Brawijaya, yang kemudian diteruskan menjadi Pangdam Jayakarta. Saat terjadinya gesekan elit nasional pada masa presiden Gus Dur, Ryamizard yang saat itu menjabat Pangdam Jayakarta mengancam siapa saja yang akan mengganggu keamanan di wilayahnya. Selepas dari Kodam Jayakarta, Ryamizard mendapat promosi bintang tiga sebagai PanglimaKostrad menggantikan Letjen TNI Agus Wirahadikusumah. Kemampuannya merangkul semua unsur TNI saat apel siaga di Lapangan Monas yang melibatkan unsur TNI AL dan TNI AU Juli 2001 menarik KSAD untuk menunjuknya sebagai Wakil KSAD dan kemudian menggantikan Endriartono Sutarto sebagai KSAD.
Ia pernah dicalonkan di akhir masa jabatan presiden Megawati sebagai Panglima TNI. Namun pada saat pergantian presiden dari Megawati ke SBY namanya dianulir, nama Marsekal Djoko Suyanto-lah yang akhirnya dipilih sebagai Panglima TNI pada tahun 2006, karena namanya dianulir oleh SBY.[3][4]
Berikut adalah jabatan militer yang pernah dipegang Ryamizard:[5]
Ryamizard dianggap sebagai "orang Megawati".[6] Pencalonannya sebagai Panglima TNI dibatalkan oleh SBY dengan memperpanjang jabatan Endriartono Sutarto, sehingga menimbulkan kecurigaan konflik pribadi antara SBY dan Ryamizard, seperti yang diungkapkan oleh Abdurrahman Wahid[7] Setelah akhirnya pensiun dari militer, ia mengaku tidak ingin masuk ke dunia politik, namun pada tahun 2008, saat ikut dalam deklarasi Majelis Kebangsaan Indonesia, ia sempat menyatakan mempertimbangkan menjadi Calon Presiden bila mendapat dukungan.[8] Pada 27 Januari 2009, ia diundang ke Rakernas PDIP, menggantikan Hidayat Nur Wahid yang tidak jadi diundang, sehingga memunculkan namanya sebagai salah satu cawapres Megawati.[9][10]
Namanya sempat diisukan sebagai salah satu calon wakil presiden Joko Widodo,[11] walaupun akhirnya Jusuf Kalla yang terpilih. Ia lalu mendeklarasikan dukungan kepada pasangan Joko Widodo dan Jusuf Kalla[12] dan terlibat dalam pembekalan relawan selama kampanye Pilpres.[13]
Ryamizard Ryacudu kemudian ditunjuk menjadi Menteri Pertahanan dalam Kabinet Kerja.