Al-Mahdi, yang namanya berarti "Pemimpin yang Baik" atau "Penebus", diangkat sebagai kholifah saat ayahnya di akhir hidupnya. Masa pemerintahannya yang damai melanjutkan kebijakan para pendahulunya.
Pendekatan dengan Muslim Syi’ah di dalam kekhilafahan terjadi di bawah pemerintahan al-Mahdi. Keluarga Barmakid yang amat kuat, yang telah menasihati Kholifah sejak masa al-'Abbas sebagai wazir, memperoleh kekuatan besar yang sama pada masa al-Mahdi, dan bekerja dekat dengan kholifah untuk menjamin kemakmuran Daulah Bani Abbasiyah.
Kota kosmopolitan Bagdad berkembang selama masa al-Mahdi. Kota itu menarik pendatang dari seluruh Arab, Irak, Suriah, Persia, dan daerah sejauh India dan Spanyol. Bagdad merupakan tempat tinggal orang Kristen, Yahudi, Hindu, dan Zoroastrianisme, di samping bertambahnya penduduk Muslim. Menjadi kota terbesar dunia di luar Tiongkok.
Al-Mahdi melanjutkan mengembangkan administrasi Bani Abbasiyah, menciptakan diwan baru, atau departemen, untuk ketentaraan, peradilan, dan perpajakan. Qadi atau hakim diangkat, dan hukum terhadap non-Arab dikeluarkan.
Keluarga Barmakid mengangkat pegawai ke departemen-departemen itu. Orang-orang Barmakid, dari keturunan Persia, awalnya Buddha, namun segera sebelum kedatangan orang-orang Arab, mereka telah masuk Zoroastrianisme. Warisan Islam umur pendeknya akan berlaku terhadap mereka selama masa Harun ar-Rasyid.
Orang-orang Barmakid memperkenalkan kertas dari India, yang belum digunakan di Barat – orang-orang Arab dan Persia menggunakan papirus, dan orang-orang Eropa menggunakan kulit hewan. Industri kertas bertambah di Bagdad di mana seluruh jalan di pusat kota menjadi tercurah pada penjual kertas dan buku. Kemurahan dan daya tahan kertas amat berarti pada perkembangan tepat guna birokrasi Abbasiyah yang sedang berkembang.
Al-Mahdi memiliki dua kebijakan keagamaan yang penting: penghukuman terhadap zanadiqa, atau dualis, dan pernyataan ketaatan pada Islam. Al-Mahdi mengkhususkan penghukuman terhadap zanadiqa untuk pendiriannya pendiriannya di antara orang-orang Syi’ah yang murni, yang menginginkan perlakuan yang lebih kuat pada kebid’ahan, dan menemukan penyebaran kelompok politeis muslim sinkretis terutama yang jahat. Al-Mahdi menyatakan bahwa kholifah memiliki kemampuan – dan sungguh-sungguh, tanggung jawab – mendefinisikan ketaatan seorang Muslim, agar melindungi umat terhadap bid’ah. Walau al-Mahdi tak membuat penggunaan besarnya, kekuatan baru, akan menjadi penting selama krisis mihna dari masa al-Ma'mun.