Dia dilahirkan pada pertengahan bulan Rabiul Awwal tahun 170 H (sekitar tanggal 14 September786), di mana pada saat itu pula bertepatan dengan meninggalnya saudara ayahnya, Al-Hadi yang kemudian digantikan oleh ayah al-Ma'mun yaitu Harun ar-Rasyid.[1]
Ibu dari al-Ma'mun adalah seorang bekas budak yang kemudian dinikahi ayahnya bernama Murajil, dan dia meninggal hanya beberapa hari setelah melahirkan al-Ma'mun.[1]
Keluarga
Al-Ma'mun merupakan orang kedua yang berkuasa di keturunan Harun ar-Rasyid, selain itu saudara-saudara lainnya adalah al-Amin dan al-Mu'tasim yang menjadi khalifah sedangkan lainnya adalah al-Qasim dan al-Mu'taman. Keturunan al-Ma'mun tidak ada yang meneruskan menjadi khalifah, kekuasaan diteruskan oleh keponakannya, anak dari al-Mu'tasim yang bernama al-Watsiq.[1]
Menjadi khalifah
Pertikaian dengan al-Amin
Pada 802, Harun ar-Rasyid, ayah dari al-Ma'mun dan al-Amin memerintahkan al-Amin untuk menggantikannya dan al-Ma'mun menjadi gubernur Khurasan dan sebagai khalifah setelah al-Amin. Dilaporkan bahwa al-Ma'mun lebih tua dari dua saudaranya, tetapi ibunya berasal dari Persia, sedangkan ibu Al-Amin merupakan anggota keluarga Abbasiyah. Setelah kematian ar-Rasyid pada tahun 809, hubungan antara dua saudara tersebut memburuk. Sebagai balasan atas gerakan al-Ma'mun di luar kekhalifahan, al-Amin mengangkat anaknya sendiri, Musa, sebagai penggantinya. Hal ini merupakan pelanggaran terhadap wasiat ar-Rasyid, yang mengakibatkan terjadinya perang saudara di mana al-Ma'mun merekrut pasukan Khurasani yang dipimpin oleh Thahir bin Husain (meninggal 822), mengalahkan pasukan Al-Amin dan mengepung Baghdad. Pada 813, al-Amin dipenggal dan al-Ma'mun menjadi khalifah.
Muhammad Jafar
Terjadi berbagai gangguan di Iraq selama beberapa tahun pertama masa kekuasaan al-Ma'mun, ketika khalifah berada di Merv, Khurasan. Pada 13 November815, Muhammad Jafar menyatakan dirinya sebagai khalifah di Mekkah. Ia dikalahkan dan dilepaskan dari jabatan.
Pada tahun 201 H (817) al-Ma'mun mengangkat Ali ar-Ridha, Imam Syi'ah ke-8 dari Dua Belas Imam sebagai penerus kekhalifahan, hal ini tidak diterima oleh kalangan Baghdad khususnya keluarga Bani Abbasiyah. Hal ini merupakan gerakan politik dari al-Ma'mun dikarenakan sebagian besar Persia bersimpati kepada Bani Hasyim, khususnya keturunan Ali dan Fatimah. Kalangan Bani Abbasiyah kemudian mengangkat Ibrahim bin al-Mahdi sebagai khalifah, dengan gelar al-Mubarak.
al-Ma'mun kemudian menyiapkan pasukan dan terjadilah pertempuran antara dua pasukan, Imam Reza menginformasikan Ma'mun yang berada di Baghdad dan al-Ma'mun pergi dari kota tersebut pada hari itu juga sewaktu akhir bulan puasa, 12 April818.