Родился в 646 году в Медине. Получил прекрасное образование, был широко образованным человеком.
В 685 году после смерти отца Марвана I унаследовал престол. Новый халиф направил войска под командованием эмира аль-Хаджжаджа на восстановление владычества Омейядов на всей территории Халифата, утерянной в 683 году после смерти Язида I. Аль-Хаджжадж покорил Басру и устремился в Хиджаз. В Мекке он разгромил и убил Ибн аз-Зубейра и победил в Ираке его сторонников, в Дамаске — аль-Ашдака. В 697 году было подавлено начавшееся в 692 году выступление хариджитов. Государственное единство халифата было восстановлено. Кроме того был завоёван ряд новых земель, особенно в Средней Азии и Северной Африке.
По повелению Абд аль-Малика в Иерусалиме на месте разрушенного римлянами Иерусалимского храма в 687—691 годах был воздвигнут «Купол Скалы» (Куббат ас-Сахра), заключающий в себе выступ скалы, с которого по преданию пророк Мухаммед совершил вознесение на небо (мирадж), а также стена, опоясвающий со всех сторон мечеть.
Азерли М. Реформы халифа Абд ал-Малика ибн Марвана и Азербайджан (685-705 гг.). Автореферат диссертации кандидата исторических наук. Баку: Академия Наук Азербайджанской ССР, 1965 г., 30 с.