M. Al Yasin Ali dilahirkan di Weda, Halmahera Tengah, Maluku Utara pada 25 Mei 1958. Ia merupakan anak keempat dari enam bersaudara dari pasangan H. Ali Ibrahim (alm) dan Hj. Arfah. Ketika menginjak usia sekolah, Al Yasin Ali tinggal bersama paman dan bibinya di Kota Ambon. Ia mengenyam pendidikan di SD Gereja Protestan Maluku Nania Ambon, Sekolah Teknik Negeri 1 Ambon, dan lulus dari STM Negeri 1 Ambon (kini SMK Negeri 3 Ambon) pada 1979. Al Yasin Ali berpindah ke Makassar, Sulawesi Selatan untuk menempuh pendidikan tinggi. Ia meraih gelar Sarjana lokal pada 1986 dan gelar Insinyur melalui ujian negara pada 1989 dari Jurusan Teknik Sipil Fakultas Teknik Universitas Muslim Indonesia. Di Makassar ia bertemu istrinya Muttiara T. Pasangan Al Yasin Ali dan Muttiara T. dikaruniai enam orang putri yaitu Astri Tiarasari, Arina Pebriyana, Arini Pebriyani, Arwindah Citra Tidora, Athiyah Bashira, dan Athirah Bahira.[4]