Saleh merupakan putra ke tujuh dari tiga belas
bersaudara dari pasangan KH. Kemas Abdussomad dan Hj. Nyimas Mardiah. Ia lahir dari keluarga yang
berlatar belakang ulama di kampung Tanjung Pasir.
Ayahnya merupakan salah satu ulama pendiri NU Nahdlatul Ulama Jambi dan seorang ulama kemerdekaan yang berkontribusi dalam kemerdekaan Provinsi Jambi. Kemudian kakeknya KH. Kemas Muhammad Saleh,juga merupakan seorang ulama yaitu yang mendirikan Madrasah Nurul Islam Seberang Kota Jambi. Daerah tempat tinggal Kemas semasa kecil merupakan lingkungan yang kental dengan keagamaan dan kesantrian.