حين تولّى سعيد بن العاص إمرة المدينة في ولايته الأولى سنة 48 هـ،[5] اختار أبا سلمة قاضيًا عليها، فظل على قضائها إلى أن عُزل سعيد سنة 54 هـ.[3]
أنجب أبو سلمة بن عبد الرحمن الحسن والحسين وأبا بكر وعبد الجبار وعبد العزيز ونائلة وسالمة وأمهم أم الحسن بنت سعد بن الأصبغ بْن عَمْرو الكلبية، وأم كلثوم الكبرى التي تزوجها بشر بن مروان وأم عبد الله وتماضر الصغرى وأسماء وأمهم بريهة بنت عبد الرحمن بن عبد الله الزُهري، وسلمة وتماضر الكبرى وعبد الملك وأم كلثوم الصغرى وعمر وأمهاتهم أمهات أولاد.[5]
وقد توفي أبو سلمة بالمدينة سنة 94 هـ، وعمره 72 سنة.[6]
