أبكار الأفكار: يقول عنه ابن دحيه: «في سفرين، اختراع كلّه في الحكم والأمثال والنظم والنثر» ويقول عنه ياقوت: «جمع فيه ما أختاره من شعره ونثره». ولم يحدد حجمه
أعلام الكلام: أهداه للمعتضد بن عباد وأجازه عليه، ويقول عنه ابن دحية «مخترع كلّه» ومن جملة ما احتواه هذا الكتاب مجموعة من مقاماته، جلب منها صاحب الذخيرة مقامتين، منها مقامته الشهيرة في الشعراء، كما ساق ابن بسام مجموعة صالحة من نصوص هذا التأليف.
مسائل الانتقاد: ويسميها ياقوت: «رسالة الانتقاد».
ديوان شعره: يذكر ابن دحية أنه في خمسة مجلّدات. وذكره ياقوت في معجم الأدباء ولم يحدد حجمه. وقد احتفظت كتب الأدب والتراجم بمجموعة مهمّة من شعره تبلغ الآن أكثر من ستمائة بيت، وأول من تولّى جمع طائفة منه ح.ح عبد الوهاب في مقدّمة نشرته لمسائل الانتقاد من ص 300-311، ثم جمع منه عبد العزيز الميمني في " النتف من شعر ابن رشيق وزميله ابن شرف" قطعة صالحة، ثم جمعه حسن ذكرى حسن تحت عنوان ديوان ابن شرف القيرواني"، ونشرته في القاهرة، مكتبة الكليات الأزهرية سنة 1983