נולד באלג'יר. משפחתו היגרה לצרפת כשהיה בן עשר וחיה בעיירות פועלים ובשכונות פחונים באזור פריז. כבן למשפחת פועלים, למד מכונאות, ובין השנים 1970-1983 עבד כמשחיז במפעל. במקביל לעבודתו במפעל, כתב ופרסם ספרים.
הבמאי קוסטה גברס הציע להפיק סרט ששרף יביים ומבוסס על אחד הרומנים שכתב, "תה בהרמון ארכימדס". הסרט זכה בפרס הסזאר לעבודת הבימוי הראשונה הטובה ביותר ובפרס ז'אן וויגו (1984). גם בסרטו השני, "מיס מונה" (1986), המשיך שרף לעסוק בעולמם של המהגרים.
ברוב סרטיו משרטט שרף דיוקן של נשים. בסרטו "קמומיל" (1987), תיאר נרקומנית בקריז, שרוצה לשנות את חייה. בסרטAu pays des Juliets" " (1991), שהוצג בתחרות הרשמית בפסטיבל קאן, עקב אחר מסלולן של שלוש אסירות. ב"מרי-לין" העניק למוריאל רובין תפקיד דרמטי ראשון, שהקנה לה מועמדות כשחקנית הטובה ביותר במסגרת פרס הסזאר. ב"ראליה (הבת של כלתום)" הוא שב לארץ הולדתו במחווה לנשות אלג'יר.