Lefebvre wurde als Sohn des Schmiedes Georges Marcel Lefebvre und seiner Frau Zélia Louise Mathilde Masquelier geboren, wobei bei seinem Geburtsort und Geburtsdatum Uneinigkeit herrscht. Lefebvre hat seit 1934 zahlreiche Rollen interpretiert, sowohl in Filmen als auch im Theater. In seinen fast 150 Filmen wurde er meistens als Nebendarsteller eingesetzt. Bekannt wurde er an der Seite von Louis de Funès und Michel Galabru in Der Gendarm von St. Tropez, eine der erfolgreichen Kinoserien der 1960er und 1970er Jahre, wo er den naiven Trottel vom Dienst gab, sowie den Filmklamotten um die Septième compagnie. 1954 war er an der Seite von Simone Signoret in Henri-Georges Clouzots Die Teuflischen zu sehen. 1958 drehte er mit Daniel Gélin und Hildegard KnefDas Mädchen aus Hamburg. Ab 1990 trat er meist nur noch im Fernsehen auf. Seine Karriere am Theater fing in Paris an.[3] Einige Stücke, bei denen Lefebvre mitwirkte, waren L’Amour, toujours l’amour, Jupon vole und La Plume de ma tante.
Entgegen der oftmaligen irrtümlichen Annahme war er nicht Jurymitglied bei den Berliner Filmfestspielen im Jahr 2000, sondern ein Kollege aus Kanada.[4]
Lefebvre war insgesamt viermal verheiratet, dabei zweimal mit derselben Frau. Aus seinen Ehen gingen insgesamt fünf Kinder hervor: Bernard, Catherine, Marie-Christine, Carole and Pascal. Seine Ehefrauen waren Micheline Reine Grasser (1950–1962), Schauspielerin Catherine Chassin, mit Künstlernamen Yori Bertin (1967–1973 und 1974–1977), und Brigitte Jacqueline Françoise Lerebours (1994–2004), mit der er bis zu seinem Tod verheiratet war.
Jean Lefebvre kaufte sich 1999 durch den Gewinn von mehreren Millionen Francs im Lotto ein Restaurant in Marrakesch, wo er auch im Alter von 84 Jahren in seinem Haus an Herzversagen starb.[5]