Grosso wuchs im nordfranzösischen Beauvais auf.
Ende der 1950er-Jahre bildete Grosso zusammen mit Michel Modo das in Frankreich sehr beliebte KomikerduoGrosso et Modo. Einem internationalen Publikum bekannt wurde er vor allem durch seine Rolle als Gendarm Tricard, an der Seite von Louis de Funès, Michel Galabru und Jean Lefebvre, in der sechsteiligen Filmreihe um den Gendarm von Saint Tropez. Er war auch ein gefragter Theaterschauspieler und wirkte auf der Bühne unter anderem in Theaterstücken von Molière mit.
Zudem war er als Drehbuchautor für Filme und Fernsehserien tätig. Insgesamt wirkte er als Schauspieler bis 1999 in mehr als 80 Film-und-Fernsehproduktionen mit.