Le groupe est formé par Gregg Nice (né Gregg Mays) et Smooth Bee (né Daryl Barnes)[1]. Leur première apparition est une collaboration sur la chanson Pimpin Ain't Easy de Big Daddy Kane sur son album, It's a Big Daddy Thing en 1989. La même année, le groupe publie son premier album homonyme Nice and Smooth[2] qui atteint la 76e place des R&B Albums[3]. Nice & Smooth se font connaître sur la scène hip-hop new-yorkaise avec leur titre Sometimes I Rhyme Slow... (samplant la chanson Fast Car de Tracy Chapman et traitant de la pauvreté, du SIDA et de la drogue)[réf. nécessaire]. À l'été 1992, le clip de la chanson connaît un fort succès, notamment grâce à sa diffusion sur MTV. Ils sortent ensuite un second tube, Hip-Hop Junkies (samplant le titre I Think I Love You de la Partridge Family).
Ils publient leur second album Ain't a Damn Thing Changed le [4]. À cette période, sous-estimé par la presse spécialisée[1], l'album atteint 141e place du Billboard 200[5]. Le , le groupe publie son troisième album, Jewel of the Nile[6] qui atteint la 66e place du Billboard 200[7].
Smooth B écrit des rimes pour Bobby Brown pour ses albums King of Stage et Don't Be Cruel[8]. En 2005, il publie un single intitulé Game Over, produit par DJ Premier.