Il a des racines chinoises et africaines de par ses grands-parents. Il est le fils naturel et unique d'Aurelia Ferrer. Sa mère décède lorsqu'il a 12 ans.
En 1940, âgé de 13 ans, il cofonde avec son cousin, le groupe « Los Jóvenes del Son ».
Puis il fera partie de Maravilla Beltrán, Conjunto Sorpresa et Chepin Chovén Orchestra (avec qui il chante le célèbre « El platanal de Bartolo »).
À partir de 1953, il collaborera avec Pacho Alonso(es) à la Havane.
En 1998, il enregistre pour le label EGREM, Tierra Caliente: Ibrahim Ferrer con Los Bocucos, avec Roberto Correra, fusion de son cubain et de jazzbig band.
En 2001, il chante sur la chanson Latin Simone (que Pasa Contigo) aux rythmes cubains du groupe Gorillaz sur leur album éponyme. Le groupe de Damon Albarn lui rend hommage en 2005 lors d'un concert à Manchester où l'on voit Ferrer sur un écran géant chanter la chanson lors de son enregistrement en studio (images tirées du documentaire Bananaz).