En 1946, Joe Mondragon fait partie du Firtst Herd, le grand orchestre de Woody Herman. En 1951, il est dans le big band de Shorty Rogers[2]. On le trouve aussi au sein du tentette de Gerry Mulligan[3]. Au cours des années 1950, il devient un des contrebassistes les plus présents dans les sessions d'enregistrement des groupes de jazz West Coast, accompagnant Art Pepper, Shelly Manne, Marty Paich.