In 1969 nam hij het album Extrapolation op, waarop al zijn kenmerkende gitaarstijl te horen was: virtuoos, snel en met een voorkeur voor afwijkende maatsoorten (zoals de 13/8).
Hij emigreerde naar de Verenigde staten en brak door als elektrisch gitarist in de band van Miles Davis, waarin ook bekende namen als Chick Corea en Tony Williams speelden.
Na het einde van het Mahavishnu Orchestra speelde McLaughlin in de band Shakti, die meer akoestisch gericht was. Verder deed hij sessiewerk met mensen als Carlos Santana en Carla Bley.
In het begin van de jaren tachtig vormde hij een akoestisch trio met flamencogitaristPaco de Lucía en Al Di Meola. Dit trio was succesvol met een combinatie van pop en klassieke gitaarmuziek.