Jürgen Kohler pernah bermain untuk tim nasional sepak bola Jerman sebanyak 105 pertandingan. Selama itu, ia mencetak 2 gol.
Kohler menikmati karir yang panjang di level tertinggi dengan tepat 500 pertandingan liga papan atas, bermain terutama sebagai bek tengah di Bundesliga Jerman, dan di Serie A Italia, mencapai kesuksesan penting baik di level domestik maupun internasional bersama FC Bayern Munchen, Borussia Dortmund, dan Juventus.
Karier profesional Kohler dimulai di Waldhof Mannheim , di mana ia melakukan debutnya di Bundesliga sebagai pemain pengganti melawan 1. FC Kaiserslautern pada April 1984. Gol profesional pertamanya datang dengan kekalahan 5-2 dari FC Schalke 04 pada 26 Januari 1985