Джеймс Каан народився 26 березня 1940 в Бронксі, Нью-Йорк. Закінчив акторський університет «Neighborhood Playhouse», працював в театрі і на телебаченні. Першу роль зіграв у 1963 році у фільмі Біллі Вайлдера«Ніжна Ірма». В 1964 зігравши автогонщика у фільмі Говарда Гоукса«Червона лінія 7000» Каан закріпив за собою на екрані і в житті репутацію спортсмена, «справжнього чоловіка». Діапазон ролей актора розширився після роботи у Копполи в фільмі «Люди дощу» (1969) і особливо в «Хрещеному батьку» (1972), де він грає відчайдушного нащадка гангстерського клану Сонні Корлеоне, який поєднує в собі майже дитячу простодушність, нахабну самовпевненість і запальний характер. В решті Каан став рідкісним для Голлівуду типом характерного актора, чия знаменита усмішка то сяяла безтурботністю, то виглядала невротичним оскалом.
В 1980 році Каан поставив зі своєю участю фільм «Сховай на очах у всіх», де виступив в ролі розлученого батька, що бореться за своїх дітей. Тема дбайливого ставлення до батьківства, родини, будинку проходить у фільмі Майкла Манна«Злодій» (1980), де професійний зломщик виявляється змушеним провести операцію по крадіжці коштовностей.
Початок 80-х років пов'язаний з душевною кризою актора, прилученням до наркотиків, руйнуванням сім'ї. З 1982 протягом п'яти років Каан не знімався, працював тренером з бейсболу. Повернутися в кіно йому допоміг Коппола, запросивши знятися у фільмі «Сади каменів» (1987). У незвичайній для себе ролі Каан з'явився в психологічному трилері «Мізері» (1990), граючи знаменитого автора любовних романів, що потрапив у полон до своєї шанувальниці з психічними відхиленнями.
Джеймс є майстром бойових мистецтв. За внесок у розвиток кіноіндустрії удостоєний Зірки на Голлівудській Алеї Слави під номером — 6648.
Джеймс Каан був одружений чотири рази: на Ді Джей Метіс (1960—1966), Шейлі Райан (1976—1977), Інгрід Хайек (1990—1995) і Лінді Стоукс (1996—2009). У актора є п'ятеро дітей: Тара (1964) від Ді Джей Метіс, Скотт (1976) від Шейли Райан, Александр Джеймс (1991) від Інгрід Хайек, Джеймс Артур (1995) і Джейкоб Ніколас (1998) від Лінди Стоукс.