Elliott wurde als zweiter von drei Söhnen von Arnold und Patricia Smith als David William Smith geboren. Er wuchs in seinem Geburtsort Milton auf, verbrachte aber viel Zeit auf den Bahamas bei Verwandten seines Vaters, der von dort nach Kanada umgesiedelt war.
Als Jugendlicher begeisterte sich David James Elliott für Rockmusik. Er war Frontmann einer Band und verließ in seinem Abschlussjahr die Highschool, um seinen Traum von einer Musikkarriere zu verfolgen. Da sich der erhoffte Erfolg nicht einstellte, kehrt Elliott im Alter von 19 Jahren an die High School zurück und machte seinen Abschluss. Dort wurde er von einem Lehrer auf sein schauspielerisches Talent hingewiesen.
Anschließend besuchte er die Ryerson University in Toronto. Nach einem Vorsprechen für das Stratford Shakespearean Festival in Stratford (Ontario), wurde er Mitglied in dessen Young Company, wo er die folgenden zwei Jahre arbeitete. Seine erste größere Rolle hat Elliott in der Anwaltsserie Street Legal.
1990 zog Elliott nach Los Angeles, wo er den Künstlernamen David James Elliott annahm, da zu diesem Zeitpunkt in der Schauspielergewerkschaft bereits ein David Smith registriert war.
Dem deutschen Publikum ist Elliott vor allem durch seine Rolle als Harmon ‚Harm‘ Rabb Jr. in der FernsehserieJAG – Im Auftrag der Ehre bekannt. Nach dem Ende von JAG (2005 nach 10 Staffeln) spielte Elliott in der CBS-Serie Close to Home die Rolle des Bezirksstaatsanwalt D.A. James Conlon. 2015 verkörperte er in TrumboJohn Wayne.
David James Elliott ist seit 1992 mit der Schauspielerin Nanci Chambers verheiratet. Die beiden haben zwei Kinder.
