James Findlay wurde in Mercersburg als Sohn von Samuel Findlay und Jane Smith geboren. Er hatte zwei Brüder, William Findlay, der später Gouverneur von Pennsylvania wurde, und John Findlay, der später Pennsylvania im Repräsentantenhaus vertrat. Nachdem sein Vater finanzielle Rückschläge hatte hinnehmen müssen, zog er mit seiner Frau Jane Irwin 1793 nach Cincinnati in das damalige Nordwestterritorium. Gemeinsam mit dem späteren SenatorJohn Smith wurde er schon recht bald ein einflussreicher Geschäftsmann. Von 1799 bis 1802 war er erster Vertreter des Hamilton County im Repräsentantenhaus des Nordwestterritoriums. 1802 wurde er United States Marshal für den Ohio Country. 1805 wurde er zum ersten Mal Bürgermeister von Cincinnati. Diese Amtszeit dauerte bis 1806. Von 1810 bis 1811 war er erneut Bürgermeister. Im Britisch-Amerikanischen Krieg 1812 diente er in der US Army als Colonel.
1825 wurde er als Demokrat ins US-Repräsentantenhaus gewählt. Seine Amtszeit dauerte bis 1833, nachdem Robert Todd Lytle ihn besiegen konnte. 1834 kandidierte er erfolglos für den Gouverneursposten, Robert Lucas, der Amtsinhaber, konnte sich erwartungsgemäß durchsetzen.