Han studerade vid University of Wisconsin-Madison och tog senare en Ph.D. vid Harvard University 1939. Han arbetade i sin forskning med differentialekvationer som enbart kunde lösas numeriskt. Han fick därför intresse för att skapa ett elektromekaniskt maskineri som kunde användas för de tidsödande numeriska beräkningarna. Denna dator kallades ursprungligen Automatic Sequence Controlled Calculator (ASCC) och döptes senare om till Harvard Mark I. Med stöd från Grace Hopper och finansiering från IBM, som då tillverkade mekaniska räknemaskiner, färdigställdes denna maskin 1944.
Aiken utvecklade därefter andra modeller. 1947 följde Harvard Mark II. Nästa modell, Harvard Mark III använde vissa elektronikkomponenter, och Mark IV var helt elektronisk. Mark III och IV hade trumminne och Mark IV hade dessutom kärnminne.
^”Howard H. Aiken, Built Computer. Developer of the Mark I Dies. Was Harvard Professor. Taught Until 1961.”. New York Times. 16 mars1973. Läst 29 maj 2008. ”Dr. Howard Hathaway Aiken, who in the late nineteen-thirties conceived the design for the world's first large-scale computer, the Mark I, in cooperation with engineers of the International Business Machines Corporation, died in his sleep early Wednesday on a visit to St. Louis. He was 73 years old and lived in Fort Lauderdale, Fla.”