У 1935—1937 роках перебував у лавах РСЧА на посаді навідника гармати в 11-й стрілецькій дивізії Ленінградського військового округу. Після демобілізації працював у Дворічанській райспоживспілці.
Особливо командир гармати 1083-го стрілецького полку 312-ї стрілецької дивізії старший сержант О. Ф. Ковальов відзначився під час літнього наступу 1944 року. 19 липня в бою за село Радіщево Смоленської області залишився один біля гармати й прийняв нерівний бій з німецькими танками, в ході якого підбив 7 танків супротивника. Під час прориву оборони супротивника поблизу села Карманово з прямої наводки знищив дві 57-мм гармати супротивника. 18 липня в бою за висоту 206.9 на території Волинської області підбив один важкий танк ворога. 20 липня першим зі своєю гарматою форсував річку Західний Буг і влучним вогнем підтримував переправу стрілецьких підрозділів, знищивши три САУ«Фердинанд».[1]
Повернувся в рідне село. Обирався головою Токарівської сільської ради, працював бухгалтером у колгоспі. У 1953 році переїхав на Донбас. Працював бухгалтером-ревізором на підприємстві «Луганськвугілля», економістом-контролером тресту «Лисичанськхімнафтобуд».