Основні дослідження відносяться до теорії пружності і термопружності стосовно до конструкцій нової техніки. Розробив термодинамічні підстави теорії термопружності. У теорії спеціальних функцій ввів і дослідив гіпергеометричні функції другого роду.
Отримав точні рішення низки задач про напружений стан круглих пластин та оболонок обертання змінної товщини, створив методи розрахунку елементів турбомашин, що знайшли широке застосування на практиці.
Праці
Анатолій Коваленко — автор понад 120 наукових робіт, в тому числі 11 монографій, зокрема:
«Теорія розрахунку на міцність коліс турбомашин» (1950);
25 травня1976 року у Києві, за адресою: вул. Петра Нестерова, 3, на фасаді Інституту механіки імені С. П. Тимошенка НАН України відкрито меморіальну дошку з написом: «У цьому будинку в 1961—1973 рр працював видатний вчений в галузі механіки, академік АН УРСР Анатолій Дмитрович Коваленко 1905—1973» (бронза; барельєф; скульптор О. М. Кальницька, архітектор А. А. Сницарев)