Chkalov lahir pada 1904 di wilayah Volga hulu, kota Vasilyevo (kota tersebut sekarang dinamai Chkalov untuk menghormatinya) yang terbentang di dekat Nizhny Novgorod. Ia adalah putra dari seorang pembuat kapal uap di Galangan Kapal Vasselyevo, Sungai Volga. Ibunya wafat saat ia berusia enam tahun. Chkalov belajar di sekolah teknik di Cherepovets namun kemudian pulang ke kampung halamannya untuk bekerja sebagai magang di galangan kapal bersama dengan ayahnya.
Ia menyaksikan pesawat pertamanya pada 1919 dan memutuskan untuk masuk angkatan udara Tentara Merah, mula-mula masuk pada usia 16 tahun sebagai mekanika. Ia dilatih sebagai pilot di Sekolah Pelatihan Yegoryevsk dan lulus pada 1924 dengan masuk skuadron tempur.
Chkalov menikahi Olga Orekhova, seorang guru asal Leningrad, pada 1927. Pada awal 1930an, ia menjadi pilot uji coba.
