Masa mudanya dihabiskan di Bogor, karena ayahnya adalah seorang dokter hewan yang bekerja di kota itu. Ia menyelesaikan pendidikan dasar di HIS pada tahun 1945, SMP pada tahun 1948, dan SMA pada tahun 1952. Pada tahun 1958 ia lulus dengan predikat cum laude dan meraih gelar insinyur di bidang pertanian pada Fakultas Pertanian Universitas Indonesia (sekarang menjadi Fakultas Pertanian Institut Pertanian Bogor[1]). Di alma maternya ini, ia merupakan angkatan keempat. Enam tahun kemudian (1964), tanpa melalui jenjang master, ia meraih gelar Doctor of Philosophy di bidang Statistika Percobaan (Experimental Statistics) dari North Carolina State University, Amerika Serikat.
Kariernya di dunia pendidikan dimulai ketika ia mengajar di SPMA Bogor setelah menamatkan SMA hingga meraih gelar Insinyur, yaitu sekitar tahun 1952-1958. Selain itu, ia juga menjadi dosen dan sekretaris Akademi Pertanian Ciawi tahun 1958-1965 sebelum menjadi dosen IPB tahun 1965. Pada tahun 1966 ia diangkat menjadi DekanFakultas Pertanian IPB hingga tahun 1969. Pada tahun 1971, ia menjadi Direktur Pendidikan Sarjana IPB, Dekan Sekolah Pasca Sarjana tahun 1975, dan Rektor IPB tahun 1978. Sejak tahun 1972 ia menjadi guru besar Statistika dan Genetika Kuantitatif. Pada tahun 1998-2001 ia menjadi Ketua Sekolah Tinggi Teknologi TelkomBandung, sekarang berubah menjadi Telkom University (Tel-U).
Sebagai tokoh pendidikan, ia adalah penggagas Sistem Panduan Bakat dalam penerimaan mahasiswa baru IPB. Sistem ini digunakan untuk merekrut mahasiswa dengan melihat prestasinya selama masa sekolah menengah umum, bukan melalui ujian seperti UMPTN. Sistem ini juga sangat menghargai calon mahasiswa cerdas yang membutuhkan dukungan finansial dalam melakukan studinya di IPB. Sistem ini dikenal dengan istilah Ujian Seleksi Masuk Institut. (USMI). Pengembangannya dalam bentuk Pola Penerimaan Mahasiswa Perintis II dipakai bersama dengan ITB, UI, dan UGM sebagai pola perekrutan seperti ini. Pola Perintis II ini kemudian berkembang menjadi Penelusuran Minat dan Kemampuan (PMDK) pada akhir dekade 1980-an.
Jauh sebelum abad ke-21 dimulai, ia pernah memperkirakan bahwa lahan pertanian di Pulau Jawa akan tinggal 30% saja. Hal ini menimbulkan kekhawatirannya, hingga ia menggagas ide reklamasi Pulau Jawa untuk lahan pertanian dan bertani sayuran lebih banyak dengan hidroponik.
Pada tanggal 4 Maret 2002 pukul 21.05, cendekiawan Indonesia ini meninggal dunia di RSPAD Gatot Subroto akibat kanker prostat. Menjelang akhir hidupnya, ia mengalami kelumpuhan pada bagian tangan dan kakinya karena juga menderita stroke. Andi Hakim Nasution meninggalkan seorang istri, tiga orang anak, dan tiga orang cucu.
