Pasca runtuhnya dinasti Yuan yang dipimpin bangsa Mongol pada tahun 1368, istana Yuan mundur ke Dataran Tinggi Mongolia, menandai dimulainya dinasti Yuan Utara (1368–1635). Bangsa Mongol kembali ke pola pertikaian internal mereka yang sebelumnya dan pandangan hidup syamanis lama mereka pasca runtuhnya dinasti Yuan. Buddhisme muncul kembali di Mongolia pada abad ke-16 dan ke-17.
Iklim Asia Tengah menjadi kering setelah benturan tektonik yang dashyat antara Lempeng India dan Lempeng Eurasia. Dampaknya memunculkan rangkaian pegunungan yang sangat besar yang dikenal sebagai Himalaya. Pegunungan Himalaya, Khingan Besar dan Khingan Kecil berperan seperti tembok tinggi, mencegah iklim hangat dan basah untuk tidak memasuki Asia Tengah. Banyak gunung di Mongolia terbentuk selama periode Neogen Akhir dan Kuarter Awal. Iklim Mongolia lebih lembab ratusan ribu tahun yang lalu. Mongolia dikenal sebagai sumber penemuan paleontologis bernilai tinggi. Telur dinosaurus pertama yang terkonfirmasi secara sains ditemukan di Mongolia selama ekspedisi American Museum of Natural History tahun 1921, dipimpin Roy Chapman Andrews.
Selama pertengahan hingga akhir Zaman Eosen, Mongolia ditinggali oleh banyak mamalia era Paleogen dengan Sarkastodon dan Andrewsarchus merupakan yang paling dikenal di antaranya.
Homo erectus kemungkinan menghuni Mongolia sekitar 800.000 tahun yang lalu tetapi fosil Homo erectus belum ditemukan di Mongolia. Perkakas batu ditemukan di Gurun Gobi yang berada di selatan, mungkin berasal dari 800.000 tahun yang lalu.[3] Situs prasejarah penting adalah lukisan gua era Paleolitikum dari Khoid Tsenkheriin Agui (Gua Biru Utara) di provinsi Khovd,[4] dan dari Tsagaan Agui (Gua Putih) di Provinsi Bayankhongor.[5] Permukiman pertanian era Neolitikum ditemukan di Provinsi Dornod. Temuan baru-baru ini dari Mongolia barat hanya mencakup kamp sementara para pemburu dan nelayan. Nomadisme berkuda telah terdokumentasikan oleh bukti arkeologis di Mongolia selama budaya Afanasevo Zaman Tembaga dan Perunggu (3500–2500 SM).[6]
Batu rusa dan Khirigsüür (kurgan kecil) yang ada di mana-mana mungkin berasal dari era ini; teori lain menyebut batu rusa ini dibuat pada abad ke-7 atau ke-8 SM. Batu rusa adalah megalit kuno berukiran dengan simbol yang dapat ditemukan di seluruh Eurasia tengah dan timur tetapi sebagian besar terpusat di Mongolia dan Siberia. Sebagian besar batu rusa ada bersamaan dengan kuburan kuno; diyakini bahwa batu-batu itu melindungi orang mati. Ada sekitar 700 batu rusa yang ditemukan di Mongolia dari total 900 batu rusa yang ditemukan di Eurasia Tengah dan Siberia Selatan. Tujuan sebenarnya dan penciptanya masih belum diketahui. Beberapa peneliti mengklaim bahwa batu-batu rusa berakar dari syamanisme dan diperkirakan dibangun selama Zaman Perunggu sekitar tahun 1000 SM, dan mungkin mencirikan kuburannya orang penting. Lalu para penduduk di area tersebut kemungkinan besar menggunakannya kembali untuk mencirikan gundukan kuburan mereka sendiri, dan mungkin untuk tujuan lain. Di Mongolia, wilayah Danau Baikal, dan Pegunungan Sayan dan Pegunungan Altai, masing-masing diketahui ada 550, 20, 20, dan 60 batu rusa. Lebih-lebih lagi, ada 20 batu rusa lain di Kazakhstan dan Timur Tengah (Samashyev 1992) dan 10 lebih jauh di barat, tepatnya di Ukraina dan beberapa bagian Federasi Rusia, antara lain daerah Orenburg dan Kaukasus, dan di dekat Sungai Elbe (Mongolian History 2003). Menurut H.L. Chlyenova, gambar rusa artistik berasal dari suku Sak dan cabangnya (Chlyenova 1962). Volkov meyakini bahwa beberapa metode membuat seni batu rusa berkaitan erat dengan bangsa Skithia (Volkov 1967), sedangkan arkeolog Mongolia, D. Tseveendorj menganggap seni batu rusa berasal dari Mongolia selama Zaman Perunggu dan tersebar setelahnya ke Tuva dan wilayah danau Baikal (Tseveendorj 1979).
Sebuah kompleks makam era Zaman Besi dari abad ke-5–ke-3 SM, kemudian juga digunakan oleh bangsa Xiongnu, telah ditemukan di dekat Ulaangom.[4]
Sebelum abad ke-20, beberapa sarjana berasumsi bahwa bangsa Skithia adalah keturunan dari bangsa Mongolik.[8] Masyarakat Skithia menghuni Mongolia barat pada abad ke-5–ke-6. Pada tahun 2006, mumi dari seorang prajurit Skithia, yang diyakini berumur sekitar 2.500 tahun adalah milik pria berusia 30-40 tahun dengan rambut pirang, ditemukan di Pegunungan Altai, Mongolia.[9]
Pada era sejarah, para nomaden Eurasia terpusat di daerah-daerah stepa di Asia Tengah.[10]
Per abad ke-8 SM, penduduk di bagian barat Mongolia jelas merupakan para migran Indo-Eropa yang nomaden, mungkin bangsa Skithia[11] atau Yuezhi. Di bagian tengah dan timur Mongolia dihuni banyak suku lainnya yang terutama berasal dari Asia Timur Laut dari segi ciri-ciri etnologis mereka.[11]
Dengan kemunculan senjata berbahan besi per abad ke-3 SM, penduduk di Mongolia telah mulai membentuk aliansi klan dan memiliki gaya hidup pemburu dan pengembala. Asal-usul dari penduduk yang lebih modern diketahui dari para pemburu di hutan dan suku-suku nomaden di Asia Dalam. Mereka mendiami wilayah daratan yang luas yang secara umum membentang dari Semenanjung Korea di timur, melintasi wilayah utara Tiongkok hingga ke Kazakhstan masa kini dan sampai ke Pegunungan Pamir dan Danau Balkash di barat. Selama sebagian besar sejarah tercatatnya, ini telah menjadi area yang terus bergejolak yang menyebabkan banyak migrasi dan invasi ke tenggara (ke Tiongkok), ke barat daya (ke Transoksiana—kini Uzbekistan, Iran, dan India), dan ke barat (melintasi Skithia menuju Eropa).