Bangunan yang menampung museum ini dibangun pada tahun 1884, selama era Malaya Britania dan desainnya merupakan perpaduan gaya arsitektur Inggris, Belanda, Moor, dan Anglo-Tionghoa. Jendelanya berdesain Belanda tanpa lubang angin, menggunakan bahan dan batu bata Inggris serta atap dan genteng dua lapis India. Pada tahun 1931, menjadi tempat Sekolah Menengah Atas Malaka. Namun, karena jumlah siswa yang masuk semakin banyak, sekolah harus dipindahkan ke Jalan Chan Koon Cheng. Gedung tersebut kemudian ditempati Departemen Tenaga Kerja dan Audit Malaka hingga tahun 1978. Setelah itu, departemen tersebut dipindahkan ke Gedung Federal di Jalan Hang Tuah dan dibiarkan kosong. Pada tahun 2003, gedung tersebut mengalami renovasi dan Perusahaan Museum Malaka mengusulkan kepada Pemerintah Negara Bagian Malaka untuk mengubah gedung tersebut menjadi Museum Pendidikan karena sejarah masa lalunya yang menampung Sekolah Menengah Atas Malaka.
^"Education Museum". AmazingMelaka.com. Diarsipkan dari versi asli tanggal 2015-02-08. Diakses tanggal 2015-02-02.Parameter |url-status= yang tidak diketahui akan diabaikan (bantuan)