Benteng ini dibangun pada abad ke-18, dan kemudian menjadi tempat kedudukan amban Qing dan kantornya. Benteng ini memiliki tata letak segi empat, dindingnya terbuat dari tanah liat. Terdapat gerbang di sebelah timur dan barat serta menara pengawas di keempat sudutnya. Dinding benteng dikelilingi oleh parit-parit air, dengan jembatan kayu untuk mengakses gerbang. Tembok yang tersisa memiliki tinggi 3 meter dan tebal 1,5 meter,[1] yang diorientasikan ke empat penjuru bumi, masing-masing sisinya 0,33 km. Menurut ahli geografi Rusia M. V. Pevtsov, yang mengunjungi kota ini pada tahun 1878, tinggi tembok pada saat itu adalah 4,5 meter.[1] Bagian selatan benteng ditempati oleh amban Manchu, perbendaharaan, kantor, dan barak militer. Bagian timur ditempati oleh perusahaan-perusahaan komersial, kuil Buddha Cina, dan masjid. Setelah kemerdekaan Mongolia Luar dari Tiongkok Qing dan benteng ini direbut secara paksa, benteng ini mengalami kemunduran.[1]
