Kisah tradisional tentang pendirian yayasan tersebut, yang mungkin ada beberapa elemen kebenarannya, adalah bahwa pada abad ke-9, terdapat sebuah biara di sini yang disebut "Hohenhusen", yang ditinggalkan pada masa Invasi Hongaria pada awal abad ke-10. Seekor lembu pembajak kemudian menemukan peti barang berharga yang dikuburkan oleh para biarawati sebelum mereka melarikan diri, dan biara Ochsenhausen didirikan di tempat itu.
Gereja Biara Ochsenhausen yang pertama diresmikan pada tahun 1093. Biara ini awalnya merupakan Biara Santo Blasius di Hutan Hitam, tetapi memperoleh status biara independen pada tahun 1391. Pada tahun 1495 menjadi Reichsfrei (merdeka secara teritorial).
Banyak bangunan yang masih bertahan. Mereka diperbaharui secara ekstensif dalam gaya Baroque, sedemikian rupa sehingga Ochsenhausen kadang-kadang disebut sebagai "Himmelreich des Barocks" ("Surga Barok"). Templat:Interbahasa link multi[1] diakomodasi di sebagiannya. Bekas gereja biara sekarang menjadi gereja paroki St. George's.