Багато років перебував на дипломатичній службі: у 1872 році призначений аташе у Берліні, потім радник посольства в Парижі (1883—1887), у 1887—1894 роках — посол Австро-Угорщини в Румунії.
На посаді міністра закордонних справ
У зв'язку з успішною роботою на дипломатичному терені з 16 травня 1895 року призначений міністром закордонних справ й імператорського двору.
Граф Аґенор Марія Ґолуховський проводив обережну, загалом консервативну політику, уникав проявляти ініціативу у вирішенні важливих питань. У той же час його роботу можна назвати успішною. Він підготував австро-російську угоду від квітня 1897 року про збереження статус-кво на Балканах, що привело до розрядки напруженості як у регіоні, так у стосунках між двома країнами. При ньому покращилися стосунки Австро-Угорщини з Великою Британією й Італією.
У 1897 і 1900 роках Ґолуховський зумів узгодити з Італією та вирішити албанське питання.
24 жовтня 1906 року на вимогу Угорщини пішов у відставку.
Сім'я
У 1885 одружився в Парижі з правнучкою Йоахіма Мюрата і Кароліни Бонапарт — принцесою Анною Мюрат (1863—1940), в шлюбі з якою мав трьох синів:
Аґенор Марія (1886—1956) — граф, 3-й ординат на Скалі.
Войцех Аґенор (1888—1960) — граф, сенатор ІІ-ї Речі Посполитої.
Кароль Марія (1892—?) — граф.
У парламенті
З 1895 року А. М. Ґолуховський — член верхньої палати австро-угорського парламенту. У 1907 році очолив там впливову польську фракцію.
Під час першої світової війни активно виступав з гаслом Триалізму — перетворення дуалістичної Австро-Угорської монархії в триалістичну, Австро-Угорсько-Польську, з включенням у її склад російської Польщі. З цією метою в 1915 році відвідував окуповану Варшаву.
Buszko J. Gołuchowski Agenor Maria Adam (1849—1921) // Polski Słownik Biograficzny. — Wrocław — Kraków — Warszawa: Zakład Narodowy Imienia Ossolińskich, Wydawnictwo Polskiej Akademii Nauk, 1959—1960. — T. VIII. — S. 260—261. (пол.)