Kühlmann lahir di Konstantinopel (sekarang Istanbul). Dari tahun 1908 hingga 1914, ia menjabat di dewan kedutaan Jerman di London, di mana ia aktif dalam mempelajari aspek politik dan sosial kontemporer di Britania Raya. Dia berperan dalam negosiasi perjanjian pembagian koloni Afrika masa depan dan proyek Kereta Api Bagdad, yang berpotensi memperbaiki hubungan Jerman-Inggris jangka panjang. Kühlmann memperingatkan pemerintah Jerman tentang risiko perlombaan senjata yang dipromosikan oleh Laksamana Tirpitz terhadap hubungan dengan Inggris. Selama krisis Juli 1914, ia berlibur di Jerman dan tidak terlibat dalam kegiatan diplomatik.
Pada awal Perang Dunia I, Kühlmann terlibat di dewan kedutaan di Konstantinopel. Pada Oktober 1914, ia mendirikan Biro Berita yang menjadi alat propaganda Jerman di Kesultanan Utsmaniyah. Di sini, ia menggunakan materi propaganda, termasuk kartu pos gereja-gereja Belgia yang hancur, untuk mempengaruhi sentimen Jihadis.[1]
Selama genosida Armenia, Kühlmann awalnya enggan untuk mengekspos pembantaian terhadap penduduk Armenia.[2] Meskipun simpati terhadap nasionalisme Turki, Kühlmann menggunakan istilah "dugaan" dan memaafkan tindakan pemerintah Turki.[2] Namun, ia akhirnya mengakui skala besar pemusnahan bangsa Armenia dan menyatakan bahwa kebijakan tersebut akan menodai nama Turki untuk waktu yang lama.[2]
Kühlmann kemudian menjabat sebagai menteri di Den Haag, dan duta besar di Konstantinopel dari September 1916 hingga Agustus 1917.
Pada 25 Januari 1906, Kühlmann menikahi Margarete Freiin von Stumm (1884–1917). Putranya, Knut von Kühlmann-Stumm (1916-1977), menjadi politikus dan industrialis Jerman terkemuka.[3]