Кильхольц начал свою карьеру в клубе «Олд Бойз», через год он перешёл в «Блэк Старс», а спустя два года в «Базель». В 1932 году Кильхольц покинул «Базель» и присоединился к клубу «Серветт». С «Серветтом» под руководством главного тренера клуба Карла Раппана Кильхольц в первый же сезон выиграл титул чемпиона Швейцарии, а через год повторил этот успех, присовокупив к нему и звание лучшего бомбардира чемпионата с 40 голами.
В 1935 году Кильхольц перешёл в «Берн», где был играющим тренером, а затем ушёл в «Реймс», игравший во второй французской лиге. В «Реймсе» швейцарец провёл всего 7 матчей, выходя на поле в каждом и забив два мяча. После этого Кильхольц возвратился на родину, где играл за «Санкт-Галлен», а завершил карьеру в «Янг Феллоуз».
В сборной
В сборной Швейцарии Кильхольц дебютировал в ноябре 1933 года. А через год поехал на чемпионат мира, где на 7-й минуте матча с Нидерландами забил первый гол швейцарцев в истории мундиалей, а всего на том турнире забил 3 гола. С 1933 по 1935 год Кильхольц играл за Швейцарию в кубке Центральной Европы, где забил 7 голов в 5-ти играх, три из которых в ворота Венгрии. В 1938 году Кильхольц поехал на чемпионат мира, но на поле ни разу не вышел. Свой последний матч за сборную Кильхольц провёл в мае 1938 года против Бельгии.
Матчи и голы Леопольда Кильхольца за сборную Швейцарии
.svg){kind=small}
.svg){kind=small}
.svg){kind=small}
