Sepp Hochreiter

Sepp Hochreiter (2015)

Josef „Sepp“ Hochreiter (* 14. Februar 1967 in Mühldorf am Inn, Bayern[1]) ist ein deutscher Informatiker und Universitätsprofessor. Er leitet an der Johannes Kepler Universität Linz (JKU) das Institute for Machine Learning[2] und das Labor für Artificial Intelligence (AI LAB). Seit Februar 2024[3] ist er zusätzlich Chief Scientist bei NXAI.[4]

Leben

Hochreiter wuchs auf einem Bauernhof in der Nähe von Mühldorf am Inn in Bayern auf. Ursprünglich sollte er den Bauernhof übernehmen. Ab 1979 besuchte er den wirtschaftlichen Zweig der Realschule in Altötting, 1983 wechselte er zur Fachrichtung Technik an der Altöttinger Fachoberschule. 1985 begann er ein Informatikstudium an der Fachhochschule in München. Nach dem Vordiplom 1986 wechselte er an die Technische Universität München, an der er das Informatikstudium fortsetzte. Parallel dazu studierte er Mathematik an der Fernuniversität Hagen.[1] 1991 schrieb er seine Diplomarbeit mit dem Titel Untersuchungen zu dynamischen neuronalen Netzen bei Jürgen Schmidhuber, in der er die Idee eines neuronalen Langzeitspeichers formulierte.[5][6] Nach Abschluss des Studiums war er zwei Jahre bei der Allianz AG beschäftigt. 1994 begann er ein Doktoratsstudium an der Technischen Universität München, an der er 1999 zum Dr. rer. nat. promoviert wurde. Sein Doktorvater war Wilfried Brauer.[1]

1997 veröffentlichte er gemeinsam mit Jürgen Schmidhuber eine Arbeit über Long short-term memory (LSTM).[7] 1999 ging er als Postdoktorand an die University of Colorado Boulder zu Michael C. Mozer. 2001 wechselte er als wissenschaftlicher Assistent an die Neural Information Processing Group der Technischen Universität Berlin, an der er im Sonderforschungsbereich Theoretische Biologie die Arbeitsgruppe Analyse molekularbiologischer Daten leitete.[1]

2006 wurde er als Professor für Bioinformatik an die Universität Linz berufen. Er leitet das Institut für Machine Learning[8] an der Technisch-Naturwissenschaftlichen Fakultät der JKU, an der er das Bachelorstudium Bioinformatik in Kooperation mit der Südböhmischen Universität in Budweis sowie das Masterstudium Bioinformatik einführte. Außerdem wurde er 2006 Vorstandsmitglied der Österreichischen Computer Gesellschaft (OCG).[1][9] 2017 wurde er mit dem Aufbau und der Leitung des Labors für Artificial Intelligence (AI LAB) am Linz Institute of Technology (LIT) der Kepler-Uni betraut.[10][11][12][13]

Im Februar 2019 wurde die Gründung des Institute of Advanced Research in Artificial Intelligence (IARAI) bekanntgegeben. Geschäftsführer des Instituts mit Standorten in Linz, Wien und Zürich wurden neben Sepp Hochreiter der Physiker David Kreil sowie der Mathematiker Michael Kopp von Here Technologies.[14][15] Vom Wissenschaftsfonds FWF wurde 2024 das Exzellenzcluster Bilaterale KI zu Künstlicher Intelligenz unter der Leitung von Hochreiter bewilligt.[16][17]

Zu seinen Forschungsschwerpunkten zählen verschiedene Verfahren des Maschinellen Lernens, unter anderem Deep Learning, Bestärkendes Lernen (Reinforcement Learning) und Representational Learning sowie Biclustering, Matrix-Faktorisierung und statistische Verfahren. Außerdem beschäftigt er sich mit Data-Mining und Computerlinguistik (Natural Language Processing).[18][19] Zu seinen Doktoranden zählt Günter Klambauer.

2023 kündigte Hochreiter xLSTM an.[20] 2024 veröffentlichte er die Architektur.[21] xLSTM ist eine neue Architektur für rekurrente neuronale Netze, die auf den Ideen des ursprünglichen LSTM basiert. Durch Exponential Gating mit geeigneten Normalisierungs- und Stabilisierungstechniken und einem neuen Matrixspeicher überwindet es die Einschränkungen des ursprünglichen LSTM und zeigt im Vergleich zu Transformatoren oder Zustandsraummodellen eine vielversprechende Leistung bei der Sprachmodellierung.

Auszeichnungen

Publikationen (Auswahl)

Commons: Sepp Hochreiter – Sammlung von Bildern

Einzelnachweise

  1. a b c d e Österreichische Computer Gesellschaft: Die neuen Vorstände der OCG. Abgerufen am 20. Juli 2018.
  2. Sepp Hochreiter. Abgerufen am 6. August 2023 (amerikanisches Englisch).
  3. manager: Sepp Hochreiter gründet Start-up NXAI: Deutscher KI-Pionier fordert US-Branchengrößen heraus. 5. Februar 2024, abgerufen am 28. Oktober 2024.
  4. NXAI
  5. Josef Hochreiter: Untersuchungen zu dynamischen neuronalen Netzen. Diplomarbeit 1991, abgerufen am 20. Juli 2018.
  6. "Was? Der Hochreiter ist im Haus?" | Science.apa.at. Abgerufen am 20. Juli 2018.
  7. Sepp Hochreiter, Jürgen Schmidhuber: Long Short-Term Memory. In: Neural Computation. 9, 1997, S. 1735, doi:10.1162/neco.1997.9.8.1735.
  8. Sepp Hochreiter. Abgerufen am 6. August 2023 (amerikanisches Englisch).
  9. AI-Pionier: „Würde es wirklich intelligente KIs geben, die würden sofort die Erde verlassen“. Artikel vom 30. April 2018, abgerufen am 20. Juli 2018.
  10. Wiener Zeitung: Abwerbeversuche abgewehrt. Artikel vom 18. August 2017, abgerufen am 20. Juli 2018.
  11. Prof. Sepp Hochreiter entscheidet sich für Zukunft an der JKU. Artikel vom 18. August 2017, abgerufen am 20. Juli 2018.
  12. Oberösterreichische Nachrichten: JKU kämpft gegen Verlust eines Spitzenforschers. Artikel vom 19. April 2017, abgerufen am 20. Juli 2018.
  13. Trend: KI-Pionier Hochereiter: Allgemeinbildung für künstliche Intelligenz. Trend, Ausgabe 43/2018.
  14. Here finanziert Institut für KI in Wien, Linz und Zürich. Artikel vom 14. Februar 2019, abgerufen am 23. Februar 2019.
  15. Österreich soll Hochburg der künstlichen Intelligenz werden. Artikel vom 14. Februar 2019, abgerufen am 23. Februar 2019.
  16. Zwei neue Großforschungsprojekte zu KI und gesundem Altern. In: DerStandard.at. 6. April 2024, abgerufen am 6. Mai 2024.
  17. "Bilaterale KI": Projekt unter Leitung der JKU erhält FWF Cluster of Excellence. In: science.apa.at. 6. April 2024, abgerufen am 6. Mai 2024.
  18. JKU Linz: Sepp Hochreiter. Abgerufen am 20. Juli 2018.
  19. Linz Institute of Technology: Sepp Hochreiter: Long Short-Term Memory For Self-Driving Cars (Memento vom 27. Januar 2021 im Internet Archive). Abgerufen am 20. Juli 2018.
  20. Industrial AI Podcast: xLSTM - "I am almost exploding" - Industrial AI Podcast. 18. Oktober 2023, abgerufen am 28. Oktober 2024.
  21. NX-AI/xlstm. NXAI, 28. Oktober 2024, abgerufen am 28. Oktober 2024.
  22. diepresse.com: Mut, Kreativität und Engagement: Die Österreicher des Jahres. Artikel vom 23. Oktober 2018, abgerufen am 23. Oktober 2018.
  23. Oberösterreicher des Jahres: Sie haben 2018 das Land geprägt. Artikel vom 19. Jänner 2019, abgerufen am 19. Jänner 2019.
  24. Anna Fessler: Spitzenforscher Sepp Hochreiter mit deutschem KI-Innovationspreis ausgezeichnet. In: tips.at. 29. September 2023, abgerufen am 30. September 2023.
  25. Deutscher KI-Innovationspreis für JKU Forscher Sepp Hochreiter. In: science.apa.at. 29. September 2023, abgerufen am 30. September 2023.
  26. ÖAW wählt 34 neue Mitglieder. In: ots.at. 15. April 2024, abgerufen am 15. April 2024.