Torsten Hoefler

aus Wikipedia, der freien Enzyklopädie
Zur Navigation springen Zur Suche springen
Torsten Hoefler

Torsten Hoefler (* 1981)[1] ist ein Informatiker und Lehrstuhlinhaber an der ETH Zürich.[2] Er ist Chefarchitekt für Maschinelles Lernen am Schweizer Nationalen Hochleistungsrechenzentrum (CSCS).[3]

Werdegang[Bearbeiten | Quelltext bearbeiten]

Hoefler erhielt ein Diplom in Informatik an der TU Chemnitz, wo er im Jahr 2005 mit dem Universitätspreis ausgezeichnet wurde.[4] Bereits zu Beginn seiner Karriere beschäftigte er sich mit Hochleistungsrechner-Systemen. Seine Studien setzte er an der Indiana University unter der Anleitung von Andrew Lumsdaine fort. Im Jahr 2008 promovierte er in Informatik an der Indiana University und wurde anschließend mit dem Young Alumni Award[5] und dem Distinguished Alumni Award[6] geehrt.

Er setzte seine Arbeit am Standard für die Message Passing Interface als Schlüsselmitglied des MPI Forums fort.[7] Dabei leitete er die Entwicklung der Kapitel zur kollektiven Kommunikation und zu Prozesstopologien. Zudem war er Mitautor des Kapitels zur One-Sided Kommunikation.[8]

Im Jahr 2010 trat er dem National Center for Supercomputing Applications an der University of Illinois in Urbana-Champaign (UIUC) bei. Als Leiter für die Analyse und Unterstützung der Applikationsperformance unterstützte er die Gestaltung und Implementierung des Blue Waters Supercomputers. Er besetzte auch eine Position als adjunct Professor (Titularprofessor) an der Fakultät für Informatik der UIUC. Im Jahr 2011 nahm er eine Stelle als Assistenzprofessor an der ETH Zürich an,[9] wo er 2017 Tenure erhielt[10] und seit 2020 ordentlicher Professor ist.

Hoefler hatte verschiedene Positionen als Gastforscher beim Kommissariat für Atomenergie und alternative Energien in Frankreich, bei CINECA in Italien sowie am Argonne National Laboratory, Sandia National Laboratory und Microsoft in den Vereinigten Staaten.[11] Als Berater unterstützte er Cray Inc. im Bereich Hochleistungsnetzwerke und Microsoft in den Bereichen Quantum Computing und hochskalierenden KI-Systemen. Er verbrachte sein Sabbatical im Jahr 2019 bei Microsoft, wo er half, verschiedene KI-Supercomputing Projekte zu etablieren.[12]

Hoefler ist seit der Gründung im Jahr 2011 Mitglied des Exekutivkomitees ACM SIGHPC.[13] Er wurde zum IEEE Fellow für „Beiträge zu Hochleistungs-Parallelverarbeitungssystemen und Supercomputern“ gewählt,[14] zum ACM Fellow für „grundlegende Beiträge zur Hochleistungsrechnung und zur Anwendung von HPC-Techniken im maschinellen Lernen“[15] und er erhielt 2022 den IEEE Sidney Fernbach Award für „anwendungsorientierten Entwurf von HPC-Algorithmen, -Systemen und -Architekturen sowie für transformativen Einfluss auf das wissenschaftliche Rechnen und die Industrie“.[16]

Er leitete das Team für komplexe Anwendungen und Benutzerunterstützung am Blue Waters Directorate des National Center for Supercomputing Applications[17] und besetzte eine Titularprofessur der Fakultät für Informatik an der University of Illinois in Urbana-Champaign.[18] Seine Expertise liegt im Bereich des hochskalierbaren parallelen Rechnens und der Hochleistungsrechnersysteme. Weiterhin beschäftigt er sich mit Anwendungen im Bereich der hochskalierenden künstlichen Intelligenz sowie der Klimawissenschaften.

Hoefler ist IEEE-Fellow,[19] ACM-Fellow,[20] und Mitglied der Europäischen Akademie der Wissenschaften Academia Europaea.[21] Seine Erdős-Zahl ist zwei.[22]

Hoefler erhielt 2023 den ersten Jack-Dongarra-Preis auf der ISC High Performance-Konferenz.[23][24][25] Er wurde zum Senior Fellow der Abu Dhabi Investment Authority Labs in 2023 ernannt.[26][27]

Forschung[Bearbeiten | Quelltext bearbeiten]

Hoefler ist bekannt für seine Beiträge zum Standard für die Message Passing Interface (MPI). Er war Autor der Kapitel "Collective Communication" und "Process Topologies" in MPI-2.2[28] sowie der Kapitel "Collective Communication", "One-Sided Communications" und "Process Topologies" in MPI-3[29]. Für die Standardisierung von MPI-3 leitete er die Arbeitsgruppen für Collective Communications und Topologie[30].

Er entwickelte Prinzipien für die Umsetzung von nicht blockierenden kollektiven Operationen und dem Fernzugriff auf Speicher, die in MPI Bibliotheken wie Open MPI, MPICH und Derivaten weit verbreitet sind[31]. Nichtblockierende kollektive Operationen wie Allreduce, Allgather oder Broadcast bilden die Grundlage moderner KI-Trainingssysteme[32].

Als Co-Author des wegweisenden Artikels über paralleles Deep Learning[33] und während seines Sabbaticals bei Microsoft prägte er den Begriff "3D Parallelismus" im modernen Training künstlicher Intelligenz. Dieser ordnet Datenparallelismus, Pipeline-Parallelismus und Operator-Parallelismus in einer konsistenten Sichtweise zusammen[34].

In seiner Arbeit an Hochgeschwindigkeitsnetzwerk hat er mehrere ausgezeichnete Netzwerktopologien mitentwickelt[35][36][37] und Routing-Algorithmen beigetragen, die im OpenSM Routingmanager auf InfiniBand-Computerclustern verwendet werden[38].

Auf der Anwendungsseite konzentriert sich Hoefler darauf, die Performance von Klimasimulationen als digitalen Zwilling zu verbessern[39][40][41] und maschinelles Lernen für Klimasimulationen einzusetzen[42]. Er war ein Organisator des Berlin Summit in Earth Virtualization Engines[43], um Strategien zur Ermöglichung des weltweiten Zugangs zu hochauflösenden Klimasimulationen zu entwickeln[44][45].

Wissenschaftliche Reproduzierbarkeit[Bearbeiten | Quelltext bearbeiten]

Hoefler hat sich für die Verbesserung der Reproduzierbarkeit von Performancemessungen in Hochleistungsrechner-Systemen[46] und später im machinellem Lernen eingesetzt. Letzteres wurde im IEEE Computer Journal als Titelthema über Forschungsreproduzierbarkeit vorgestellt[47]. Als Leiter des technischen Programmkomitees der ACM/IEEE Supercomputing-Konferenz (SC'18) führte er einen neuen revisionsbasierten Begutachtungsprozess in der Konferenz ein, um die Qualität der Forschungsartikel zu verbessern[48]. Seine Gruppe erhielt das SIGHPC Certificate of Appreciation für reproduzierbare Methoden bei dem ACM Student Cluster-Wettbewerb auf der ACM/IEEE Supercomputing-Konferenz (SC'22)[49]. Sein Artikel über HammingMesh erhielt den ACM/IEEE Supercomputing-Konferenz (SC'22) Best Reproducibility Advancement Preis[50][51]. Er hielt auch die Eröffnungs-Keynote auf der ersten ACM Konferenz zu Reproduzierbarkeit und Replizierbarkeit (ACM REP'23).

Auszeichnungen[Bearbeiten | Quelltext bearbeiten]

Hoefler erhielt sechs wissenschaftliche Auszeichnungen für die beste Beiträge auf der Supercomputing Konferenz[52][53][54][55]. Weitere wichtige Preise sind im Folgenden aufgeführt.


2023

2022

2021

  • HPCWire „People to Watch“[63]

2020

  • ERC Consolidator Grant[64]
  • BenchCouncil Rising Star Award[65]

2019

  • ACM Gordon Bell Prize[66]
  • IEEE TCSC Award for Excellence in Scalable Computing (MCR)[67]

2015

2014

2013

2012

  • SIAM SIAG/SC Junior Scientist Prize[73]

Einzelnachweise[Bearbeiten | Quelltext bearbeiten]

  1. ↑ ETH-Rat beruft fünf neue IT-Profs. 19. Mai 2017, abgerufen am 23. September 2023.
  2. ↑ Adresse ETH Zürich Dep Informatik Prof Dr Torsten Hoefler Inst f Hochleistungsrechnersyst OAT V. 15 Andreasstrasse 5 8092 Zürich Schweiz: Prof. Dr. Torsten Hoefler | ETH Zürich. Abgerufen am 2. August 2023.
  3. ↑ ETH Professor Torsten Hoefler Joins CSCS as Chief Architect for Machine Learning | CSCS. Abgerufen am 22. September 2023.
  4. ↑ Pressestelle: Leistung, die sich auszahlt. 11. September 2023, abgerufen am 2. August 2023.
  5. ↑ Torsten Hoefler: University Honors and Awards: Indiana University. Abgerufen am 2. August 2023 (amerikanisches Englisch).
  6. ↑ Luddy School honors 2023 alumni award winners. Abgerufen am 6. November 2023.
  7. ↑ MPI Forum. Abgerufen am 2. August 2023 (englisch).
  8. ↑ MPI 3.1 Specification. Abgerufen am 2. August 2023.
  9. ↑ 16 new professors at the ETH Zurich. Abgerufen am 2. August 2023.
  10. ↑ 18 professors appointed at ETH Zurich and EPFL. admin.ch, abgerufen am 30. August 2023.
  11. ↑ Torsten Hoefler’s CV. Abgerufen am 2. August 2023.
  12. ↑ Bibliographic data: US2021211787 (A1) ― 2021-07-08 Bibliographic data: US2021211787 (A1) ― 2021-07-08 , auf worldwide.espacenet.com
  13. ↑ Meeting Your Needs - Executive Committee. Abgerufen am 2. August 2023.
  14. ↑ 2022 Newly Elevated Fellows. In: Institute of Electrical and Electronics Engineers (IEEE). Abgerufen am 2. August 2023.
  15. ↑ Global Computing Association Names 57 Fellows for Outstanding Contributions That Propel Technology Today. Abgerufen am 2. August 2023 (englisch).
  16. ↑ Kathy Mansfield: Hoefler Receives IEEE CS Sidney Fernbach Award. 3. Oktober 2022, abgerufen am 2. August 2023 (amerikanisches Englisch).
  17. ↑ Blue Waters staff, partners bring home awards from SC10. In: NCSA. 24. November 2010, abgerufen am 2. August 2023 (amerikanisches Englisch).
  18. ↑ Torsten Hoefler’s CV. Abgerufen am 2. August 2023.
  19. ↑ 2022 Newly Elevated Fellows. In: Institute of Electrical and Electronics Engineers (IEEE). Abgerufen am 2. August 2023.
  20. ↑ Global Computing Association Names 57 Fellows for Outstanding Contributions That Propel Technology Today. Abgerufen am 2. August 2023 (englisch).
  21. ↑ Academy of Europe: Hoefler Torsten. Abgerufen am 2. August 2023.
  22. ↑ Erdos2, Version 2020, August 7, 2020. Abgerufen am 11. Februar 2024.
  23. ↑ Torsten Hoefler Earns First Jack Dongarra Early Career Award. Abgerufen am 2. August 2023 (amerikanisches Englisch).
  24. ↑ Torsten Hoefler Earns First Jack Dongarra Early Career Award - Welcome to ISC High Performance 2023. Abgerufen am 2. August 2023.
  25. ↑ staff: Torsten Hoefler Named First Winner of Jack Dongarra Early Career Award. In: High-Performance Computing News Analysis | insideHPC. 17. April 2023, abgerufen am 2. August 2023 (amerikanisches Englisch).
  26. ↑ ADIA Lab Appoints Senior Fellows. Abgerufen am 15. Februar 2024 (amerikanisches Englisch).
  27. ↑ Fellows. Abgerufen am 15. Februar 2024 (amerikanisches Englisch).
  28. ↑ MPI: A Message-Passing Interface Standard Version 2.2. Abgerufen am 10. November 2023.
  29. ↑ MPI: A Message-Passing Interface Standard Version 3.0. Abgerufen am 10. November 2023.
  30. ↑ MPI 3.0 Collective Communications and Topology Working Group. Abgerufen am 10. November 2023 (englisch).
  31. ↑ Publications of Torsten Hoefler. Abgerufen am 10. November 2023.
  32. ↑ How to optimize Google Cloud for deep learning training. Abgerufen am 10. November 2023 (englisch).
  33. ↑ Tal Ben-Nun, Torsten Hoefler: Demystifying Parallel and Distributed Deep Learning: An In-depth Concurrency Analysis. In: ACM Computing Surveys. Band 52, Nr. 4, 30. August 2019, ISSN 0360-0300, S. 65:1–65:43, doi:10.1145/3320060 (acm.org [abgerufen am 10. November 2023]).
  34. ↑ Torsten Hoefler, Tommaso Bonato, Daniele De Sensi, Salvatore Di Girolamo, Shigang Li, Marco Heddes, Jon Belk, Deepak Goel, Miguel Castro, Steve Scott: HammingMesh: a network topology for large-scale deep learning. In: Proceedings of the International Conference on High Performance Computing, Networking, Storage and Analysis (= SC '22). IEEE Press, Dallas, Texas 18. November 2022, S. 1–18, doi:10.5555/3571885.3571899 (acm.org [abgerufen am 10. November 2023]).
  35. ↑ The PERCS High-Performance Interconnect. Abgerufen am 10. November 2023 (amerikanisches Englisch).
  36. ↑ Slim Fly: A Cost Effective Low-Diameter Network Topology. Abgerufen am 10. November 2023 (amerikanisches Englisch).
  37. ↑ Torsten Hoefler, Tommaso Bonato, Daniele De Sensi, Salvatore Di Girolamo, Shigang Li, Marco Heddes, Jon Belk, Deepak Goel, Miguel Castro, Steve Scott: HammingMesh: a network topology for large-scale deep learning. In: Proceedings of the International Conference on High Performance Computing, Networking, Storage and Analysis (= SC '22). IEEE Press, Dallas, Texas 18. November 2022, S. 1–18, doi:10.5555/3571885.3571899 (acm.org [abgerufen am 10. November 2023]).
  38. ↑ Optimized Routing for Large-Scale InfiniBand Networks. Abgerufen am 10. November 2023 (amerikanisches Englisch).
  39. ↑ Convection-resolving climate modeling on future supercomputing platforms (crCLIM). Abgerufen am 10. November 2023 (englisch).
  40. ↑ Ein hochpräziser digitaler Zwilling der Erde. 23. Februar 2021, abgerufen am 10. November 2023.
  41. ↑ Peter Bauer, Peter D. Dueben, Torsten Hoefler, Tiago Quintino, Thomas C. Schulthess, Nils P. Wedi: The digital revolution of Earth-system science. In: Nature Computational Science. Band 1, Nr. 2, Februar 2021, ISSN 2662-8457, S. 104–113, doi:10.1038/s43588-021-00023-0 (nature.com [abgerufen am 10. November 2023]).
  42. ↑ Peter Bauer, Peter Dueben, Matthew Chantry, Francisco Doblas-Reyes, Torsten Hoefler, Amy McGovern, Bjorn Stevens: Deep learning and a changing economy in weather and climate prediction. In: Nature Reviews Earth & Environment. Band 4, Nr. 8, August 2023, ISSN 2662-138X, S. 507–509, doi:10.1038/s43017-023-00468-z (nature.com [abgerufen am 10. November 2023]).
  43. ↑ eve4climate: Participants. Abgerufen am 10. November 2023.
  44. ↑ Bjorn Stevens, Stefan Adami, Tariq Ali, Hartwig Anzt, Zafer Aslan, Sabine Attinger, Jaana Bäck, Johanna Baehr, Peter Bauer, Natacha Bernier, Bob Bishop, Hendryk Bockelmann, Sandrine Bony, Veronique Bouchet, Guy Brasseur, David N. Bresch, Sean Breyer, Gilbert Brunet, Pier Luigi Buttigieg, Junji Cao, Christelle Castet, Yafang Cheng, Ayantika Dey Choudhury, Deborah Coen, Susanne Crewell, Atish Dabholkar, Qing Dai, Francisco Doblas-Reyes, Dale Durran, Ayoub El Gaidi, Charlie Ewen, Eleftheria Exarchou, Veronika Eyring, Florencia Falkinhoff, David Farrell, Piers M. Forster, Ariane Frassoni, Claudia Frauen, Oliver Fuhrer, Shahzad Gani, Edwin Gerber, Debra Goldfarb, Jens Grieger, Nicolas Gruber, Wilco Hazeleger, Rolf Herken, Chris Hewitt, Torsten Hoefler, Huang-Hsiung Hsu, Daniela Jacob, Alexandra Jahn, Christian Jakob, Thomas Jung, Christopher Kadow, In-Sik Kang, Sarah Kang, Karthik Kashinath, Katharina Kleinen-von Königslöw, Daniel Klocke, Uta Kloenne, Milan Klöwer, Chihiro Kodama, Stefan Kollet, Tobias Kölling, Jenni Kontkanen, Steve Kopp, Michal Koran, Markku Kulmala, Hanna Lappalainen, Fakhria Latifi, Bryan Lawrence, June Yi Lee, Quentin Lejeun, Christian Lessig, Chao Li, Thomas Lippert, Jürg Luterbacher, Pekka Manninen, Jochem Marotzke, Satoshi Matsuoka, Charlotte Merchant, Peter Messmer, Gero Michel, Kristel Michielsen, Tomoki Miyakawa, Jens Müller, Ramsha Munir, Sandeep Narayanasetti, Ousmane Ndiaye, Carlos Nobre, Achim Oberg, Riko Oki, Tuba Özkan-Haller, Tim Palmer, Stan Posey, Andreas Prein, Odessa Primus, Mike Pritchard, Julie Pullen, Dian Putrasahan, Johannes Quaas, Krishnan Raghavan, Venkatachalam Ramaswamy, Markus Rapp, Florian Rauser, Markus Reichstein, Aromar Revi, Sonakshi Saluja, Masaki Satoh, Vera Schemann, Sebastian Schemm, Christina Schnadt Poberaj, Thomas Schulthess, Cath Senior, Jagadish Shukla, Manmeet Singh, Julia Slingo, Adam Sobel, Silvina Solman, Jenna Spitzer, Detlef Stammer, Philip Stier, Thomas Stocker, Sarah Strock, Hang Su, Petteri Taalas, John Taylor, Susann Tegtmeier, Georg Teutsch, Adrian Tompkins, Uwe Ulbrich, Pier-Luigi Vidale, Chien-Ming Wu, Hao Xu, Najibullah Zaki, Laure Zanna, Tianjun Zhou, Florian Ziemen: Earth Virtualization Engines (EVE). In: Earth System Science Data Discussions. 22. September 2023, S. 1–14, doi:10.5194/essd-2023-376 (copernicus.org [abgerufen am 10. November 2023]).
  45. ↑ CSDL | IEEE Computer Society. Abgerufen am 10. November 2023.
  46. ↑ Scientific benchmarking of parallel computing systems: twelve ways to tell the masses when reporting performance results. Abgerufen am 10. November 2023 (amerikanisches Englisch).
  47. ↑ Benchmarking Data Science: 12 Ways to Lie With Statistics and Performance on Parallel Computers. Abgerufen am 10. November 2023 (amerikanisches Englisch).
  48. ↑ staff: SC18 Papers Submissions Open Today with New Review Process. In: High-Performance Computing News Analysis | insideHPC. 1. März 2018, abgerufen am 10. November 2023 (amerikanisches Englisch).
  49. ↑ SC22 Communications: Congratulations to All of This Year's SC and Society Awardees • SC22. In: SC22. 5. Dezember 2022, abgerufen am 10. November 2023 (amerikanisches Englisch).
  50. ↑ Luddy alum receives prestigious award for contributions to high performance computing. Abgerufen am 10. November 2023 (englisch).
  51. ↑ SC22 Communications: Congratulations to All of This Year's SC and Society Awardees • SC22. In: SC22. 5. Dezember 2022, abgerufen am 10. November 2023 (amerikanisches Englisch).
  52. ↑ Blue Waters staff, partners bring home awards from SC10. In: NCSA. 24. November 2010, abgerufen am 11. Februar 2024 (amerikanisches Englisch).
  53. ↑ SC13 Concludes with Awards for Outstanding Achievements in HPC. Abgerufen am 11. Februar 2024 (englisch).
  54. ↑ Supercomputing 2014 Recognizes Outstanding Achievements in HPC. 21. November 2014, abgerufen am 11. Februar 2024 (englisch).
  55. ↑ Congratulations to the SC and Society Awardees for SC19 in Denver. In: SC19. 25. November 2019, abgerufen am 11. Februar 2024 (amerikanisches Englisch).
  56. ↑ Global Computing Association Names 57 Fellows for Outstanding Contributions That Propel Technology Today. Abgerufen am 2. August 2023 (englisch).
  57. ↑ Torsten Hoefler Earns First Jack Dongarra Early Career Award. Abgerufen am 2. August 2023 (amerikanisches Englisch).
  58. ↑ Torsten Hoefler Earns First Jack Dongarra Early Career Award - Welcome to ISC High Performance 2023. Abgerufen am 2. August 2023.
  59. ↑ staff: Torsten Hoefler Named First Winner of Jack Dongarra Early Career Award. In: High-Performance Computing News Analysis | insideHPC. 17. April 2023, abgerufen am 2. August 2023 (amerikanisches Englisch).
  60. ↑ Kathy Mansfield: Hoefler Receives IEEE CS Sidney Fernbach Award. 3. Oktober 2022, abgerufen am 2. August 2023 (amerikanisches Englisch).
  61. ↑ Luddy alum receives prestigious award for contributions to high performance computing. Abgerufen am 2. August 2023 (englisch).
  62. ↑ 2022 Newly Elevated Fellows. In: Institute of Electrical and Electronics Engineers (IEEE). Abgerufen am 2. August 2023.
  63. ↑ HPCwire Unveils Honorees for Its 2021 People to Watch Feature. Abgerufen am 2. August 2023 (amerikanisches Englisch).
  64. ↑ Olga Sorkine-Hornung and Torsten Hoefler receive 2 ERC Consolidator Grants. Abgerufen am 2. August 2023 (englisch).
  65. ↑ Torsten Hoefler receives BenchCouncil Rising Star Award. 18. November 2020, abgerufen am 2. August 2023 (englisch).
  66. ↑ ACM Names Recipients of 2019 Gordon Bell Prize. Abgerufen am 2. August 2023 (englisch).
  67. ↑ Middle Award. Abgerufen am 2. August 2023.
  68. ↑ Turning life into a profession. 16. November 2015, abgerufen am 2. August 2023 (englisch).
  69. ↑ 10 Millionen für junge Talente. 14. Dezember 2015, abgerufen am 2. August 2023.
  70. ↑ Torsten Hoefler: University Honors and Awards: Indiana University. Abgerufen am 2. August 2023 (amerikanisches Englisch).
  71. ↑ Milagros Lovos: Torsten Hoefler. 3. Oktober 2022, abgerufen am 2. August 2023 (amerikanisches Englisch).
  72. ↑ 2013 Faculty Award recipients. Abgerufen am 2. August 2023.
  73. ↑ Doug Black: Torsten Hoefler Wins 2012 SIAG/Supercomputing Junior Scientist Prize. In: High-Performance Computing News Analysis | insideHPC. 21. Februar 2012, abgerufen am 2. August 2023 (amerikanisches Englisch).
Personendaten
NAME Hoefler, Torsten
KURZBESCHREIBUNG Informatiker und Lehrstuhlinhaber an der ETH Zürich
GEBURTSDATUM 1981
Abgerufen von „https://de.wikipedia.org/w/index.php?title=Torsten_Hoefler&oldid=242595438“