Publikation

Hierarchical power and energy management of high-performance computing systems for total cost of ownership optimization

Wang, Bo; Müller, Matthias S. (Thesis advisor); Ludwig, Thomas (Thesis advisor); Lakemeyer, Gerhard (Thesis advisor)

Aachen : RWTH Aachen University (2026)
Doktorarbeit

Dissertation, RWTH Aachen University, 2026

Kurzfassung

Der Bedarf an Rechenleistung in der traditionellen wissenschaftlichen Datenverarbeitung sowie im Bereich der künstlichen Intelligenz ist in den vergangenen Jahren kontinuierlich gestiegen. Infolgedessen haben Hochleistungsrechner (High-Performance Computing, HPC) hinsichtlich ihrer Größe und ihres Energieverbrauchs über die letzten Jahrzehnte erheblich zugenommen, wie historische TOP500-Daten belegen. In den vergangenen zwanzig Jahren hat sich die Rechenleistung des jeweils leistungsstärksten TOP500-Systems um den Faktor 60 erhöht, während sich dessen Leistungsaufnahme nahezu verdoppelt hat. Gegenwärtige und zukünftige großskalige HPC-Systeme stoßen an eine Leistungsgrenze ("Power Wall"), die durch die begrenzte Kapazität der unterstützenden Infrastruktur sowie steigende Energiekosten verursacht wird. Daher gewinnt ein effizientes Management und eine gezielte Optimierung des Energieverbrauchs von HPC-Clustern zunehmend an Bedeutung, um Infrastrukturengpässe zu entschärfen und den Energieverbrauch zu reduzieren. In dieser Arbeit untersuche ich die gesamten Kosten TTotal Cost of Ownership"(TCO) eines HPC-Systems, die in einmalige und jährliche Kosten aufgeteilt sind. Die einmaligen Kosten umfassen die Investition in Infrastruktur und Rechenknoten, während die jährlichen Kosten die Stromkosten beinhalten. Die Daten von zwei HPC-Systemen aus Deutschland zeigen, dass die Leistungsaufnahme ein hohen Kostenanteil verursacht. Deswegen entwickele ich Energieverwaltungsstrategien, um diese Kosten zu reduzieren. Allerdings haben solche Strategien Nebenwirkungen auf die Rechenleistung, da die Rechenknoten oft gedrosselt werden müssen. Dafür definiere ich Produktivität, um diesen Konflikt zu lösen. Während der Konstruktion eines Systems definiere ich Produktivität als die Anzahl der angeschafften Knoten in Relation zu der gesamten Investition. Durch eine verbesserte Beschaffungsstrategie, im Hinblick auf die gesamte Infrastruktur als auch auf die spezifische Investition eines HPC-Systems, kann die Produktivität verbessert werden. In diesem Fall untersuche ich Strategien, die die aktuelle Leistungsaufnahme des Systems unter einem bestimmten Grenzwert senken. Im Kontext des Betriebs eines HPC-Systems definiere ich Produktivität als die Anzahl der ausgeführten Rechenjobs zum TCO. Im Weiteren reduziere ich den Energieverbrauch, um Energiekosten zu sparen. Gleichzeitig maximiere ich den Jobdurchsatz des Systems. Damit kann die Produktivität erhöht werden. Die zwei Fälle der Optimierung benötigen anspruchsvolles Management der Leistungsaufnahme, das das System aus zahlreichen Rechenknoten besteht und viele verschiedene Rechenjobs ausführt. Ich entwickele eine strukturierte Lösung, die aus Cluster, Job und Knoten Management besteht. Ein Cluster Manager verwaltet den Stromverbrauch des ganzen Clusters und verteilt das Strombudget zu Jobs und Rechenknoten. Ein Jobmanager steuert den Stromverbrauch eines individuellen Jobs und der darunter verwendeten Knoten. Ein Knoten Manager optimiert den Verbrauch der Hardware des Knotens. Für jeden Manager untersuche ich Strategien, um den Stromverbrauch zu reduzieren sowie die Leistungsaufnahme zu begrenzen. Zum Schluss bewerte ich die entwickelten Managementstrategien mit den Produktivitätsmodellen gegenüber Daten aus realen Clustern. Die entwickelten Strategien reduzieren die Gesamtkosten und verbessern damit die Produktivität.

Einrichtungen

  • Lehrstuhl für Hochleistungsrechnen (Informatik 12) [123010]