Wie werden KI-Server gekühlt? Ratgeber

Die Kühlung von KI-Servern ist die Gesamtheit aller technischen Maßnahmen, die die Abwärme von CPUs, GPUs und Netzteilen so abführt, dass alle Bauteile dauerhaft innerhalb ihrer Temperaturspezifikation arbeiten. Sie entscheidet darüber, ob eine GPU ihre Taktrate hält oder thermisch drosselt. Dieser Ratgeber erklärt, warum KI-Hardware mehr Wärme erzeugt, welche Kühlverfahren es gibt, wie Sie das passende auswählen und wie eine typische Kühlkonfiguration in der Praxis aussieht.

Warum erzeugen KI-Server so viel Abwärme?

Ein KI-Server unterscheidet sich von einem klassischen Webserver vor allem durch seine Beschleuniger. Eine einzelne Datencenter-GPU kann mehrere hundert Watt aufnehmen, und ein System mit acht solchen Karten erreicht schnell eine Leistungsaufnahme im Bereich mehrerer Kilowatt. Fast die gesamte aufgenommene elektrische Leistung wird am Ende in Wärme umgewandelt.

Entscheidend ist nicht die Gesamtleistung eines Racks, sondern die Leistungsdichte pro Höheneinheit. Ein KI-Server mit vier oder acht GPUs belegt oft nur wenige Höheneinheiten, gibt aber so viel Wärme ab wie ein ganzes Rack einfacher Server. Genau diese Dichte bestimmt, ob Luftkühlung noch ausreicht oder Flüssigkeit nötig wird.

Hinzu kommt die Dauerlast: KI-Training läuft häufig über Stunden oder Tage mit hoher Auslastung, ohne dass die Leistung zwischendurch einbricht. Die Kühlung muss also nicht kurzzeitige Spitzen, sondern einen dauerhaften Volllastbetrieb abführen. Wird das nicht sauber geplant, sinkt der GPU-Takt und die Trainingszeit steigt.

Wie funktioniert Luftkühlung in einem KI-Server?

Bei der Luftkühlung drücken Hochleistungslüfter kalte Luft durch Kühlkörper auf den GPUs, CPUs und Speicherbausteinen. Die erwärmte Luft verlässt das Gehäuse und wird über die Kalt- und Warmgangtrennung des Rechenzentrums abgeführt. Dieses Verfahren ist wartungsarm und für viele GPU-Systeme weiterhin Standard.

Der begrenzende Faktor ist die Wärmekapazität von Luft. Um dieselbe Wärmemenge abzutransportieren wie Wasser, braucht Luft ein sehr viel größeres Volumen. Deshalb steigen mit der Leistungsdichte die Lüfterdrehzahlen, der Geräuschpegel und der Eigenverbrauch der Lüfter. In Rechenzentren mit Kaltgang-Einhausung lässt sich das bis zu einer gewissen Dichte beherrschen.

Für gemietete Systeme ist Luftkühlung meist die pragmatische Wahl: Sie funktioniert in Standardracks, erfordert keine Umbauten und lässt sich kurzfristig bereitstellen. Wer einen GPU Server für Training oder Inferenz sucht, findet dort in der Regel luftgekühlte Konfigurationen, deren Kühlung der Anbieter bereits auf die verbauten Karten abgestimmt hat.

Welche Rolle spielt die Zulufttemperatur?

Die Temperatur der Zuluft bestimmt, wie viel Wärme die Luft aufnehmen kann, bevor die Bauteile ihre Grenzwerte erreichen. Kühle Zuluft erlaubt höhere Leistungsdichte bei gleichem Luftvolumen, während warme Zuluft die Lüfter schneller drehen lässt. In der Praxis planen Betreiber deshalb einen Sicherheitsabstand zwischen Zulufttemperatur und den maximal zulässigen Chiptemperaturen ein.

Wichtig ist die Gleichmäßigkeit: Wenn einzelne Server im Rack zu wenig Luft bekommen, entstehen Hotspots, und genau dort drosseln GPUs zuerst. Eine saubere Kaltgang-Warmgang-Trennung mit blinden Abdeckungen verhindert, dass sich Warmluft im Ansaugbereich sammelt.

Wie werden KI-Server mit Flüssigkeit gekühlt?

Bei der Flüssigkeitskühlung übernimmt Wasser oder ein Wasser-Glykol-Gemisch den Wärmetransport. Zwei Varianten sind verbreitet: Direct-to-Chip, bei dem Kühlplatten direkt auf GPU und CPU sitzen, und Immersionskühlung, bei der komplette Server in eine nicht leitende Flüssigkeit getaucht werden. Beide Verfahren transportieren Wärme deutlich effizienter als Luft.

Direct-to-Chip lässt sich schrittweise einführen, weil nur die heißesten Bauteile an den Flüssigkeitskreislauf angeschlossen werden. Immersion erlaubt die höchsten Leistungsdichten, erschwert aber Wartung und Aufrüstung, da Komponenten aus der Flüssigkeit geholt werden müssen. Welche Variante passt, hängt von Leistungsdichte, Wartungsintervallen und vorhandener Infrastruktur ab.

Für Anwender, die keine eigene Kühltechnik betreiben wollen, ist das relevant: Die Kühlart bestimmt, welche Hardware überhaupt in einem Rechenzentrum betrieben werden darf. Wer selbst Hardware einbringt, sollte vorher klären, welche Leistungsdichte die Colocation im gewählten Rack zulässt.

Wann lohnt sich Flüssigkeitskühlung?

Flüssigkeitskühlung lohnt sich, wenn die Wärmedichte pro Rack die Grenzen der Luftkühlung überschreitet oder wenn die Energiekosten für Lüfter und Klimatisierung dauerhaft hoch sind. Weil Wasser pro Volumen deutlich mehr Wärme aufnimmt, sinken Lüfterdrehzahlen und damit Geräusch und Strombedarf. Zudem lässt sich die Abwärme über Wärmetauscher leichter für Heizzwecke nutzen.

Der Aufwand liegt in der Infrastruktur: Verteilleitungen, Schnellkupplungen, Überwachung von Durchfluss und Druck sowie Leckageerkennung. Deshalb ist Flüssigkeitskühlung vor allem in Umgebungen sinnvoll, in denen dauerhaft viele GPU-Systeme mit hoher Last betrieben werden.

Welche Kühlmethode passt zu welcher Leistungsdichte?

Die Auswahl folgt einer einfachen Entscheidungsregel: Je höher die Wärmeabgabe pro Rack, desto eher führt der Weg von Luft über Direct-to-Chip zu Immersion. Die folgende Übersicht ordnet die Verfahren nach typischen Einsatzbereichen; die kW-Angaben sind Richtwerte und hängen von Rechenzentrum, Klima und Hardware ab.

Wählen Sie Luftkühlung, wenn Sie wenige GPU-Systeme betreiben und Standardracks nutzen, weil dann der Infrastrukturaufwand am geringsten ist. Wählen Sie Direct-to-Chip, wenn mehrere GPU-Knoten dauerhaft unter Volllast laufen, weil Luft dann an ihre Grenzen kommt. Wählen Sie Immersion nur, wenn maximale Dichte wichtiger ist als einfache Wartung.

Ein weiteres Kriterium ist die Frage, ob Sie Hardware mieten oder selbst betreiben. Bei gemieteten Systemen trägt der Anbieter die Kühlungsplanung; bei eigenen Geräten müssen Sie Kühlleistung, Luftführung und Überwachung selbst nachweisen. Für ein einzelnes leistungsstarkes System ohne GPU-Last kann ein dedizierter Server ausreichen, während rechenintensive KI-Workloads eine GPU-Plattform erfordern.

Wie überwacht und optimiert man die Kühlung im Betrieb?

Kühlung ist kein einmaliger Aufbau, sondern ein laufender Prozess. Sie erkennen Probleme daran, dass die GPU-Taktrate unter Dauerlast sinkt, die Lüfter dauerhaft am Anschlag laufen oder die Ablufttemperatur einzelner Server deutlich über dem Rack-Durchschnitt liegt. Diese Signale sollten Sie messen, nicht schätzen.

Auf einem Linux-System liefert das NVIDIA-Werkzeug nvidia-smi die wichtigsten Werte: Temperatur, Leistungsaufnahme und Taktrate. Beobachten Sie diese Größen im Lastbetrieb, nicht im Leerlauf, weil sich Drosselung erst unter Volllast zeigt. Ein einfacher Messbefehl im Sekundentakt genügt für den ersten Überblick.

nvidia-smi --query-gpu=index,temperature.gpu,power.draw,clocks.sm \
  --format=csv -l 5

Typische Maßnahmen bei auffälligen Werten sind: Luftführung im Rack korrigieren, Ansaugbereiche von Kabeln und Blindplatten freihalten, Lüfterkurven prüfen und die Verteilung der Last über mehrere Knoten statt eines einzelnen Servers. Zeigt die Messung dauerhaft hohe Temperaturen bei sinkender Taktrate, ist die Kühlung für die verbaute Hardware zu knapp ausgelegt.

Häufiger Fehler: nur die GPU-Temperatur betrachten

Ein verbreiteter Fehler ist, ausschließlich die GPU-Temperatur zu prüfen und Speicher- sowie VRM-Temperaturen zu ignorieren. Diese Bauteile können früher an ihre Grenzen kommen als der Grafikchip selbst, was sich in instabilen Trainingsläufen oder Speicherfehlern äußert. Prüfen Sie deshalb immer mehrere Sensoren und nicht nur einen Wert.

Ebenso unterschätzt wird die Umgebung: Ein Server, der im Testaufbau kühl bleibt, kann im vollen Rack drosseln, weil die Zuluft bereits erwärmt ankommt. Messen Sie die Kühlung daher immer in der endgültigen Einbausituation und nicht auf dem Labortisch.

Praktisches Beispiel: Kühlentscheidung für einen Trainingsknoten

Angenommen, Sie betreiben einen Knoten mit vier GPUs und stellen fest, dass die Taktrate nach etwa 20 Minuten Volllast messbar sinkt. Die Messung mit nvidia-smi zeigt hohe Temperaturen bei steigender Lüfterdrehzahl. Das ist ein klassisches Zeichen dafür, dass die Luftkühlung an die Grenze der Leistungsdichte kommt.

Ihr Vorgehen in drei Schritten:

1. Messen Sie Temperatur, Leistungsaufnahme und Taktrate über mindestens 30 Minuten unter realistischer Last und dokumentieren Sie die Werte.
2. Prüfen Sie zuerst die kostengünstigen Maßnahmen: Luftführung im Rack, freie Ansaugwege, Sauberkeit der Kühlkörper und die Verteilung der Last.
3. Bleibt die Drosselung bestehen, wechseln Sie auf ein Kühlsystem mit höherer Wärmekapazität oder verteilen Sie die Last auf mehrere Knoten.

In diesem Beispiel ist die Ursache nicht die GPU, sondern die Wärmeabfuhr. Wer stattdessen die Taktrate per Software begrenzt, verliert Rechenleistung, ohne das Problem zu lösen. Eine saubere Kühlungsentscheidung spart dagegen Trainingszeit und verlängert die Lebensdauer der Hardware.

Häufig gestellte Fragen

Was ist ein GPU Server?

Ein GPU Server ist ein Serversystem, dessen Rechenleistung überwiegend von Grafikprozessoren statt von der CPU erbracht wird. GPUs führen viele Rechenschritte parallel aus und eignen sich dadurch für KI-Training, Inferenz und Rendering. Weil sie viel Leistung aufnehmen, stellt die Kühlung bei GPU-Servern höhere Anforderungen als bei klassischen Servern.

GPU Server vs CPU Server: Wo liegt der Unterschied bei der Kühlung?

CPU-Server geben pro Höheneinheit meist deutlich weniger Wärme ab und lassen sich zuverlässig mit Luft kühlen. GPU-Server bündeln mehrere Beschleuniger auf engem Raum, wodurch die Wärmedichte steigt und Flüssigkeitskühlung eher notwendig wird. Der Unterschied liegt also nicht im Prinzip, sondern in der abzuführenden Wärmemenge pro Rack.

Reicht Luftkühlung für KI-Training aus?

In vielen Fällen ja, solange die Leistungsdichte im Rack im Rahmen bleibt und die Zuluft kühl genug ist. Treten unter Dauerlast sinkende Taktraten auf, ist die Luftkühlung zu knapp dimensioniert. Dann helfen bessere Luftführung, Lastverteilung oder der Wechsel auf Direct-to-Chip beziehungsweise Immersion.

Woran erkenne ich, dass mein KI-Server zu warm läuft?

Typische Anzeichen sind eine sinkende GPU-Taktrate unter Volllast, dauerhaft hoch drehende Lüfter und Temperaturen nahe den Herstellergrenzwerten. Auch instabile Trainingsläufe oder Speicherfehler können auf thermische Probleme hindeuten. Messen Sie mehrere Sensoren über längere Zeit statt einzelner Momentaufnahmen.

Kann ich einen GPU Server mieten, ohne mich um die Kühlung zu kümmern?

Bei gemieteten GPU-Servern übernimmt der Anbieter die Kühlungsplanung im Rechenzentrum, sodass Sie sich auf Konfiguration und Software konzentrieren können. Sie sollten dennoch die Temperaturwerte im Betrieb beobachten, um Drosselung früh zu erkennen. Details zur Ausstattung finden Sie auf der jeweiligen Service-Seite.

Fazit

Die Kühlung von KI-Servern folgt einer klaren Logik: Luft trägt Wärme nur begrenzt ab, Wasser deutlich besser. Je höher die Leistungsdichte pro Rack, desto eher führt der Weg von Luftkühlung über Direct-to-Chip bis zur Immersionskühlung. Wer diese Grenzen kennt, plant GPU-Systeme realistisch und vermeidet thermische Drosselung im Dauerbetrieb.

Als nächsten Schritt sollten Sie die Temperaturen und Taktraten Ihrer vorhandenen Systeme unter realer Last messen und mit der geplanten Leistungsdichte abgleichen. Wenn Sie dafür eine passende Plattform benötigen, sehen Sie sich die aktuellen Konfigurationen auf der Seite für den GPU Server an und wählen Sie das Modell, das zu Ihrer Kühlsituation und Ihrem Workload passt.