KI-Silizium schützt sich vor Hitze, indem es langsamer wird. Sobald die Sperrschicht die vom Hersteller festgelegte Temperatur überschreitet, senkt der Baustein seinen Takt, gibt Leistung ab und tut das so lange, bis sich die Thermik erholt hat. Eine Platine, die ihre Wärme nicht abführen kann, stürzt also nicht ab; sie liefert still und leise nur einen Bruchteil der Inferenzrate, für die das Silizium angeschafft wurde. Die Kühlung eines KI-Geräts ist kein mechanischer Nachgedanke. Sie ist der Teil des Designs, der darüber entscheidet, ob die bezahlte Rechenleistung jemals ankommt.

Die Rechnung ist gnadenlos. Ein Beschleuniger, der eine Dauerlast hält, wandelt nahezu seine gesamte elektrische Leistung in Wärme um, und das auf einem Die von der Größe eines Fingernagels. Diese Wärme muss ein Gehäuse, eine Grenzschicht und ein Außengehäuse durchqueren, um an die Luft zu gelangen, und jedes Kelvin Temperaturanstieg entlang dieses Pfades wird von dem Spielraum abgezogen, den das Silizium hat, bevor es drosselt. Die Bauteile, die die Wärme bewegen, also der Spreader, das Grenzschichtmaterial, der Kühlkörper und der Lüfter, werden wie jedes andere Bauteil auf der Stückliste ausgewählt: anhand von Zahlen.

Die Sperrschichttemperatur ist die ganze Geschichte.

Was Throttling kostet

Throttling ist ein Vertrag, der ins Silizium geschrieben ist: Überschreite das Limit und der Takt fällt, ohne Verhandlung. Im Demo-Betrieb ist der Mechanismus unsichtbar, denn ein kurzer Benchmark ist beendet, bevor der Die warm wird, und im Produktivbetrieb ist er erbarmungslos, wo die Kamera den ganzen Tag streamt und der Beschleuniger jedes Bild verarbeitet. Der Abstand zwischen der Spitzenleistung eines Bausteins und dem, was er in einem warmen Gehäuse dauerhaft hält, wird fast vollständig durch das thermische Design bestimmt, und zwei Produkte mit identischem Silizium können Inferenzraten liefern, die um die Hälfte auseinanderliegen, weil das eine Wärme abführt und das andere sie speichert.

Die ehrliche Spezifikation für ein KI-Produkt ist die Dauerrate bei der ungünstigsten Umgebungstemperatur, der das Gehäuse je ausgesetzt sein wird, und diese Zahl ist ein thermisches Ergebnis, bevor sie ein Rechenergebnis ist. Das Datenblatt eines Moduls auf seine Drosselschwelle hin zu lesen und so zu konstruieren, dass die Sperrschicht an einem heißen Tag bei Volllast darunter bleibt, ist die Arbeit, um die es auf dieser Seite geht.

Von der Leistung zur Sperrschicht, per Arithmetik

Das Werkzeug, mit dem sich thermisches Design überprüfen lässt, ist eine Kette von Widerständen. Wärme fließt von der Sperrschicht durch das Gehäuse, die Grenzschicht und die Kühlhardware an die Umgebungsluft, jede Stufe fügt einen Temperaturanstieg hinzu, der gleich der Leistung mal ihrem Wärmewiderstand ist, und die Sperrschicht liegt bei Umgebungstemperatur plus der Summe. Sperrschichttemperatur aus Leistung und Wärmewiderstand berechnen geht die Rechnung Schritt für Schritt durch, und sie ist kurz genug, um sie auf Papier zu erledigen, bevor überhaupt Hardware existiert.

Die Disziplin liegt darin, die richtigen Zahlen zu verwenden. Der Junction-to-Ambient-Wert eines Datenblatts wurde auf einer Standard-Testplatine in ruhender Luft gemessen, also unter Bedingungen, die ein reales Produkt niemals reproduziert. Die ehrliche Kette wird daher aus dem Junction-to-Case-Wert aufgebaut, über den Beitrag des Grenzschichtmaterials, bis hin zur Kennzahl des Kühlkörpers bei dem Luftstrom, dem er tatsächlich ausgesetzt sein wird. Jeder Wert trägt seine eigenen Bedingungen mit sich, und eine Kette, die aus Werten unter unterschiedlichen Annahmen zusammengesetzt ist, liefert eine Schätzung der Sperrschichttemperatur, die präzise und überzeugend ist, aber falsch. Die transiente Seite birgt ihre eigene Falle und ihr eigenes Geschenk: Ein Die und sein Spreader speichern Wärme, daher reitet ein kurzer Lastspitze auf der thermischen Masse und erreicht nie die stationäre Temperatur, die die Kette vorhersagt. Deshalb kann ein Design, das in Stößen inferiert, mit kühlerer Hardware auskommen, als seine Spitzenleistung vermuten lässt, und deshalb kann ein Design, das dauerhaft läuft, diesen Trick nicht borgen. Die Werte selbst verdienen Misstrauen im Verhältnis zu ihrer Präzision. Junction-to-Case setzt voraus, dass die gesamte Wärme über den Deckel entweicht, was ein Baustein, der auch Wärme in die Platine abgibt, nicht einhält; ein Modul mit mehreren Dies teilt sich einen Spreader, und der heißeste Die ist nicht der durchschnittliche; und die Gehäusetemperatur eines Herstellers ist an einem Punkt definiert, den ein Thermoelement im fertig montierten Produkt vielleicht gar nicht erreicht. Nichts davon bricht die Methode, es bepreist die Reserve. Die Reserve am Ende ist keine Zierde. Die Umgebungstemperatur war eine Schätzung, der Anpressdruck schwankt von Einheit zu Einheit, über die Lebensdauer des Produkts sammelt sich Staub an, und der plan gefräste Kühlkörper trifft auf ein Gehäuse, das es nicht ist. Zehn Kelvin Spielraum zwischen der berechneten Sperrschicht und der Drosselschwelle sind der Unterschied zwischen einer Flotte, die ihre Rate über Jahre hält, und einer, die im ersten Sommer abbaut. Die Rechnung weist auch rückwärts: Lässt sich die Kette bei der Leistung, die das Silizium verheizen will, nicht schließen, bleibt nur die Wahl zwischen einem größeren Kühlsystem, einer niedrigeren Leistungsgrenze oder anderem Silizium, und das auf Papier herauszufinden kostet einen Nachmittag, während es im Gehäuse herauszufinden eine Werkzeugänderung kostet.

Rückwärts gerechnet dimensioniert dieselbe Kette die Kühlung. Man beginnt bei der Drosselschwelle, zieht die ungünstigste Umgebungstemperatur ab, teilt durch die Leistung, und das Ergebnis ist der gesamte Wärmewiderstand, den das Design haben darf; die Bauteile werden dann so gewählt, dass sie darunter bleiben, wobei die Reserve schon vor dem Einkauf eingerechnet ist.

Das Papier schließt den Kreis erst, wenn eine Messung es bestätigt. Ein Thermoelement am Gehäuse bei Volllast, verglichen mit der Vorhersage für diesen Punkt in der Kette, validiert jeden Term davor für den Preis einer Stunde am Prüfstand, und der erste lauffähige Prototyp ist der richtige Zeitpunkt, diese Stunde zu investieren. Einer Kette, die das Gehäuse auf wenige Kelvin genau vorhergesagt hat, kann man an der Sperrschicht trauen; einer, die um fünfzehn danebenlag, verbirgt eine falsche Annahme, die in Serie geht, wenn niemand hinsieht.

Es ist die billigste Analyse auf der ganzen Platine, und genau die, die ausgelassen wird, wenn es darauf ankommt.

Wo passive Kühlung an ihre Grenzen stößt

Passive Kühlung ist die richtige erste Antwort. Ein Kühlkörper und natürliche Konvektion haben keine beweglichen Teile, keinen Lärm, kein Lager, das sich abnutzt, keinen Staubfilter, der verstopft, und bei moderater Leistung in einem offenen Gehäuse erledigen sie die Aufgabe über die gesamte Lebensdauer des Produkts. Wann passive Kühlung für einen Beschleuniger nicht mehr ausreicht ist die Grenzfrage, und die Grenze liegt niedriger, als die Intuition sie vermutet.

Natürliche Konvektion bewegt einstellige Wattzahlen pro vernünftigem Kühlkörper in freier Luft, und ein Gehäuse senkt das weiter, weil es die warme Luft einschließt, die der Kühlkörper gerade erzeugt hat. Ein Beschleuniger, der dauerhaft zehn oder fünfzehn Watt verheizt, hat das passive Regime verlassen, egal wie üppig das Metall bemessen ist, und die Symptome sind ein Produkt, das auf dem Prüfstand mit offenem Deckel funktioniert und im Feld mit geschlossenem Deckel drosselt.

Die Variablen, die die Grenze verschieben, sind Oberfläche, Ausrichtung und der Weg, den die warme Luft nimmt. Rippen, die sich an der Schwerkraft ausrichten, sodass die Luft durch sie aufsteigen kann, erkaufen echte Reserve; ein Kühlkörper, der flach unter einem geschlossenen Deckel liegt, erkauft Masse und wenig sonst. Ein belüftetes Gehäuse mit einem Kaminpfad kann das Doppelte dessen abführen, was dasselbe Metall geschlossen schafft.

Die Entscheidung gehört an den Anfang, weil sie das mechanische Design prägt. Ein Produkt, das einen Lüfter brauchen wird, braucht Einlass, Auslass, Kanal und Wartungszugang von der ersten Skizze an im Gehäuse eingezeichnet, und ein passives Produkt braucht das Rippenvolumen und die Belüftung verplant, bevor der Industriedesigner die Form schließt. Die eine Wahl nachträglich in das Gehäuse der anderen zu zwängen, ist der Punkt, an dem Thermikprojekte scheitern.

Ein Radiallüfter für einen Baustein, der drosselt

Wenn die Leistung die passive Grenze überschreitet, muss Luft aktiv bewegt werden. Einen Radiallüfter mit einem Baustein paaren, der bei Hitze drosselt ist eher ein Anpassungsproblem als eine Katalogsuche: Ein Lüfter liefert Volumenstrom gegen Druck entlang einer Kennlinie, Gehäuse und Kühlkörper stellen ihre eigene Widerstandskennlinie dar, und das System arbeitet dort, wo sich die beiden schneiden. Ein Lüfter, der allein nach seiner Freiluftangabe ausgewählt wurde, liefert durch einen realen Kanal nur einen Bruchteil davon, was die höfliche Art ist zu sagen, dass der lauteste Lüfter auf der Seite trotzdem der falsche sein kann.

Die Bauform des Radiallüfters verdient ihren Platz in flachen, dichten Produkten: Er nimmt die Luft axial auf und stößt sie seitlich mit höherem Druck aus als ein Axiallüfter gleicher Bauhöhe, was zu dem beengten Kanal passt, den eine Edge-Box meist bietet. Die Drehzahlregelung schließt den Kreis, wobei der Lüfter von der Temperatur des Siliziums selbst angesteuert wird, sodass das Produkt im Leerlauf lautlos und nur dann laut ist, wenn die Arbeit es verlangt, und die Regelkennlinie so abgestimmt ist, dass der Lüfter vor der Drosselschwelle hochfährt und nicht erst danach.

Der Lüfter ist außerdem das einzige bewegliche Teil auf der Platine, und er altert auch wie eines. Die Lagerlebensdauer ist temperaturabhängig spezifiziert und sinkt mit ihr, die Staublast steigt über die Jahre, und die Lüfter einer Flotte sind ein Verschleißteil, mit dem man planen muss: eine Tachosignalleitung, die die Firmware überwacht, eine Ausfallreaktion, die die Leistungsgrenze senkt, statt das Silizium zu garen, und ein mechanisches Design, das einen Lüftertausch erlaubt, ohne etwas auslöten zu müssen.

Die Grenzschicht, die sich ihren Platz verdient

Zwischen Gehäuse und Metall sitzt die Schicht, die niemand sieht, und sie dominiert regelmäßig die Kette. Zwei plane Oberflächen berühren sich an ihren Erhebungen und schließen überall sonst Luft ein, und Luft ist ein Isolator, also muss der Spalt gefüllt werden. Ein Wärmeleitmaterial wählen, das sich seinen Platz verdient läuft auf den Widerstand der eingebauten Schicht hinaus und nicht auf die Wärmeleitfähigkeit, die auf der Tube steht: Eine bescheidene, dünn aufgetragene Paste schlägt eine exotische, dick aufgetragene Verbindung, denn der Widerstand ist Dicke geteilt durch Leitfähigkeit, und die Dicke ist der Term, den die Montage kontrolliert. Pasten ergeben die dünnsten Schichten und verlangen Anpressdruck und eine reproduzierbare Dosierung; Pads verzeihen Toleranzketten und grobe Montage zum Preis einer dickeren Bondlinie; Phasenwechselfolien teilen den Unterschied und halten ihre Position über die gesamte Nutzungsdauer. Die Wahl wird durch Spalt und Druck des mechanischen Designs bestimmt, durch die Fähigkeit der Fertigungslinie, das Material jedes Mal gleich aufzutragen, und durch die Servicefrage, was passiert, wenn die Einheit nach fünf Jahren geöffnet wird. Eine Grenzschicht, die gegen diese Randbedingungen gewählt wurde, verschwindet in der Kette; eine, die allein nach der Leitfähigkeitszahl gewählt wurde, taucht als zehn unerklärte Kelvin zwischen Gehäuse und Kühlkörper auf, also genau als die Reserve, die das ganze Design eigentlich halten sollte.

Was den Ausschlag gibt

Die Sperrschicht gibt den Ausschlag, und alles wird von ihr aus rückwärts gelesen. Die Drosselschwelle minus die ungünstigste Umgebungstemperatur ist das Budget; die Kette der Widerstände gibt es aus; die Bauteile werden so gewählt, dass die Summe unter der Linie bleibt, mit einer Reserve für die reale Welt.

Dauerleistung ist ein thermisches Produkt. Das Silizium setzt die Obergrenze, die Kühlung entscheidet, wie nah das Produkt an ihr lebt, und ein Wettbewerber mit demselben Chip und besserem Luftstrom liefert die schnellere Box.

Auch die Beschaffung hat ihre eigene thermische Ecke. Lüfter sind lebensdauerbegrenzte Teile mit eigenwilligen Lieferzeiten, Grenzschichtmaterialien sind Formulierungen, die eine Zweitquelle nachbilden und nicht bloß imitieren muss, und das Design, das für beide schon vor dem ersten Bau seine Alternativen benennt, bleibt lieferfähig, wenn eines von beiden auf Allokation geht.