GPU-Server mieten oder kaufen: die ehrliche Rechnung.

GPU-Server mieten oder kaufen: was ist die kurze Antwort?

Mieten, sofern Sie nicht eine recht hohe Hürde nehmen können. Einen GPU-Server zu kaufen ergibt nur dann finanziell Sinn, wenn Sie ihn wirklich ausgelastet halten — rund 60 % Auslastung oder mehr, rund um die Uhr, anhaltend über mindestens 18 bis 24 Monate — und wenn Sie auch das Kapital, das Betriebspersonal und den physischen Platz haben, ihn zu betreiben. Das beschreibt Hyperscaler, große KI-Labore und etablierte Unternehmen mit Infrastruktur-Teams. Es beschreibt nicht die meisten mittelständischen Engineering-Organisationen, und die Cloud existiert gerade dafür, dass diese Teams keine Flotte besitzen müssen.

Wenn das nach einer Neigung zur Miete klingt, dann tut es das, und der Rest dieses Stücks zeigt die Rechnung, damit Sie sie gegen Ihre eigenen Zahlen prüfen können. Wir vermieten GPU-Server zum Lebensunterhalt, nehmen Sie dies also als eine interessierte Partei, die ihre Rechnung offenlegt, und nicht als neutralen Schiedsrichter — aber die Rechnung ist die Rechnung, und wo Kauf oder Hybrid wirklich gewinnt, sagen wir es unten klar.

Eine Klarstellung vorab, weil sie verwirrt: „Mieten“ heißt hier nicht nur einen Hyperscaler. Die günstigste Miete ist meist eine spezialisierte GPU-Cloud, die für identische Hardware mehrfach weniger kosten kann als die großen drei, also ist eine enttäuschende Erfahrung beim Mieten von einem Hyperscaler kein Beleg dafür, dass Besitzen günstiger ist — oft ist es ein Beleg dafür, dass Sie am falschen Ort gemietet haben. Vergleichen Sie Eigentum gegen eine faire Mietrate, nicht gegen eine überhöhte.

Welche Auslastung brauchen Sie wirklich, um den Kauf zu rechtfertigen?

Das ist die Zahl, die die ganze Frage entscheidet, und die, bei der Teams am optimistischsten sind. Die Schwelle liegt bei rund 60 % anhaltender Auslastung, rund um die Uhr, mindestens 18 bis 24 Monate gehalten. Darunter machen die Leerlaufstunden, die Sie zahlen — in Kapital, Strom und Abschreibung — das Mieten günstiger, denn eine gemietete GPU, die Sie nicht nutzen, kostet schlicht nichts mehr, sobald Sie sie freigeben, während eine eigene im Rack weiter abschreibt, ob sie rechnet oder nicht.

Das Problem ist, dass die echte Auslastung meist weit unter der geplanten liegt. Die meisten Organisationen liegen über die Lebensdauer einer GPU im Schnitt bei etwa 30–50 %, weil Entwicklungszyklen, Wartungsfenster, Evaluierungsläufe und schlichte Schwankung der Nachfrage die Hardware einen großen Teil der Zeit im Leerlauf lassen. Der Fehler ist, eine Kaufentscheidung an der Auslastung zu bemessen, die Sie sich zur Spitze vorstellen, statt am Durchschnitt, den Sie wirklich halten — und die Lücke zwischen diesen beiden Zahlen ist genau dort, wo Eigentum von Ersparnis zu Last wird.

Die versteckten Kosten des Mietens

Ehrlichkeit schneidet nach beiden Seiten, also hat das Mieten seine eigenen leisen Posten, die man nennen sollte. Der größte bei den Hyperscalern ist der Egress — die Gebühr, Daten herauszubewegen — der bei großen Modell-Checkpoints und Datensätzen mit den GPU-Kosten selbst mithalten kann; persistenter Speicher und IP-Gebühren kommen hinzu, und manche Anbieter erzwingen Mindestbindungen. Dann ist da die Leerlaufzeit: stundenweise mieten und eine GPU zwischen Jobs laufen lassen, und Sie zahlen die volle Rate für Kapazität, die Sie nicht nutzen — dieselbe Verschwendung, die das Eigentum in anderer Form trifft.

Zwei davon sind mit dem richtigen Anbieter vermeidbar, was ein Teil davon ist, warum spezialisierte GPU-Clouds die Hyperscaler für dieselbe Hardware um ein Mehrfaches unterbieten. Flache Bandbreite beseitigt die Egress-Falle, und die Abrechnung pro Minute oder mit Freigabe im Leerlauf beseitigt das Schlimmste der Leerlauf-Verschwendung. Der verbleibende echte Kosten des Mietens ist der Verlust eines abschreibenden Guts, das Sie nie besitzen wollten — und wie der nächste Abschnitt argumentiert, ist das meist ein Vorteil, kein Kosten.

Capex gegen Opex: das Geld, das Sie nicht ausgeben

Unter den Kostentabellen liegt ein Bilanz-Argument. Eine GPU-Flotte zu kaufen ist eine große Investitionsausgabe mit langer Beschaffungsfrist — oft sechs bis zwölf Monate für aktuelle Teile —, die sehr viel Geld in einem abschreibenden Gut bindet. Dreihunderttausend Dollar, in Hardware gebunden, sind dreihunderttausend Dollar, die nicht in Ihr Produkt, Ihr Team oder die Marktchance vor Ihnen investiert sind, und für ein frühphasiges oder schnelllebiges Unternehmen kann dieser Opportunitätskosten die Stunden-Ersparnis in den Schatten stellen.

Das Mieten wandelt diese Kapitalhürde in eine Betriebsausgabe, die Sie zahlen, während Sie nutzen, ohne Beschaffungswartezeit und mit der Freiheit, umzudenken, wenn sich Ihr Bedarf ändert. Die Cloud-Miete ist der schnelle Weg, wenn Sie GPUs in diesem Monat brauchen und die Lieferengpässe bei neuem Silizium anhalten, oder wenn die Arbeit schubweise oder explorativ ist. Diese Flexibilität hat einen echten Wert, den ein reiner Kosten-pro-Stunde-Vergleich ganz übersieht — die Option, herunterzuskalieren, die Hardware zu wechseln oder das Geld umzulenken, ist etwas wert, und sie ist genau den Teams am meisten wert, deren Zukunft am wenigsten gewiss ist.

Im deutschsprachigen Raum kommt zur reinen Kostenfrage eine zweite Achse hinzu, die das Bild verschiebt: die Datenresidenz. Wer Modelle auf personenbezogenen oder geschäftskritischen Daten trainiert, muss unter DSGVO und BDSG belegen können, wo diese Daten verarbeitet werden, und genau hier verändert die Wahl zwischen Mieten und Kaufen den Aufwand. Eine gemietete GPU in einer EU-Region — mit nachweisbar europäischem IP-Raum und kurzer Anbindung über das Peering am DE-CIX Frankfurt — hält die Daten dort, wo die Aufsicht sie erwartet, ohne dass Sie eine eigene Anlage betreiben müssen. Für viele deutsche Teams ist die ehrliche Rechnung daher zwei Größen zugleich: Kapital gegen Betrieb sowie die Kontrolle über den Verarbeitungsort gegen den Aufwand, ihn selbst zu garantieren — und ein dedizierter, gemieteter Knoten in der EU löst beides zugleich, ohne die Abschreibung einer eigenen Flotte zu tragen.

Die Antwort, bei der die meisten Teams landen: der Hybrid

Die sauberste Auflösung der ganzen Debatte ist, sie nicht mehr als ein Entweder-oder zu behandeln. Besitzen Sie eine Basis an GPU-Kapazität für die planbare, stetige Arbeit — die Trainings-Pipelines und Inferenz-Dienste, die wirklich rund um die Uhr bei bekannter Auslastung laufen, wo die Eigentums-Ökonomie am stärksten ist. Mieten Sie dann für alles Variable: Spitzennachfrage, einen zweiwöchigen Lauf auf einer neuen Architektur, einen Schub für einen Produktstart oder einen Tag auf der neuesten Karte, um zu sehen, ob sich ein Upgrade lohnt. Eigene Hardware deckt den Boden; gemietete Hardware deckt die Decke.

Diese Form optimiert die Kostenkurve auf eine Weise, die keines der Extreme schafft. Sie zahlen Eigentums-Raten nur für die Last, die stetig genug ist, sie zu rechtfertigen, und Miet-Raten nur für die Last, die wirklich schwankt, statt für ungenutzte eigene Kapazität zu viel zu zahlen oder Ihre stetige Basis für immer mit Aufpreis zu mieten. Für die meisten Organisationen mit einer Mischung aus stetiger und schubweiser GPU-Arbeit ist der Hybrid weniger ein Kompromiss als das tatsächliche Optimum — und deshalb landen sorgfältige Teams immer wieder dort.

Die Aufteilung richtig zu treffen ist eine eigene kleine Disziplin. Der ehrliche Ausgangspunkt ist, zu messen statt zu raten: schauen Sie, was Ihre GPUs über einige repräsentative Wochen wirklich tun, finden Sie den Boden der Nachfrage, der echt immer da ist, und erwägen Sie, um diese Linie herum zu besitzen, während Sie alles darüber mieten. Setzen Sie den Boden zu hoch, zahlen Sie wieder für ungenutzte eigene Kapazität; zu niedrig, und Sie mieten Ihre stetige Basis mit Aufpreis. Sorgfältig gemessen schlägt der Hybrid leise beide reinen Strategien für eine gemischte Last.

Ein durchgerechnetes Beispiel, grob

Zwei kurze Skizzen machen die Schwellen konkret. Stellen Sie sich ein Team vor, das ein paar GPUs für ein dreimonatiges Projekt braucht — etwas Training, viel Iteration — und sie realistisch vielleicht zu 40 % ausgelastet halten wird. Mieten ist die offensichtliche Wahl: es gibt keinen achtzehnmonatigen Horizont, gegen den ein Kauf abzuschreiben wäre, die ungenutzten 60 % wären als eigenes Gut reine Verschwendung, und am Projektende hört der Kosten schlicht auf. Kaufen hieße hier, eine abschreibende Flotte lange nach Ende der Arbeit zu tragen, die sie gerechtfertigt hatte.

Stellen Sie sich nun ein Team vor, das einen Produktions-Inferenz-Dienst rund um die Uhr bei stetigen 70 % Auslastung betreibt, mit einer Nachfrage, die es zwei oder drei Jahre voraus prognostizieren kann, einer bereits vorhandenen Betriebsfunktion und dem Kapital zum Ausgeben. Das ist das Profil, wo Eigentum — oder diese stetige Basis zu besitzen und nur die Spitzen darüber zu mieten — wirklich zahlt, weil die Hardware ausgelastet genug ist, lange genug, dass die Gesamtkosten des Besitzens jahrelange Miete unterbieten. Der Sinn der beiden Skizzen ist, dass dieselbe Frage je nach einer einzigen Variable gegenteilige Antworten hat: wie ausgelastet die Hardware wirklich sein wird.