KI: Cloud oder eigene Hardware?

Stell dir vor, dein Team nutzt morgens und nachmittags viel KI, nachts kaum. Eine GPU kann eine bestimmte Menge Arbeit pro Stunde erledigen. 100 % Bedarf bedeutet hier: eine GPU wäre vollständig beschäftigt. 150 % braucht mehr als eine GPU. Der Rechner vergleicht dieselbe angenommene Rechenleistung auf beiden Seiten.

Eigene Hardware muss genug Kapazität für die stärkste Stunde haben. Brauchst du im Schnitt 30 % einer GPU, zahlst du trotzdem den ganzen Kaufpreis. Wenn die Spitze über 100 % steigt, kommt in diesem Beispiel ein zweites System dazu. Auch im Leerlauf fallen Strom und Betriebskosten an.

Bei aktiver Rechenzeit kosten gebündelte Jobs nur die benötigten GPU-Stunden. Bei einer dauerhaft laufenden Cloud-Instanz zahlst du auch nachts. Im Rechner kannst du zwischen diesen Annahmen umschalten. Automatische Skalierung, Mindestabrechnung, Ladezeiten und Latenz müssen in einem echten Angebot separat geprüft werden.

Kaufkosten werden im Rechner über den gewählten Zeitraum verteilt. Dazu kommen Strom und monatliche Wartung. Für Strom zählen Arbeitsleistung und Leerlauf getrennt. Bei Miete werden GPU-Stunden mit dem Stundenpreis multipliziert. Der Amortisationspunkt vergleicht den einmaligen Kauf mit der Differenz zwischen Miete und laufendem Eigenbetrieb.

Die Regler sind Beispielannahmen, keine aktuellen Anbieterangebote. Hardware-Leistung hängt vom Modell, der Präzision, dem Speicher, der Batch-Größe und den Anforderungen an die Antwortzeit ab. Zusätzlich zählen Datenschutz, Verfügbarkeit, Personal, Netzwerke und Wartung. Verwende für eine konkrete Entscheidung eigene Messungen und Preise.