Wo deine KI-Antwort entsteht

Unser Beispiel ist eine Chatfrage: „Erkläre mir, warum der Import einer leeren Datei scheitert.“ Die Anwendung schickt diese Frage mit dem notwendigen Gesprächskontext an einen Dienst. Auf dem Bildschirm sieht es wie eine einzelne Handlung aus. Hinter der Oberfläche sind mehrere Systeme beteiligt.

Die folgende Reise ist ein vereinfachtes Beispiel einer cloudbasierten KI-Anwendung, keine Landkarte eines bestimmten Anbieters. Manche Modelle laufen lokal, manche Systeme verteilen die Arbeit anders. Eine Cloud ist keine körperlose Rechenleistung: Irgendwo stehen die beteiligten Rechner.

1. Anwendung: Bekommt deine Frage und erlaubten Kontext. Stellt daraus eine Anfrage zusammen und schickt sie zum Dienst.
2. Dienst: Bekommt Anfrage und Zugangsberechtigung. Prüft und vermittelt den Auftrag; weiter geht der Modellinput.
3. Rechensystem: Bekommt Modellinput und geladene Parameter. Berechnet die Fortsetzung; heraus kommen Antwortteile.
4. Anwendung: Bekommt die Antwortteile und zeigt sie an. Das Ergebnis ist eine Antwort, die du prüfen kannst.

Zuerst müssen die Daten ankommen. Netzwerkgeräte transportieren die Anfrage zwischen Geräten und Diensten. Im Rechenzentrum verbinden sie Server, Speicher und Rechenknoten. Ein Server ist zunächst ein Computer, der eine Aufgabe für andere Geräte oder Programme übernimmt.

In unserer Beispielanwendung prüft ein vorgeschalteter Dienst, ob die Anfrage zugelassen ist und wohin sie weitergeleitet werden soll. Bei vielen gleichzeitigen Anfragen muss das System freie Kapazität, Warteschlangen und den gewünschten Modellzugriff koordinieren. Diese Verwaltung ist Arbeit, bevor die erste sichtbare Antwort entsteht.

Stell dir eine Restaurantküche vor: Eine Bestellung muss angenommen und einer Arbeitsstation zugeteilt werden. Eine größere Küche hilft wenig, wenn Bestellungen in der falschen Warteschlange liegen. Das ist eine Analogie für Verteilung und Wartezeit, keine Behauptung über einen konkreten KI-Anbieter.

Das Modell hat im Training viele numerische Parameter erhalten. Für die laufende Anfrage benutzt das Rechensystem diese Parameter, um eine Antwort zu berechnen. Die Frage wird dafür in Tokens zerlegt: Einheiten, die je nach Modell Wörter, Wortteile oder andere Zeichenfolgen abbilden. Ein Token ist nicht immer ein ganzes Wort.

Bei einem verbreiteten autoregressiven Sprachmodell gibt es zwei wichtige Phasen: Prefill verarbeitet den vorhandenen Input; Decode erzeugt die Fortsetzung schrittweise. GPUs sind Beschleuniger, die viele numerische Operationen parallel ausführen können. Rechenleistung allein entscheidet trotzdem nicht über das Tempo; auch das Bewegen der benötigten Daten im Speicher zählt. Technischer Ablauf.

Unsere Importfrage kann deshalb unterschiedlich lange dauern: Der Input enthält vielleicht nur einen kurzen Fehlertext — oder zusätzlich ein großes Codeprojekt. Danach soll eine knappe Erklärung entstehen oder eine lange Lösung mit Beispielen. „Eine Anfrage“ ist noch keine feste Menge Rechenarbeit.

Während die Antwort entsteht, werden Zwischeninformationen benötigt. Ein KV-Cache bewahrt bestimmte bereits berechnete Informationen zu vorherigen Tokens auf. Dadurch muss das System sie nicht bei jedem neuen Schritt vollständig neu erzeugen. Dieser Cache ist kein Beweisarchiv und keine dauerhafte persönliche Erinnerung: Er dient der aktuellen Berechnung. Wie dieser Cache funktioniert.

Ein längerer Kontext oder mehr gleichzeitig bearbeitete Gespräche kann den Speicherbedarf verändern. Im vereinfachten Ablauf stehen also zwei Fragen nebeneinander: Wie viel kann der Chip rechnen — und wie schnell gelangen die passenden Daten zu ihm?

Auch mehrere Rechenknoten müssen sich gegebenenfalls austauschen. Große Zahlen für einen einzelnen Chip erzählen daher nicht die ganze Geschichte eines Dienstes. Rechner, Speicher, Verbindung und die Software zur Verteilung müssen zusammenpassen.

Diese Geräte brauchen elektrische Energie. Im Betrieb entsteht Wärme, die abgeführt werden muss. Ein Rechenzentrum enthält deshalb mehr als Rechenchips: Stromversorgung, Netzwerk, Speicher und Systeme zur Temperaturkontrolle gehören dazu. Die IEA trennt diese Bestandteile ausdrücklich in ihrer Energiebetrachtung. Komponenten des Rechenzentrums.

Leistung beschreibt die momentane Rate des Energieeinsatzes, beispielsweise in Kilowatt. Energie beschreibt den Einsatz über einen Zeitraum, beispielsweise in Kilowattstunden. Eine größere Anschlussleistung ist damit noch kein gemessener Jahresverbrauch.

Auch Wasser und CO₂e sind andere Größen. Für die Klimawirkung zählt unter anderem, wie der Strom erzeugt wird und welche Systemgrenzen berücksichtigt werden. Für Wasser zählt das jeweilige Kühlverfahren und der lokale Kontext. Man kann diese Größen nicht aus der sichtbaren Länge eines Chattexts ableiten.

Power Usage Effectiveness, kurz PUE, setzt die Energie des gesamten Rechenzentrums ins Verhältnis zur Energie seiner IT-Geräte: PUE = Gesamtenergie ÷ IT-Energie, für denselben betrachteten Zeitraum und dieselbe Grenze. Die Kennzahl hilft zu erkennen, wie viel zusätzliche Infrastrukturenergie neben der IT anfällt. Definition und Messumfang.

Eine bessere PUE bedeutet nicht automatisch, dass ein Modell pro Antwort weniger IT-Energie braucht. Auch Strommix, Wasserbedarf oder die Qualität der Antwort stehen nicht in diesem Verhältnis. Bei unbekannter IT-Energie oder unpassenden Messgrenzen liefert die Formel keine belastbare Antwort.

Für Energie pro Chatfrage brauchen wir zusätzlich eine gemessene oder nachvollziehbar modellierte Zuordnung geteilter Ressourcen: Modell, Input, Output, Hardware, Auslastung, Cache-Nutzung und Zeit. Fehlen diese Daten, ist der Wert unbekannt. Er wird weder zu null noch durch eine scheinbar exakte universelle Zahl ersetzt.

Die Infrastrukturfrage endet nicht beim Kauf eines Beschleunigers. Neue Server brauchen passende Stromanschlüsse, Kühlung und Netzverbindungen. Gemeinsam genutzte Systeme müssen viele Aufträge zuverlässig koordinieren. Eine Kapazitätsankündigung ist deshalb noch keine laufende Anlage.

Zwei Meldungen vom 12. Oktober 2026 illustrieren diese Unterscheidung. AMD stellte Helion als offenen Rack-Bauplan vor; Partnerkonfigurationen waren für November geplant. NVIDIA und Cisco kündigten USFP als geplantes optisches Modulformat an. Beide Meldungen betreffen Infrastrukturentwürfe, keine von uns gemessene fertige Rechenzentrumsflotte. AMD-Ankündigung, NVIDIA/Cisco-Ankündigung.

Ein leistungsfähigeres Modell, mehr gleichzeitige Nutzer und längere Agentenaufträge stellen verschiedene Anforderungen. Ein Agent kann außerdem viele Modellaufrufe und Werkzeugschritte ausführen. Eine abgeschlossene Arbeitseinheit ist dann nicht mit einer einzelnen Chatantwort gleichzusetzen.

In unserem Beispiel kommen die berechneten Textteile zurück zur Anwendung. Du liest eine Erklärung des Importfehlers. Ob diese Erklärung stimmt, musst du anhand des Codes und passender Tests prüfen. Der physische Rechenweg verleiht dem Inhalt keine automatische Wahrheit.

Du kennst jetzt die Reise hinter Enter: Anfrage annehmen → Arbeit verteilen → Input verarbeiten → Antwort erzeugen → Daten zurückschicken. Strom und Wärme begleiten die beteiligten Geräte; Netzwerk und Speicher verbinden die Schritte.

Wenn du die nächste Zahl zu KI-Infrastruktur siehst, frage: Ist sie eine Spezifikation, eine geplante Kapazität oder eine Messung? Welchen Zeitraum und welche Geräte umfasst sie? Und beschreibt sie einen ganzen Standort, ein System — oder wirklich einen einzelnen Auftrag?