Der KI-Stack, Schicht für Schicht

KI läuft auf Strom: Jede Antwort entsteht durch Inferenz auf Chips, die Strom in Wärme verwandeln, darum braucht ein Rechenzentrum einen Netzanschluss, Kühlung und oft Wasser. 2025 verbrauchten Rechenzentren weltweit rund 485 TWh, etwa 1,5 % des globalen Stroms, für 2030 erwartet die IEA rund 950 TWh. Jede einzelne Anfrage wird effizienter, der Gesamtverbrauch steigt trotzdem, ein Rebound-Effekt. In vielen Regionen bestimmen Wartezeiten von 5 bis 10 Jahren auf einen Netzanschluss inzwischen das Tempo des KI-Ausbaus.

Tippe auf einen unterstrichenen Begriff für eine kurze Erklärung.

KI rechnet mit riesigen Zahlentabellen. Eine GPU oder ein anderer KI-Chip erledigt Tausende dieser Rechnungen gleichzeitig, für das Training wie für die Inferenz. Genauso wichtig ist der Speicher: HBM liefert die Daten schnell genug nach. Die modernsten Chips fertigen wenige Foundries, allen voran TSMC in Taiwan, aus Rohstoffen, die oft aus wenigen Ländern kommen.

Tippe auf einen unterstrichenen Begriff für eine kurze Erklärung.

Ein Rechenzentrum macht aus Strom Rechenleistung: Tausende GPUs mit Flüssigkeitskühlung und schnellem Interconnect arbeiten wie eine einzige Maschine. Die weltweite Kapazität liegt 2026 je nach Zählweise bei rund 103 bis 161 GW. Die meisten Firmen mieten diese Leistung über Cloud Computing bei Hyperscalern und Neoclouds oder nutzen ein Modell per API. Diese Wahl bestimmt Kosten, Datenresidenz und Abhängigkeit.

Tippe auf einen unterstrichenen Begriff für eine kurze Erklärung.

Modelle lernen aus Trainingsdaten, gezählt in Tokens: einem gefilterten Web-Crawl, Büchern, Code und zunehmend synthetischen Daten. Offene Modelle nennen 15 bis 36 Bio. Tokens fürs Vortraining, und sorgfältiges Filtern mit Deduplizierung verbessert die Ergebnisse deutlich. Im Nachtraining bewerten Menschen Antworten per RLHF, eine Datenarbeit, die je nach Land mit Cents pro Aufgabe bis 50 $ pro Stunde bezahlt wird. Was genutzt werden darf, klären Gerichte, Lizenzen und Signale wie die robots.txt.

Tippe auf einen unterstrichenen Begriff für eine kurze Erklärung.

Ein Modell ist eine riesige Sammlung gelernter Zahlen, der Parameter, meist angeordnet als Transformer, der Tokens liest und schreibt. Es lernt im Vortraining, das nächste Token vorherzusagen, und wird im Nachtraining mit menschlichem Feedback und prüfbaren Aufgaben geformt; Reasoning-Modelle nutzen zusätzlich Rechenleistung beim Antworten. Geschlossene Modelle nutzt du per API, Open-Weight-Modelle lassen sich herunterladen und liegen etwa vier Monate hinter der geschlossenen Spitze. Wegen Halluzinationen und kontaminierter Benchmarks wählst du mit eigenen Evals.

Tippe auf einen unterstrichenen Begriff für eine kurze Erklärung.

Ein KI-Agent ist ein Sprachmodell, das Werkzeuge in einer Schleife aufruft, bis ein Ziel erreicht ist. Diese Schicht macht Agenten im Unternehmen steuerbar: Orchestrierung, Anschlüsse über MCP und A2A, Evals, menschliche Freigaben und für jeden Agenten eine Identität mit begrenzten Berechtigungen. Prompt Injection ist ungelöst, darum muss die Architektur den möglichen Schaden begrenzen. Laut McKinsey skalieren 40 % der großen Firmen bereits Agenten, in einer Umfrage von Gartner halten nur 13 % der Firmen ihre Governance dafür für ausreichend.

Tippe auf einen unterstrichenen Begriff für eine kurze Erklärung.

Eine Anwendung ist das Produkt, das Menschen nutzen, das Modell ist der Motor darin. Um das Modell herum bauen gute Anwendungen einen System-Prompt, Kontext, Retrieval eigener Daten, Werkzeuge, Guardrails und Evals. Mitte 2026 nutzten 18,8 % der Menschen im erwerbsfähigen Alter weltweit generative KI, amtliche Statistiken in der EU und den USA zählen etwa jede fünfte Firma. Die KI-Verordnung der EU gibt Anbietern und Betreibern jeweils eigene Pflichten.

Tippe auf einen unterstrichenen Begriff für eine kurze Erklärung.