Das KI-Vokabular · 02 KI-Infrastruktur

Was ist Compute?

Die Rechenleistung samt Chips und Software dahinter, die KI fürs Training und für den Betrieb braucht.

Einstieg

In der KI meint „Compute“ Rechenleistung zusammen mit der Hardware und Software, die sie liefern. Das Wort wird auf zwei Arten verwendet: für die Kapazität von Chips und Rechenzentren und für die Menge an Rechenarbeit, die in das Training eines Modells geflossen ist.

Diese Menge wird in FLOP gezählt, Gleitkommaoperationen: einzelne Rechenschritte mit Dezimalzahlen. Ein großes Modell zu trainieren, braucht unvorstellbar viele davon. Auch die KI-Verordnung nutzt dieses Maß: Bei einem Modell mit allgemeinem Verwendungszweck, das mit mehr als 10^25 FLOP trainiert wurde, wird systemisches Risiko vermutet.

Compute ist konzentriert. Epoch AI schätzte, dass 13 große Rechenzentren in den USA Ende 2025 etwa 2,5 Millionen Chips mit der Leistung von NVIDIAs H100 hatten, rund 15 Prozent der etwa 15 Millionen weltweit ausgelieferten.

Warum es für dich wichtig ist

Compute ist der Rohstoff der KI und einer ihrer größten Kostenpunkte. Er erklärt, warum Training wenigen Unternehmen vorbehalten ist, warum sich die Preise für Inferenz ständig ändern und warum der Zugang zu Chips eine Frage wirtschaftlicher und politischer Macht geworden ist.

Own it

Du kaufst Compute jedes Mal, wenn du KI nutzt, meist versteckt in einem Abo oder einem Preis pro Token. Wisse ungefähr, was deine Anwendungen kosten und wo sie laufen. Das ist die Grundlage für jede Entscheidung zwischen Cloud, Self-Hosting und kleineren Modellen.

Verwandt