Das KI-Vokabular · 02 KI-Infrastruktur

Was ist GPU?

Ein Grafikprozessor: ein Chip, der Tausende einfache Rechnungen gleichzeitig ausführt und dadurch zum Arbeitstier der KI wurde.

Einstieg

Eine GPU, Graphics Processing Unit oder Grafikprozessor, wurde gebaut, um Bilder auf Bildschirme zu bringen. Dafür muss sie dieselbe einfache Rechnung für Millionen Pixel gleichzeitig machen. Genau das braucht das Training neuronaler Netze: riesige Mengen an Multiplikationen, die parallel laufen können.

Eine CPU, der Hauptprozessor in jedem Computer, ist eine Generalistin, die viele verschiedene Aufgaben gut erledigt. Eine GPU ist weniger flexibel, kann aber weit mehr Rechnungen gleichzeitig ausführen. Laut dem Forschungszentrum CSET der Georgetown University dominierten GPUs ab etwa 2017 das KI-Training.

GPUs sind heute so zentral, dass sie als Maßeinheit dienen. Epoch AI zählt die Kapazität von Rechenzentren in „H100-Äquivalenten“, benannt nach einer Rechenzentrums-GPU von NVIDIA.

Warum es für dich wichtig ist

Wenn du von Chipknappheit, Exportkontrollen oder Milliardenrunden für KI-Firmen hörst, geht es meist um GPUs und andere KI-Chips. Ihr Preis und ihre Verfügbarkeit fließen direkt in das, was du für KI bezahlst.

Own it

Um kleine oder Open-Weight-Modelle selbst zu betreiben, kann eine einzige gute GPU reichen, oder ein Laptop mit starkem Grafikchip. Prüf, was das Modell braucht, bevor du Hardware oder Cloud-Kapazität kaufst.

Verwandt