Das KI-Vokabular · 06 Own Your AI
Was ist Lokale KI?
Ein Modell auf deinem eigenen Laptop oder Server betreiben. Nichts verlässt das Gerät, dafür passen nur kleinere Modelle.
Lokale KI bedeutet, dass das Modell auf Hardware läuft, die du kontrollierst, auf einem Laptop, einer Workstation oder einem Firmenserver, statt in der Cloud eines Anbieters. Kostenlose Tools wie Ollama oder LM Studio machen es möglich, ein Open-Weight-Modell herunterzuladen und innerhalb von Minuten offline damit zu chatten.
Der Kompromiss ist die Größe. Die Modelle, die auf normaler Hardware laufen, sind kleiner als die Frontier-Modelle in der Cloud und bei den schwierigsten Aufgaben schwächer. Für viele Routinearbeiten wie Zusammenfassen, Umformulieren, Klassifizieren und Extrahieren reichen sie oft völlig aus.
Warum es für dich wichtig ist
Lokale KI ist eine Option, wenn Daten das Haus nicht verlassen dürfen, wenn es kein zuverlässiges Internet gibt oder wenn du planbare Kosten ohne Gebühren pro Token willst.
Own it
Das ist Besitz in seiner wörtlichsten Form: dein Modell, deine Hardware, deine Daten, kein Account nötig. Auch wenn du es nicht täglich nutzt: Probier es einmal aus, und du siehst, dass KI nicht von einer einzigen Firma abhängen muss.
Woher es kommt
KI zu Hause laufen zu lassen, hat einen klaren Wendepunkt. Im März 2023 veröffentlichte Georgi Gerganov llama.cpp, mit dem Metas LLaMA-Modelle auf einem ganz normalen MacBook liefen, und innerhalb weniger Tage chatteten Menschen offline mit großen Sprachmodellen. Simon Willison dokumentierte im selben Monat, wie er LLaMA auf seinem M2 MacBook zum Laufen brachte. Tools wie Ollama und LM Studio machten daraus später ein paar Klicks.
Verwandt
Your AI Learning Hub
Lern das ganze KI-Vokabular, Schritt für Schritt, und bau damit. Build it. Own it.