AuloryYour AI Learning Hub

Das KI-Vokabular · 06 Own Your AI

Was ist Self-Hosting?

KI-Modelle oder Tools auf Infrastruktur betreiben, die du kontrollierst, statt den Dienst eines anderen zu nutzen.

Profi

Self-Hosting heißt, dass du die Software selbst betreibst: auf deinen eigenen Servern, in deinem eigenen Cloud-Account oder in einem Rechenzentrum deiner Wahl. Bei KI bedeutet das meist, ein Open-Weight-Modell mit einem Inferenz-Server zu betreiben, manchmal zusammen mit einer selbst gehosteten Chat-Oberfläche oder Vektordatenbank.

Es liegt zwischen der Nutzung eines Anbieterdienstes und lokaler KI auf einem einzelnen Laptop. Du bekommst Kontrolle über Datenstandort, Versionen und Zugriffe und übernimmst dafür die Arbeit: Hardware- oder GPU-Kosten, Sicherheit, Updates, Monitoring.

Warum es für dich wichtig ist

Self-Hosting lohnt einen Blick, wenn Daten deine Infrastruktur nicht verlassen dürfen, wenn die Nutzung so hoch und planbar ist, dass Fixkosten günstiger sind als Gebühren pro Token, oder wenn du eine Modellversion brauchst, die sich nie ändert.

Own it

Du musst nicht alles selbst hosten. Ein praktisches Setup: ein Anbieter für den Großteil der Arbeit und ein selbst gehostetes Modell für den sensiblen Teil. Schon ein kleiner Proof of Concept zeigt deinem Team und deinen Kunden, dass du nicht von einer einzigen Firma abhängst.

Woher es kommt

Self-Hosting ist eher eine Praxis aus der Community als ein gezielt geprägter Begriff. Es wuchs, als virtuelle Server und Cloud Computing den Betrieb eigener Dienste erschwinglich machten und freie Open-Source-Software Alternativen für Dateien, Passwörter, Medien und vieles mehr bot. Eine lebendige Hobby-Community teilt heute Anleitungen und Tools, und KI-Modelle selbst zu betreiben ist ihr neuestes Kapitel. Wikipedia: Self-hosting

Verwandt

Lokale KIOpen-Weight-ModellDatensouveränitätQuantisierungInferenz

Your AI Learning Hub

Lern das ganze KI-Vokabular, Schritt für Schritt, und bau damit. Build it. Own it.