Das KI-Vokabular · 03 Mit KI arbeiten
Was ist Embeddings?
Text, umgewandelt in Zahlenlisten, die seine Bedeutung erfassen. Die Grundlage für semantische Suche und RAG.
Ein Embedding ist eine Liste von Zahlen, die die Bedeutung eines Textstücks darstellt. Texte mit ähnlicher Bedeutung bekommen ähnliche Zahlen, auch wenn sie andere Wörter verwenden: „meinen Vertrag kündigen“ und „wie beende ich mein Abo“ landen nah beieinander.
Das macht eine Suche nach Bedeutung möglich. Dokumente werden einmal in Embeddings umgewandelt und gespeichert, oft in einer sogenannten Vektordatenbank. Eine Frage wird ebenfalls umgewandelt, und die passendsten Textstellen werden gefunden. Das ist der Suchschritt von RAG.
Warum es für dich wichtig ist
Wenn deine KI-Suche die falschen Dokumente findet, lohnt sich ein Blick auf die Embeddings und darauf, wie die Dokumente in Stücke geteilt wurden. Eine gute Suche ist oft der unsichtbare Unterschied zwischen einem nützlichen Wissensassistenten und einem frustrierenden.
Own it
Embeddings werden aus deinen Daten erzeugt. Wisse, wo sie gespeichert sind, wer sie hostet und ob du sie exportieren und bei einem anderen Anbieter neu aufbauen kannst.
Woher es kommt
Die Idee stammt aus der Linguistik: In den 1950er-Jahren vertrat J. R. Firth die These, dass man ein Wort an den Wörtern erkennt, mit denen es vorkommt, ein Prinzip, das als distributionelle Semantik bekannt ist. Neuronale Netze machten daraus Zahlen. Googles word2vec machte Wort-Embeddings 2013 schnell und berühmt, inklusive des viel zitierten Beispiels, dass König minus Mann plus Frau nahe bei Königin landet (Mikolov et al.).
Verwandt
Your AI Learning Hub
Lern das ganze KI-Vokabular, Schritt für Schritt, und bau damit. Build it. Own it.