Embedding Gemma: Lokale KI-Suche in zehn Minuten

Embedding Gemma erweitert die einfache Stichwortsuche und bezieht Kontext mit ein. Wir erklären an zwei Beispielprojekten, wie das funktioniert.

20. November 2025 um 13:30 Uhr / Eine Anleitung von Antony Ghiroz

Embeddings sind wie eine Welt voller Vektoren. Bild: geralt/Pixabay

Eine semantische Suche durch sogenannte Text-Embeddings kann eine hilfreiche Sache sein. Damit können Dokumente nicht mehr nur mit Strg+F durchsucht werden, das nur exakte Wörter findet. Vielmehr kann eine Frage im Klartext gestellt werden und die KI findet die inhaltlich passende Stelle, auch wenn die Wörter völlig anders sind.

Text-Embeddings sind das Fundament, auf dem große Sprachmodelle (LLMs) wie ChatGPT aufgebaut sind. Zugleich sind sie ein praktisches Werkzeug, das wir separat für unsere eigene, lokale Suche nutzen können. Mit Googles neuem Modell Embedding Gemma (Eigenschreibweise: EmbeddingGemma) kann das jeder auf dem eigenen Laptop umsetzen: datenschutzfreundlich, offline und erstaunlich leistungsstark. Dieser Artikel erklärt die Grundlagen bis hin zu einer eigenen, interaktiven Such-App.