Hybrid Search erklärt: Warum zwei Suchen mehr finden als eine

Zwei Fragen an denselben Assistenten. Erst: „Maschine wird zu heiß“. Dann: „E-217“. Die erste findet eine Vektorsuche mühelos, weil der Artikel „Lagertemperatur zu hoch“ dasselbe meint. Die zweite findet sie oft nicht, weil „E-217“ für ein Embedding kaum mehr als eine Zeichenkette ist. Bei einer Stichwortsuche ist es genau umgekehrt. Wer nur eine der beiden Suchen betreibt, hat also eine Sorte Fragen, die ins Leere läuft.

Das ist der vierte Teil der Reihe über RAG. Nach den Embeddings geht es um die Lösung für dieses Problem: Hybrid Search.

Warum du das brauchst

Im Alltag eines Servicetechnikers kommen beide Sorten Fragen vor. Er fragt nach Störcodes und Teilenummern, wo es auf die exakte Zeichenkette ankommt. Und er fragt in eigenen Worten, wo es auf die Bedeutung ankommt. Eine Suche, die nur eines kann, enttäuscht ihn bei einem Teil seiner Fragen, und er lernt schnell, dem Assistenten nicht mehr zu trauen.

Hybrid Search lässt beide Suchen parallel laufen und führt die Ergebnislisten zu einer zusammen. Dadurch kann jede Suche die blinden Flecken der anderen ausgleichen.

Wie es funktioniert

Die beiden Suchen haben unterschiedliche Stärken:

BM25 zählt die Suchwörter in einem Chunk (jedes weitere Vorkommen bringt weniger), gewichtet seltene Wörter höher als häufige und gleicht die Länge des Chunks teilweise aus. Ein Wort wie „E-217“, das nur in einem Artikel steht, wiegt dadurch schwer.

Zum Verschmelzen gibt es zwei gängige Wege. Die gewichtete Summe normalisiert beide Scores auf 0 bis 1 und rechnet α · semantisch + (1 − α) · stichwort. Das ist anschaulich, aber empfindlich, weil BM25 keine feste Skala hat. Die Reciprocal Rank Fusion (RRF) ignoriert die Scores und nutzt nur die Platzierungen:

RRF(d) = Σ 1 / (k + rang(d)) mit k = 60

Ein Dokument, das in beiden Listen weit vorn steht, sammelt zwei große Beiträge. Im Originalpaper (Cormack, Clarke und Büttcher, 2009) lieferte RRF durchweg bessere Ergebnisse als die einzelnen Systeme und als das Vergleichsverfahren Condorcet Fuse. Der Wert k = 60 wurde dort in Vorversuchen festgelegt, war nahezu optimal und nicht kritisch. Das macht RRF robust und wenig aufwendig im Tuning. Azure AI Search nutzt RRF bei Hybridabfragen automatisch, Elasticsearch und OpenSearch bieten sie ebenfalls an, jeweils mit 60 als Vorgabewert.

Das Labor startet bei „E-217“ im Modus Stichwort. Schalte dann auf Vektor und Hybrid und schau, was in den Prompt wandert und ob die richtige Quelle dabei ist. Die Balken zeigen dir pro Artikel, wie die beiden Suchen ihn bewerten.

Die interessanteste Frage ist „Dichtung GD-4711 nachbestellen“. Die Stichwortsuche setzt die Anleitung zum Dichtungstausch vor die Bestellanleitung, die Vektorsuche die Gewährleistung. Die gesuchte Bestellanleitung (D4) steht in beiden Listen auf Platz 2, und in der Hybridsuche rutscht sie auf Platz 1. Kein Einzelergebnis hätte das geschafft.

Worauf du achten solltest

• Beide Suchen laufen lassen. Eine reine Vektorsuche verpasst leicht Codes und Teilenummern, eine reine Stichwortsuche Umschreibungen. Teste mit beiden Sorten Fragen.
• RRF als Start. Wenn du nicht weißt, wie du die Scores gewichten sollst, nimm RRF. Sie hängt nur an den Rängen und überlebt, dass BM25-Werte keine feste Skala haben.
• Gewichtung bewusst wählen. Bei der gewichteten Summe entscheidet α, wie viel die Vektorsuche zählt. Verschiebe den Regler im Labor und beobachte, wie sich die Reihenfolge ändert.
• Fehlende Treffer bleiben fehlende Treffer. Findet keine der beiden Suchen etwas, hilft auch die Fusion nicht. Bei Fragen ohne passenden Artikel sollte das Modell sagen, dass die Quellen nicht reichen.
• Hybrid ist nicht automatisch richtig. Bei „Techniker zum Kunden schicken“ stehen auch in der Hybridsuche Fernwartung vor Einsatz vor Ort. Warum, und was dagegen hilft, ist Thema des nächsten Teils.

Fazit

Stichwortsuche findet, was dasteht, Vektorsuche findet, was gemeint ist. Hybrid Search nutzt beide und fasst sie mit RRF oder einer gewichteten Summe zusammen. Das fängt viele Fehler ab, aber nicht alle: Die richtige Quelle landet oft im Kandidatenfeld, steht aber nicht ganz vorn. Wie du die besten Treffer nach vorn bringst, zeigt der nächste Teil: Reranking erklärt.

Quellen

• Cormack, Clarke und Büttcher: Reciprocal Rank Fusion outperforms Condorcet and individual Rank Learning Methods (2009), RRF-Formel, k = 60, Vergleich mit Condorcet Fuse
• Microsoft: Hybrid Search Scoring (RRF), Azure AI Search (2026), RRF bei Hybridabfragen, Konstante k, BM25-Scores ohne Obergrenze
• Elastic: Reciprocal rank fusion (Elasticsearch) (Stand 2026), RRF-Formel, rank_constant mit Vorgabe 60
• OpenSearch: Score ranker processor (Stand 2026), RRF für Hybrid-Abfragen, rank_constant mit Vorgabe 60
• Microsoft: BM25 Relevance Scoring, Azure AI Search (2026), Termhäufigkeit und Seltenheit eines Begriffs im Index
• Microsoft: Configure BM25 Relevance Scoring, Azure AI Search (2026), Parameter k1 (Termhäufigkeit) und b (Dokumentlänge)