> Reranker im Oktober 2026: pointwise, listwise und Late Interaction, Cohere, Voyage, bge, Qwen3, Jina und mxbai, Preise, Self-Hosting und die Wahl von k.
>
> Web page: https://balazscsorba.com/de/blog/reranking-models-compared · Language: Deutsch · Also available in: [English](https://balazscsorba.com/blog/reranking-models-compared.md) · [Magyar](https://balazscsorba.com/hu/blog/reranking-models-compared.md)
> Author: Balázs Csorba · Published: 2026-09-30 · Updated: 2026-10-01 · Keywords: cross-encoder reranker comparison, Cohere Rerank 4 pricing, bge-reranker-v2-m3, Voyage rerank-3, Jina reranker v3.5, ColBERT late interaction vs reranker, LLM as reranker, reciprocal rank fusion vs reranker, reranking top-k evaluation, self-hosted reranker ONNX CPU

[Blog](https://balazscsorba.com/de/blog)/Retrieval & Suche

# Cross-Encoder-Reranker im Vergleich: Cohere, bge, Voyage, Jina und Late Interaction (2026)

Reranker im Oktober 2026: pointwise, listwise und Late Interaction, Cohere, Voyage, bge, Qwen3, Jina und mxbai, Preise, Self-Hosting und die Wahl von k.

[Balázs Csorba](https://balazscsorba.com/de/about)·30\. September 2026·aktualisiert 1\. Oktober 2026·8 Min. Lesezeit

-   Reranking
-   RAG
-   Search
-   Cross-encoders
-   Evaluation

![Ein Trichter verengt viele Karten auf fünf, eine Karte wird nach vorn gehoben.](https://balazscsorba.com/images/blog/reranking-models-compared/cover.webp?v=6c51704102)

## Das Wichtigste in Kürze

-   Ein Reranker bewertet Anfrage und Dokument gemeinsam, das ist genau, aber zu langsam für den ganzen Korpus, daher ordnet er die Top-k einer schnellen ersten Stufe neu.
-   Drei Architekturen konkurrieren: pointwise Cross-Encoder, listwise Reranker, die alle Kandidaten auf einmal lesen, und Late Interaction mit gespeicherten Token-Vektoren; RRF braucht gar kein Modell.
-   Stand Oktober 2026 rechnet Cohere pro Suche ab ($2,00 bis $2,50 pro 1.000) und Voyage pro Token ($0,02 bis $0,05 pro Million); offene Modelle wie bge-reranker-v2-m3 und Qwen3-Reranker stehen unter Apache-2.0.
-   Die zusätzliche Latenz wächst linear mit k; starten Sie bei einem Herstellerstandard wie Azures Top 50 und justieren Sie mit einer kleinen gelabelten Evaluierung, nicht mit Ranglisten.
-   Benchmark-Angaben der Anbieter sind nicht unabhängig; eine Evaluierung mit 50 Anfragen auf Ihren Daten entscheidet über Modell, k und darüber, ob Sie überhaupt einen Reranker brauchen.

Auf dieser Seite

1.  [Was ein Reranker bringt und was er kostet](https://balazscsorba.com/#what-a-reranker-buys)
2.  [Wie Reranker bewerten: Paare, Listen und Token-Vektoren](https://balazscsorba.com/#pointwise-listwise-late-interaction)
3.  [Die Modelle 2026](https://balazscsorba.com/#models-compared-2026)
4.  [Preise: pro Suche, pro Token oder die eigene CPU](https://balazscsorba.com/#pricing-and-self-hosting)
5.  [Late Interaction als Alternative](https://balazscsorba.com/#late-interaction-alternatives)
6.  [LLM-Reranker und wann RRF allein reicht](https://balazscsorba.com/#llm-as-reranker-and-rrf)
7.  [k und Modell mit einer kleinen Evaluierung wählen](https://balazscsorba.com/#choosing-k-and-evaluating)
8.  [Wann kein Reranker nötig ist, und eine Checkliste](https://balazscsorba.com/#trade-offs-and-checklist)
9.  [Quellen](https://balazscsorba.com/#sources)

Diesen Artikel anhören

0:000:00

Ein **Reranker** liest eine Anfrage und ein Kandidatendokument gemeinsam und liefert einen Relevanzwert. Das ist genauer als der Vergleich zweier Embeddings und viel zu langsam für einen ganzen Korpus. Deshalb ist Suche zweistufig: Ein schneller Retriever findet 50 bis 250 Kandidaten, und ein Cross-Encoder ordnet sie neu, damit die besten wenigen beim Modell ankommen. Zu entscheiden ist, welcher Reranker, wie viele Kandidaten und ob der Gewinn die Latenz wert ist.

Dieser Artikel vergleicht die Bewertungsarchitekturen, die Modelle Stand Oktober 2026, gehostete Preise und Self-Hosting, Late Interaction und LLM-Reranker als Alternativen sowie eine kleine Evaluierung zur Wahl von k. Wo Reranking in der gesamten Pipeline sitzt, steht in [RAG-Pipelines: Chunking, hybride Suche und Reranking](https://balazscsorba.com/de/blog/rag-pipeline-chunking-hybrid-search-reranking).

## Was ein Reranker bringt und was er kostet

Ein Reranker bringt Präzision an der Spitze der Liste und kostet Latenz proportional zu k. Warum er die Suche nicht ersetzen kann, ist Arithmetik: Das Sentence-BERT-Paper hält fest, dass das ähnlichste Paar unter 10.000 Sätzen etwa 50 Millionen BERT-Inferenzen braucht, rund 65 Stunden, was es „für semantische Ähnlichkeitssuche ungeeignet“ macht ([SBERT](https://arxiv.org/abs/1908.10084)). Die dokumentierte Produktionsform ist daher ein Bi-Encoder, der Kandidaten findet, und ein Cross-Encoder, der sie neu ordnet ([Sentence Transformers](https://sbert.net/examples/sentence_transformer/applications/retrieve_rerank/README.html)).

![Zweistufige Suche mit Reranker Fünf Schritte von links nach rechts: die Anfrage; hybride Suche mit BM25 und dichten Vektoren, die in einigen zehn Millisekunden 100 bis 250 Kandidaten liefert; Reciprocal Rank Fusion, die die Listen zusammenführt; der Cross-Encoder, der k Paare aus Anfrage und Dokument bewertet, die größte zusätzliche Latenz, die linear mit k wächst; und die Top 5 bis 20, die an die Antwort gehen.](https://balazscsorba.com/images/blog/reranking-models-compared/diagram-4.webp?v=52668e0c9c)

Die erste Stufe ist günstig und breit; der Reranker ist teuer und schmal, und seine Kosten bestimmt k.

Die zwei Zahlen, die man vorher kennen sollte, sind der Recall der ersten Stufe bei k und die zusätzliche Latenz für k Paare. Ist das richtige Dokument nicht in den Top 100, findet es kein Reranker; steht es auf Platz 30 und Sie zeigen fünf Treffer, ist ein Reranker genau die Lösung. Produktsuche mit Teilenummern und langen deutschen Komposita ist ein typischer Fall, in dem der richtige Artikel gefunden, aber zu tief eingeordnet wird, siehe [semantische Produktsuche im B2B](https://balazscsorba.com/de/blog/semantic-product-search-b2b).

Die zweite Zahl ist so wichtig wie die erste. Jeder Kandidat ist für ein pointwise Modell ein weiterer Durchlauf, der Schritt von 50 auf 200 Kandidaten vervierfacht also ungefähr die Reranking-Zeit. In einem interaktiven Suchfeld merkt der Nutzer das; bei einer RAG-Antwort, die ohnehin Sekunden auf die Generierung wartet, spielt es vielleicht keine Rolle. Halten Sie das Latenzbudget fest, bevor Sie Modelle vergleichen, denn es entscheidet, welche Hälfte der Tabelle unten überhaupt infrage kommt.

## Wie Reranker bewerten: Paare, Listen und Token-Vektoren

Es gibt drei Architekturen plus Fusion ohne Modell. Ein pointwise Cross-Encoder verkettet Anfrage und ein Dokument und gibt einen Relevanz-Logit aus, k Kandidaten bedeuten also k Durchläufe. Ein listwise Reranker legt Anfrage und alle Kandidaten in ein Kontextfenster und ordnet sie in einem Durchlauf. Late Interaction speichert beim Indexieren einen Vektor pro Token und gleicht Anfrage-Tokens per MaxSim dagegen ab, was den Großteil der Arbeit aus dem Anfragepfad verlagert.

![Vier Arten, Kandidaten zu bewerten Vier Spalten. Pointwise Cross-Encoder: Anfrage und ein Dokument werden verkettet, das Modell liefert einen Relevanzwert; gerechnet wird pro Paar zur Anfragezeit. Listwise Reranker: Anfrage und alle Kandidaten teilen sich einen langen Kontext; gerechnet wird einmal pro Liste zur Anfragezeit. Late Interaction: Token-Vektoren werden beim Indexieren gespeichert und zur Anfragezeit per MaxSim abgeglichen; die Rechenlast teilt sich auf Indexierung und Anfrage. RRF: nur Rangpositionen werden kombiniert; kein Modell läuft.](https://balazscsorba.com/images/blog/reranking-models-compared/diagram-9.webp?v=34e3be2220)

Cross-Encoder und listwise Reranker rechnen zur Anfragezeit, Late Interaction verlagert einen Teil ins Indexieren, und RRF rechnet fast gar nicht.

Jina Reranker v3 ist das deutlichste listwise Beispiel: ein 0.6B-Modell, das Anfrage und alle Kandidaten in einem Fenster liest, von Jina als „last but not late interaction“ beschrieben. Version 3.5 vom August 2026 behält 0.6B Parameter, erweitert den Kontext auf 131K Tokens und meldet bis zu 1,56-mal schnelleres Reranking als v3 ([Jina](https://jina.ai/news/jina-reranker-v3-5-faster-listwise-reranking-hybrid-attention-self-distillation/)). Listwise Modelle sehen die Kandidaten im Verhältnis zueinander, was bei Beinahe-Dubletten hilft, aber die ganze Liste muss in den Kontext passen.

## Die Modelle 2026

Stand Oktober 2026 sind die gehosteten Linien Cohere Rerank 4, im Dezember 2025 als `rerank-v4.0-pro` und `rerank-v4.0-fast` mit 32k Kontext erschienen, sowie Voyage `rerank-3` und `rerank-3-lite` vom 30. September 2026, ebenfalls mit 32k. Voyage meldet für rerank-3 2,72 Prozent mehr als Cohere Rerank 4 Pro über 95 Datensätze ([Voyage](https://blog.voyageai.com/2026/09/30/rerank-3/)); das ist eine Herstellerangabe auf einer Hersteller-Testreihe, kein unabhängiges Ergebnis. Die offenen Modelle sind für kommerzielles Self-Hosting lizenziert.

Modell (Okt. 2026)

Architektur

Größe / Kontext

Gehosteter Preis

Lizenz / Hinweise

Cohere Rerank 4 Pro

Cross-Encoder

32k

$2,50 / 1.000 Suchen

API, mehrsprachig

Cohere Rerank 4 Fast

Cross-Encoder

32k

$2,00 / 1.000 Suchen

API, niedrige Latenz

Voyage rerank-3

Cross-Encoder

32k

$0,05 / 1 Mio. Tokens

API, seit Sep. 2026

Voyage rerank-3-lite

Cross-Encoder

32k

$0,02 / 1 Mio. Tokens

API, günstige Stufe

bge-reranker-v2-m3

Cross-Encoder

0.6B / 8k

Self-Hosting

Apache-2.0

Qwen3-Reranker-8B

LLM-basierter Cross-Encoder

8B

Self-Hosting

Apache-2.0

Jina Reranker v3.5

listwise

0.6B / 131K

API oder Self-Hosting

Lizenz und Preis prüfen

mxbai-rerank-large-v2

Cross-Encoder

1.5B

Self-Hosting

Apache-2.0, über 100 Sprachen

ColBERTv2

Late Interaction

Token-Vektoren

Self-Hosting

speicherintensiver Index

RRF

Rangfusion

kein Modell

kostenlos

in Elasticsearch eingebaut

`BAAI/bge-reranker-v2-m3` ist der verbreitete offene Standard: ein mehrsprachiger 0.6B-Cross-Encoder auf XLM-RoBERTa-Basis, Apache-2.0, mit mehr als 15 Millionen Downloads im letzten Monat ([Hugging Face](https://huggingface.co/BAAI/bge-reranker-v2-m3)). `Qwen3-Reranker-8B` ist die schwere offene Option aus der Qwen3-Embedding-Reihe, und `mxbai-rerank-large-v2` von mixedbread liegt mit 1,54B Parametern, etwa 3,09 GB in FP16, dazwischen und deckt mehr als 100 Sprachen ab ([mixedbread](https://huggingface.co/mixedbread-ai/mxbai-rerank-large-v2)).

**Herstellerzahlen sind Herstellerzahlen**

Voyages Vergleich mit Cohere und Qwen3, Jinas BEIR-Gewinne und Coheres eigene Qualitätsangaben werden alle vom Anbieter des Modells gemessen, auf selbst gewählten Testreihen. Keine davon wurde in den hier genutzten Quellen unabhängig reproduziert, und die öffentliche MTEB-Reranking-Rangliste ändert sich zu oft, um sie zu zitieren. Nutzen Sie diese Zahlen für eine Shortlist, nie für die endgültige Wahl.

Zwei praktische Unterschiede zählen mehr als ein Punkt nDCG. Die Kontextlänge entscheidet, ob ein langes Produktdatenblatt oder eine Vertragsklausel als ein Dokument passt oder geteilt werden muss; Coheres v4-Modelle teilen Dokumente bei 32.764 Tokens und behalten den höchsten Chunk-Wert. Die Sprachabdeckung entscheidet, ob deutsche und ungarische Anfragen so gut funktionieren wie englische, weshalb die mehrsprachigen Modelle von bge, mxbai und Cohere die üblichen Kandidaten für europäische Inhalte sind.

## Preise: pro Suche, pro Token oder die eigene CPU

Gehostete Reranker werden in zwei verschiedenen Einheiten abgerechnet, was den schnellen Vergleich erschwert. Cohere rechnet pro Suche ab: $2,00 pro 1.000 für Rerank 4 Fast und $2,50 für Rerank 4 Pro, wobei eine Suche eine Anfrage mit bis zu 100 Dokumenten ist und Dokumente über 500 Tokens mehrfach zählen ([Cohere-Preise](https://cohere.com/pricing)). Voyage rechnet pro Token ab: $0,05 pro Million für rerank-3 und $0,02 für rerank-3-lite ([Voyage-Preise](https://docs.voyageai.com/docs/pricing)).

Rechnen Sie beides vor der Wahl in dieselbe Arithmetik um. Bei 100 Kandidaten mit je etwa 300 Tokens ist eine Anfrage rund 30.000 Tokens: etwa $0,0015 bei rerank-3 und $0,0025 bei Rerank 4 Pro. Bei längeren Chunks kippt das Verhältnis, weil Cohere pro Dokument und Voyage pro Token zählt. Cohere dokumentiert außerdem nützliche Grenzen: eine Obergrenze von 2.048 Tokens pro Anfrage und die Empfehlung, nicht mehr als 1.000 Dokumente pro Request zu senden ([Cohere](https://docs.cohere.com/docs/reranking-best-practices)).

Beim Self-Hosting wird der Preis zu Rechenzeit. Auf der CPU ist die Größe die praktische Grenze: FastEmbeds ONNX-Reranker reichen von 0,08 GB für ms-marco-MiniLM-L-6-v2 bis 1,11 GB für jina-reranker-v2-base-multilingual, das nur für nicht-kommerzielle Nutzung lizenziert ist ([FastEmbed](https://qdrant.github.io/fastembed/examples/Supported_Models/)). Einen primären Benchmark für die CPU-Latenz pro Paar habe ich nicht gefunden, messen Sie also auf eigener Hardware mit eigener Chunk-Länge, bevor Sie sich festlegen. Auf meiner eigenen Nuxt-Seite, auf der ich LLM-Funktionen betreibe, ist der günstige Weg für solche Probleme hybride Suche plus ein kleines ONNX-Modell auf dem Server, nicht ein LLM-Aufruf pro Anfrage.

## Late Interaction als Alternative

Late Interaction ist ein anderer Zielkonflikt, kein besserer Cross-Encoder. ColBERTv2 hält einen Vektor pro Token, senkt den Speicherbedarf von Late-Interaction-Modellen per Residualkompression um das Sechs- bis Zehnfache und bewertet zur Anfragezeit mit günstigem MaxSim ([ColBERTv2](https://arxiv.org/abs/2112.01488)). Bezahlt wird mit Indexgröße statt Anfragelatenz, was zu großem k und hohem Anfragevolumen passt. Für Seitenbilder treibt dieselbe Idee ColPali an, beschrieben in [multimodalem RAG mit ColPali](https://balazscsorba.com/de/blog/multimodal-rag-colpali). Die Bibliothek `rerankers` bündelt Cross-Encoder, APIs und Late-Interaction-Modelle hinter einer Schnittstelle, was den Austausch in einer Evaluierung leicht macht ([rerankers](https://github.com/AnswerDotAI/rerankers)).

## LLM-Reranker und wann RRF allein reicht

Ein allgemeines LLM kann reranken, ist aber selten der günstigste Weg. RankGPT zeigte, dass ein gut instruiertes GPT-4 auf IR-Benchmarks mit überwachten Rerankern mithalten oder sie übertreffen kann und dass ein destilliertes 440M-Modell ein überwachtes 3B-Modell auf BEIR schlug ([RankGPT](https://arxiv.org/abs/2304.09542)). Voyages eigene Studie argumentiert dagegen und meldet spezialisierte Reranker als bis zu 60-mal günstiger und 48-mal schneller als LLMs ([Voyage](https://blog.voyageai.com/2025/10/22/the-case-against-llms-as-rerankers/)); beide Quellen haben ein Interesse, also testen Sie mit Ihren Daten.

Reciprocal Rank Fusion ist der günstigste Schritt und oft der erste, den man ergänzt. Sie führt Ranglisten mehrerer Retriever nur anhand ihrer Positionen zusammen; Elasticsearch implementiert sie mit `rank_constant`, standardmäßig 60, und `rank_window_size` ([Elastic](https://www.elastic.co/docs/reference/elasticsearch/rest-apis/reciprocal-rank-fusion)). RRF reicht, wenn BM25 und Vektorsuche jeweils andere gute Treffer finden und die Spitze der fusionierten Liste schon stimmt. Ergänzen Sie ein Modell, wenn das richtige Dokument regelmäßig in den fusionierten Top 50, aber nicht in den Top 5 landet.

## k und Modell mit einer kleinen Evaluierung wählen

Starten Sie bei einem bekannten Standard und lassen Sie ein kleines gelabeltes Set ihn verschieben. Der semantische Ranker von Azure AI Search nimmt nur die Top 50 mit und nutzt bis zu 2.000 Tokens pro Dokument, ausgehend von einer BM25- oder RRF-Ergebnismenge ([Azure](https://learn.microsoft.com/en-us/azure/search/semantic-search-overview)). Das ist ein vernünftiges Start-k. Labeln Sie dann 50 echte Anfragen mit den Dokumenten, die sie beantworten sollten, und messen Sie Recall bei 10 vor und nach dem Reranking für k von 25, 50 und 100.

```
# A small reranker eval: 50 labelled queries, recall@k before and after reranking
from sentence_transformers import CrossEncoder

reranker = CrossEncoder("BAAI/bge-reranker-v2-m3")

def recall_at(ranked_ids, relevant_ids, n):
    return len(set(ranked_ids[:n]) & relevant_ids) / len(relevant_ids)

for k in (25, 50, 100):
    before, after = [], []
    for q in labelled_queries:                       # [{"text": ..., "relevant": {...}}]
        hits = first_stage(q["text"], k=k)           # your hybrid search: [(id, text), ...]
        scores = reranker.predict([(q["text"], t) for _, t in hits])
        reranked = [i for (i, _), _ in sorted(zip(hits, scores), key=lambda p: -p[1])]
        before.append(recall_at([i for i, _ in hits], q["relevant"], 10))
        after.append(recall_at(reranked, q["relevant"], 10))
    print(k, sum(before) / len(before), sum(after) / len(after))
```

Erhöhen Sie k nicht weiter, wenn der Recall bei 10 nicht mehr steigt, und wägen Sie das gegen die gemessene Latenz ab. Führen Sie dasselbe Skript mit zwei oder drei Modellen aus und behalten Sie das günstigste, das höchstens einen Punkt unter dem besten liegt. Wiederholen Sie es nach jedem Wechsel des Embedding-Modells, denn die erste Stufe entscheidet, was der Reranker sieht. Wie man solche Evaluierungen in einen Release-Prozess einbaut, steht in [LLM-Evals für Produktfunktionen](https://balazscsorba.com/de/blog/llm-evals-for-product-features).

## Wann kein Reranker nötig ist, und eine Checkliste

Verzichten Sie auf den Reranker, wenn die erste Stufe die richtige Antwort schon unter die ersten Treffer bringt, wenn exakte Bezeichner die Anfragen dominieren und BM25 sie findet oder wenn das Latenzbudget k zusätzliche Durchläufe nicht verkraftet. Dann bringen besseres Chunking, Metadatenfilter oder RRF mehr für weniger. Ergänzen Sie einen, wenn die Evaluierung relevante Dokumente knapp unter der Grenze zeigt.

1.  Recall der ersten Stufe bei k messen, bevor ein Reranker gewählt wird.
2.  BM25- und Vektortreffer per RRF fusionieren, bevor ein Modell dazukommt.
3.  Mit k = 50 beginnen und 5 bis 20 Treffer zurückgeben.
4.  Gehostete Preise bei Ihrer Chunk-Länge in Kosten pro Anfrage umrechnen.
5.  Vor dem Self-Hosting die Lizenz prüfen; manche Reranker sind nicht-kommerziell.
6.  Zusätzliche Latenz auf eigener Hardware messen, nicht aus veröffentlichten Zahlen übernehmen.
7.  Die Evaluierung mit 50 Anfragen nach jedem Modell- oder Chunking-Wechsel wiederholen.

Wenn Sie die Suche für ein RAG-System oder eine Produktsuche abstimmen und die Reranker-Entscheidung mit Zahlen belegen wollen, sehen Sie sich meine [KI-Engineering-Arbeit](https://balazscsorba.com/de/expertise/ai-engineer) an. Die Wahl des Vektorspeichers darunter behandelt [die Qdrant-Besprechung](https://balazscsorba.com/de/blog/qdrant).

## Quellen

1.  [Sentence-BERT (arXiv 1908.10084)](https://arxiv.org/abs/1908.10084)
2.  [Sentence Transformers: retrieve and re-rank](https://sbert.net/examples/sentence_transformer/applications/retrieve_rerank/README.html)
3.  [BAAI/bge-reranker-v2-m3 model card](https://huggingface.co/BAAI/bge-reranker-v2-m3)
4.  [Cohere docs: reranking best practices](https://docs.cohere.com/docs/reranking-best-practices)
5.  [Cohere pricing](https://cohere.com/pricing)
6.  [Voyage AI blog: rerank-3 (30 Sep 2026)](https://blog.voyageai.com/2026/09/30/rerank-3/)
7.  [Voyage AI docs: pricing](https://docs.voyageai.com/docs/pricing)
8.  [Jina AI: Reranker v3.5 (3 Aug 2026)](https://jina.ai/news/jina-reranker-v3-5-faster-listwise-reranking-hybrid-attention-self-distillation/)
9.  [ColBERTv2 (arXiv 2112.01488)](https://arxiv.org/abs/2112.01488)
10.  [Elasticsearch docs: reciprocal rank fusion](https://www.elastic.co/docs/reference/elasticsearch/rest-apis/reciprocal-rank-fusion)
11.  [Azure AI Search: semantic ranking overview](https://learn.microsoft.com/en-us/azure/search/semantic-search-overview)
12.  [RankGPT (arXiv 2304.09542)](https://arxiv.org/abs/2304.09542)

## Häufige Fragen

Was macht ein Reranker in RAG?

Er nimmt die besten Kandidaten eines schnellen ersten Retrievers, bewertet jeden gemeinsam mit der Anfrage und ordnet sie neu, damit die relevantesten Chunks beim Modell ankommen. Weil er Anfrage und Dokument zusammen liest, ist er genauer als Embedding-Ähnlichkeit, aber zu langsam für den ganzen Korpus.

Welchen Reranker sollte man 2026 nutzen?

Als gehostete API sind Cohere Rerank 4 und Voyage rerank-3 Stand Oktober 2026 die aktuellen Linien. Zum Selbsthosten ist bge-reranker-v2-m3 (0.6B, Apache-2.0) ein verbreiteter mehrsprachiger Standard, mit Qwen3-Reranker, Jina Reranker v3.5 und mxbai-rerank-v2 als Alternativen. Entscheiden Sie mit einer kleinen Evaluierung auf Ihren eigenen Anfragen.

Was kostet Reranking?

Cohere verlangt $2,00 pro 1.000 Suchen für Rerank 4 Fast und $2,50 für Rerank 4 Pro, wobei eine Suche eine Anfrage mit bis zu 100 Dokumenten ist. Voyage verlangt $0,05 pro Million Tokens für rerank-3 und $0,02 für rerank-3-lite. Beim Selbsthosten kostet die Rechenzeit für k Paare pro Anfrage.

Wie viele Dokumente sollte man reranken?

Beginnen Sie mit 50 bis 100 Kandidaten und geben Sie 5 bis 20 zurück. Azure AI Search rerankt standardmäßig die Top 50. Die Latenz wächst linear mit der Zahl der Paare, also messen Sie Recall beim gewählten k und die zusätzliche Latenz und erhöhen Sie k nicht weiter, wenn der Recall nicht mehr steigt.

Ersetzt Reciprocal Rank Fusion einen Reranker?

Meist nicht. RRF führt Ranglisten mehrerer Retriever per Rangarithmetik ohne Modell zusammen, günstig und robust. Ein Reranker liest den Text und kann die Reihenfolge innerhalb der fusionierten Liste korrigieren. Viele Systeme fusionieren BM25- und Vektortreffer per RRF und reranken dann die Spitze dieser Liste.

Geschrieben von Balázs Csorba

Senior Fullstack & AI Engineer in der Steiermark – über 10 Jahre Vue, Nuxt, Node.js und PHP, heute baue ich Werkzeuge für KI-Agenten.

[KI-Entwicklung & MCP-Server →](https://balazscsorba.com/de/expertise/ai-engineer)[Über mich →](https://balazscsorba.com/de/about)

## Weitere Artikel

-   [Embedding-Modell wählen 2026: Leaderboards, Kosten und ein Vergleichstest mit eigenen Daten](https://balazscsorba.com/de/blog/embedding-model-selection-2026)
-   [Contextual Retrieval und Late Chunking: RAG-Chunks ihren Kontext zurückgeben](https://balazscsorba.com/de/blog/contextual-retrieval-late-chunking)
-   [Zugriffskontrolle für RAG: berechtigungsbewusstes Retrieval ohne Datenlecks](https://balazscsorba.com/de/blog/rag-access-control-permissions)
-   [RAG über Produktkataloge: aus PIM-Daten Antworten machen, die halten](https://balazscsorba.com/de/blog/rag-product-catalog-pim-data)

## Klingt nach dem, was du suchst?

Erzähl mir von deinem Projekt oder deiner Stelle – ich freue mich, von dir zu hören.

[Kontakt aufnehmen](mailto:contact@balazscsorba.com) [Auf LinkedIn vernetzen](https://www.linkedin.com/in/balazs-csorba)