BroadRouter

Hybrid search

Na-update

Ang hybrid search ay paraan ng retrieval na nagpapatakbo ng keyword search, gaya ng BM25, at vector search sa embeddings para sa iisang query, saka pinagsasama ang dalawang ranked list sa isa, kadalasan gamit ang reciprocal rank fusion (RRF) o weighted sum ng mga normalized score.

Tinatawag ding: hybrid retrieval, hybrid search sa RAG, reciprocal rank fusion, RRF, BM25 at vector search

Eksaktong salita ang hinahanap ng keyword search. Kahulugan naman ang hinahanap ng vector search. Pinapatakbo ng hybrid search ang dalawa at pinagsasama ang mga resulta.

Paano ito gumagana

Sabay na napupunta ang query sa dalawang retriever:

  • Keyword: BM25 sa isang inverted index. Malakas sa mga pangalan, code at bihirang termino.
  • Vector: nearest neighbours sa embeddings sa loob ng isang vector database. Malakas sa paraphrase at kasingkahulugan.

Magkaiba ang scale ng dalawang score, kaya karamihan ng system ay nagsasama batay sa rank o sa normalized score.

Reciprocal rank fusion (RRF), mula kina Cormack, Clarke at Büttcher (SIGIR 2009), ay nagdadagdag ng isang term para sa bawat list na kinalalabasan ng isang dokumento. Ganito idinodokumento ng Elasticsearch ang loop: score += 1.0 / (k + rank(result(q), d)), at 60 ang default ng rank constant na k. Sabi ng docs nito: “RRF requires no tuning.” (Salin ng BroadRouter: “Walang kailangang tuning ang RRF.”)

Isang halimbawang kuwenta na k = 60:

Dokumento Rank sa BM25 Rank sa vector RRF score
A 1 3 1/61 + 1/63 = 0.0323
B 2 1 1/62 + 1/61 = 0.0325
C hindi nakita 2 1/62 = 0.0161

Panalo ang B dahil mataas ang rank nito sa parehong retriever.

Weighted fusion ang isa pang karaniwang paraan. Ang default ng Weaviate mula v1.24, ang relativeScoreFusion, ay nino-normalize ang score ng bawat search at pinagsasama ang mga ito bilang scaled sum. Tinitimbang ng setting na alpha ang dalawa: keyword lang ang 0, vector lang ang 1, at 0.75 ang default ng server. Inirerekomenda ng docs na i-set nang tahasan ang alpha: nalalapat lang ang default na 0.75 kapag umabot sa server ang request nang walang alpha, at hindi lahat ng client library ay nag-iiwan dito na naka-unset, kaya puwedeng iba ang aktuwal na timbang.

Pagkatapos ng fusion, maraming pipeline ang nagdadagdag ng reranker sa mga nangungunang resulta.

Bakit ito mahalaga

  • Recall. Pinaghahalo ng totoong query ang eksaktong termino at maluwag na pananalita. Kapag iisang retriever lang, may bahaging nalalaktawan.
  • Arabic. Nag-iiba-iba ang spelling sa Arabic (mga anyo ng alef, ta marbuta, diacritics), kaya humihina ang eksaktong keyword matching kung hindi nino-normalize ang text. Nagbibigay ang vector search ng pangalawang daan papunta sa tamang chunk. Tingnan ang Arabic RAG search at Arabic text normalization para sa search.
  • Mas kaunting token. Kapag mas maayos ang retrieval, mas kaunting chunk ang ipinapadala sa LLM kada tanong.

Sa BroadNet Inference

Sa search stack mo tumatakbo ang hybrid search: Elasticsearch, OpenSearch, Weaviate o katulad. Walang embeddings o rerank endpoint ang BroadNet, kaya gumawa ng embeddings gamit ang ibang provider o isang local na model. Ipadala ang pinagsamang mga nangungunang chunk sa isang chat model ng BroadNet gaya ng Qwen3.8 27B o GLM 5.3 sa Chat Completions API. Para sa maliliit na corpus, ikumpara ito sa paglalagay ng mga dokumento sa mahabang context; tingnan ang long context vs RAG.

Mga tanong

Bakit hindi na lang vector search ang gamitin?

Tumutugma ang embeddings sa kahulugan pero puwedeng makaligtaan ang eksaktong string gaya ng product code, pangalan at error message. Nahuhuli iyon ng keyword search. Kapag pinagsama, sakop ang dalawang klase ng query.

Kailangan ko bang i-tune ang RRF?

Kadalasan, hindi masyado. Ayon sa docs ng Elasticsearch, walang kailangang tuning ang RRF at hindi kailangang magkatugma ang relevance score ng mga result set na pinagsasama nito. 60 ang default ng rank constant nito.

Ano ang ibig sabihin ng alpha sa Weaviate?

Ito ang timbang ng vector laban sa keyword na resulta. Ayon sa docs ng Weaviate, keyword search lang ang alpha 0, vector search lang ang alpha 1, at 0.75 ang default ng server.

Basahin bilang MarkdownTanungin ang ChatGPTTanungin ang ClaudeTanungin ang Perplexity