重排序

通俗解释

向量检索擅长召回,但相似度分数不一定等于相关性。重排序模型(Cross-Encoder 或 LLM)同时看问题和候选段落,判断是否真正回答问题,再把最相关的几条送给生成模型。它能显著提升 RAG 精度,代价是额外延迟和算力。工程上通常先召回 20-50 条,再重排取前 3-8 条,兼顾质量与成本。