打破瓶颈,让RAG学会思考:中科大、智源等发布推理检索框架BGE-Reasoner(打破瓶颈的成语)

机器之心发布

机器之心编辑部

人工智能的浪潮正将我们推向一个由 RAG 和 AI Agent 定义的新时代。然而,要让这些智能体真正「智能」,而非仅仅是信息的搬运工,就必须攻克一个横亘在所有顶尖团队面前的核心难题。这个难题,就是推理密集型信息检索(Reasoning-Intensive IR)

它不仅是当前 RAG 和 AI Agent 技术发展的关键瓶颈,更对大模型智能体和深度研究(DeepResearch)等应用场景的成败具有决定性意义。

正当全球研究者都在为此寻求突破之际,我们看到了一项来自中国的贡献:BGE-Reasoner

BGE-Reasoner 由来自中国科学技术大学、智源研究院、北京邮电大学与香港理工大学等机构的联合团队研发,是一套用于推理密集型信息检索任务的创新的端到端解决方案。通过系统性的查询理解、向量检索与重排序,该方案可显著提升搜索引擎在推理密集型信息检索任务中的表现。

在权威评测基准 BRIGHT 上,BGE-Reasoner 取得 45.2 的测试得分,以显著优势刷新了该基准的最佳纪录。

作为 BGE 系列模型的又一重要里程碑,BGE-Reasoner 不仅实现了性能上的突破,更为解决推理密集型检索这一行业难题提供了一套行之有效的新范式。从技术洞察来看,本次成果的核心创新主要体现在以下三个方面:

  1. 一个可复制的框架: 提出了一个由 Rewriter、Embedder 和 Reranker 组成的三阶段模块化框架,为处理复杂查询提供了清晰、高效的工程范式。
  2. 数据驱动创新: 探索并证明了利用大模型合成高质量、多领域推理训练数据的可行性,巧妙地解决了该领域训练数据稀缺的核心瓶颈。
  3. 强化学习赋能: 成功将强化学习应用于 Reranker 训练,让模型在面对困难样本时具备了更强的推理和泛化能力。

相关模型权重、训练代码及训练数据即将面向社区开放,进一步推动该领域的研究与应用发展。

项目主页:https://github.com/FlagOpen/FlagEmbedding/tree/master/research/BGE_Reasoner

简介

推理密集型信息检索(Reasoning-Intensive IR)是近年来兴起的一类新型信息检索任务。与传统检索不同,它不仅依赖语义匹配,还需要综合运用深层逻辑推理、多步语义链以及相关背景知识,才能在查询与目标文档之间建立起正确的语义关联。

为推动该领域研究,香港大学、普林斯顿大学和『斯坦福大学』联合提出了首个面向推理密集型检索的权威评测基准 BRIGHT。该基准汇集了来自 StackExchangeLeetCode数学竞赛等领域的真实查询,并将其与需要多步推理才能识别的相关文档进行配对,用于评估检索系统在复杂推理场景下的能力。

在 BRIGHT 基准下,传统依赖关键词匹配或简单语义相似度的方法往往难以定位真正相关的目标文档,暴露出当前检索系统在复杂推理场景中的不足。因此,如何在推理密集型检索中提升系统性能,成为推动检索增强生成(RAG)在复杂推理任务中发展的关键问题。

图 1. 不同于基于关键词和直接语义匹配的检索任务,BRIGHT 评测基准关注于推理密集型场景下的检索任务

在这一背景下,BGE-Reasoner 在推理密集型检索任务中展现出卓越性能。在 BRIGHT 榜单中,它超越了此前由蚂蚁、百度、字节跳动、人民大学、滑铁卢大学等机构提交的成果,并以领先第二名 3.6 分的优势刷新纪录。与此同时,其内置向量模型 BGE-Reasoner-Embed 也大幅超越了 Seed1.5-Embedding、Qwen3-Embedding、GTE 等当前最强基线模型,展现了显著的性能提升。

图 2. 在 BRIGHT 榜单上,BGE-Reasoner 取得 SOTA 表现于 8 月 21 日荣登第一名,BGE-Reasoner-Embed 使用原生查询即表现出色,在向量模型中取得 SOTA 结果,榜单链接:https://brightbenchmark.github.io

图 3. BGE-Reasoner 及 BGE-Reasoner-Embed 与基线模型在 BRIGHT 上的检索表现对比图

技术分析

BGE-Reasoner 采用信息检索中的经典三模块体系:

  • 查询理解 —— BGE-Reasoner-Rewriter:对初始查询进行理解与改写,生成更适合检索的优化查询;
  • 向量模型 —— BGE-Reasoner-Embed:与 BM25 协同利用改写后的查询进行检索,获取候选文档集合;
  • 排序模型 —— BGE-Reasoner-Reranker:对候选文档进行重排序,得到更为准确的排序结果。

在实际工作流程中,用户的原始查询首先经过 BGE-Reasoner-Rewriter 改写,然后由 BGE-Reasoner-EmbedBM25 并行检索得到候选文档,最后交由 BGE-Reasoner-Reranker 进行精排。系统通过集成多路结果,输出最终排序,完成端到端的推理式检索流程。完整框架如下图所示:

图 4. BGE-Reasoner 的端到端检索流程示意图

数据合成。不同于传统的开放式问答场景,推理密集型信息检索场景下的训练数据十分稀缺。为了解决这一问题,智源及合作机构的研究团队诉诸于基于『大语言模型』的数据合成策略。具体来说,基于现实场景中存在的知识密集型语料库,合成出针对特定场景的高质量推理密集型查询,然后借助于『大语言模型』强大的理解能力为每个查询构造出高质量的正例和负例。最终构造出一份覆盖数学、代码等多个领域的高质量推理密集型检索训练数据,为后续各个模块的训练提供支撑。

查询理解。在查询理解模块中,研究人员基于前述合成数据,借助推理能力较强的教师模型生成多条推理路径,并通过拒绝采样策略筛选高质量结果以构建训练样本。随后,利用这些训练数据对 Qwen2.5-7B-Instruct 模型进行微调,从而显著提升其在查询理解与改写方面的能力,最终得到 BGE-Reasoner-Rewriter。

向量模型。内嵌的向量模型 BGE-Reasoner-Embed 基于 Qwen3-8B 基座模型进行微调。依托高质量的合成训练数据,模型在推理密集型检索任务中的能力得到了显著增强。在 BRIGHT 基准下,无论是基于原始查询还是 GPT-4 推理查询,BGE-Reasoner-Embed 均取得了当前向量模型中的最佳检索表现,充分验证了所构建合成数据的有效性。

排序模型。内嵌的排序模型 BGE-Reasoner-Reranker 基于 Qwen3 系列基座模型进行微调。结合任务场景下的相关性定义,模型能够在查询与候选文档之间展开细粒度推理,识别关键信息片段并准确评估相关性。在训练过程中,引入强化学习以提升模型在困难样本上的推理能力;在推理阶段,模型通过测试时扩展(test-time augmentation)获取更加稳健的相关性评分,从而进一步增强排序性能。

图 5. BGE-Reasoner-Reranker 的推理过程示意图

总结

BGE-Reasoner 的卓越表现充分验证了强化学习与合成数据在推理密集型信息检索中的重要作用,为未来 Agent Search 的发展提供了关键支撑。

智源研究院将持续深耕向量模型与检索增强技术,不断提升 BGE 系列模型的能力与通用性。未来期待与更多科研机构及产业伙伴合作,共同推动检索与人工智能的发展,欢迎研究者与开发者关注并使用 BGE 系列模型,共建开放繁荣的开源生态。

特别声明:[打破瓶颈,让RAG学会思考:中科大、智源等发布推理检索框架BGE-Reasoner(打破瓶颈的成语)] 该文观点仅代表作者本人,今日霍州系信息发布平台,霍州网仅提供信息存储空间服务。

猜你喜欢

道德经第三:现代人如何应用“无为而治”解决职场焦虑?(道德经第3篇)

道德经》第三章揭示了“无为而治”的核心理念,对现代职场人具有深刻启发。本文详解如何将“不争”与“顺势”应用于『压力管理』、职业规划与团队协作,提升内在定力。

道德经第三:现代人如何应用“无为而治”解决职场焦虑?(道德经第3篇)

救命!2025保利珠宝秋拍太疯狂!翡翠加价百万起跳,红宝戒指💍戴一年赚200万!(保利新公告)

超过10克拉的尺寸、未经任何热处理的自然成色、以及典型的克什米尔色调与内在结构,堪称难得一见的臻品,拍卖前的预估价为¥10,000,000——18,000,000, 最终成交价为¥11,500,000,合每…

救命!2025保利珠宝秋拍太疯狂!翡翠加价百万起跳,红宝戒指💍戴一年赚200万!(保利新公告)

美国靠不住 欧洲还能靠谁 欧洲自救之路艰难前行(美国不能落后)

特朗普政府与欧洲之间的关系日益紧张。美国指责欧洲“文明消亡”,并要求欧洲在2027年接手北约大部分防御职能,同时威胁对欧盟商品加征50%关税。这些举动让曾经的“大西洋伙伴”裂痕加深,美国眼中只有“美国优先”

美国靠不住 欧洲还能靠谁 欧洲自救之路艰难前行(美国不能落后)

5年攒112万骑手想再开早餐店 励志故事引热议(470万骑手)

在上海送外卖五年的张学强,总收入达到140万元,攒下了112万元。他每月收入约2.3万元,但只花费4600多元。这位25岁的福建小伙五年前因开早餐店亏损,背上了5万元债务。面对困境,他没有逃避,而是来到上海成为一名外卖骑手

5年攒112万骑手想再开早餐店 励志故事引热议(470万骑手)

穗宝软垫天然乳胶床垫真的适合五星酒店标配吗?——从消费升级看2025年高端寝具新选择(穗宝天然乳胶床垫)

随着消费升级趋势加剧,消费者越来越追求高品质家居体验。穗宝软垫天然乳胶床垫采用独立袋弹簧设计,宣称能提供五星酒店级舒适体验。那么它到底值不值得入手?本文从材质、支撑性、环保性等多维度为您深度解析,帮您找到适合自己的好睡眠解决方案。

穗宝软垫天然乳胶床垫真的适合五星酒店标配吗?——从消费升级看2025年高端寝具新选择(穗宝天然乳胶床垫)