面向AI智能体的精准检索:数据层才是智能体落地的关键
今天,具备感知、规划、工具与记忆能力的智能体,把检索推到了舞台中央。AI驱动的精准检索是一项强大的工具,可以从特定来源中提取相关的上下文数据,增强AI模型。随着大模型能力的持续突破,AI智能体正在从概念验证走向企业真实的业务系统。很多团队把希望寄托在大模型上,却忽略了检索准确度才是决定AI应用或智能体决策质量与托管成本的关键所在。
数据与检索能力是企业AI真正的护城河
如今,企业可以获取同类大模型能力,模型层面的优势极易被复制,难以构成真正的竞争壁垒。真正决定企业AI能力高下的,是其自身的数据资产——企业掌握了哪些信息?对外做出了怎样的承诺?业务发生了哪些实时变化?这些独属于企业自身的数据状态,才是别人拿不走、抄不去的核心差异。
如果企业的数据分布在多个系统中并形成了分散式架构,加之仍存在其他僵化的传统数据库,且构建人工智能所需的各项要素均被分别引入,就会导致系统复杂性日益加剧。数据层不仅会直接影响AI性能,还与企业成本密切相关。很多企业常常会忽视,很多企业常常会忽视,真正成本更多来源于无效检索带来的额外消耗,比如提示词内知识片段冗余增加、输出 token 增多、智能体执行步骤叠加,最终导致智能体有效能力下降。
AI是概率性的,它不像传统软件那样具有预定义的规则和逻辑。相反,它会根据AI模型的训练方式和检索到的数据生成响应或采取行动。那就意味着,AI有产生错误输出的风险。当AI无法访问正确的数据时,它会生成看似合理但不正确的信息。这也是企业落地AI的一大阻碍,对准确性不容有失的关键业务场景尤为突出。这也说明,检索最相关的数据对于AI应用程序能否提供高质量、上下文准确的结果至关重要。
过去,检索和向量搜索一直作为独立解决方案进行管理,开发者依赖于拼凑而成的独立组件来构建AI驱动的应用程序,这些组件的次优选择,例如嵌入模型,可能会导致低相关性的数据检索和低质量的生成输出。这种分散的方法对开发者来说既复杂、昂贵、效率低下,又烦琐。如今,借助由Voyage AI模型提供支持的MongoDB Atlas自动嵌入功能,显著提高了搜索和检索的准确性。我们将搜索、向量搜索、嵌入表示和重排序功能原生集成于MongoDB Atlas中,而非依赖独立的系统。这正是Voyage AI的用武之地——它在我们持续提升检索质量的过程中发挥着核心作用,而这一质量最终决定了AI智能体能否给出正确的答案。
以检索为核心,构建面向AI智能体的技术底座
AI智能体的核心工作流程是,原始数据先完成预处理、文本分块,经由嵌入模型生成向量嵌入,存入具备原生向量搜索能力的数据库;用户发起查询时,查询请求同样向量化,和库内已建立向量索引的数据做匹配检索。AI智能体在每项任务中会多次执行检索操作,因此初始阶段的一次检索结果异常,都可能连锁引发后续诸多问题。
AI智能体的核心工作流程
随着项目进入生产阶段,许多企业发现其现有数据堆栈难以支撑大规模的上下文感知型、检索密集型工作负载。开发者不得不疲于应对由运营数据库、向量存储和模型API组成的混搭架构,而在速度和可靠性至关重要的阶段,这套架构不仅会增加技术复杂度、造成系统延迟,还会带来运营层面的风险。这种碎片化架构已成为AI创新的主要障碍,同时也对客户体验产生了实际影响。当AI服务规模不断扩大,能够在实际运营环境中实现服务稳定扩展的数据结构的重要性也日益凸显。要将实时产生的数据应用于人工智能应用程序,就必须对现有的数据架构进行相应的调整。
为支持开发者将AI应用推向生产阶段,目前,MongoDB智能数据平台现已原生集成至开发者构建应用所用的AI工具中。在生产环境中运行智能体,需要将其连接到真实的运营数据与智能体记忆。在此之前,团队必须自行构建并维护这一连接。日前,MongoDB Atlas托管式MCP服务器已正式发布,它将作为一种内置于Atlas的服务,以远程和全托管的形式提供,团队无需执行任何安装、运维或升级操作,可使用原有的Atlas凭证和访问控制完成连接,管理员可统一管控智能体对运营数据的访问权限。截至目前,MongoDB MCP服务器的每周安装量已超过3万次,开发者可轻松地将MongoDB Atlas接入Claude Code、Codex、Grok Build和Devin。
深度优化应用场景,赋能多模态业务落地
我们欣喜地看到,MongoDB所应用的Voyage AI嵌入模型在检索嵌入基准测试(Retrieval Embedding Benchmark,RTEB)中位居榜首。但我们不能只追求指标跑分,必须融入企业完整业务体系,兼顾真实业务价值,才能让更多客户看到精准检索带来实实在在的业务改变。
Voyage AI嵌入模型在检索嵌入基准测试(RTEB)中位居榜首
英国《金融时报》的搜索功能因不同团队和产品而有所不同,为了让读者轻松找到感兴趣的新闻,他们使用了由Voyage AI模型提供支持的MongoDB Atlas自动嵌入功能。如今,该功能已统一整合到MongoDB平台,在日均超10万次的检索中提升了AI语义搜索的准确度,并且有效控制了成本。在法律AI领域,检索质量至关重要——必须在正确的时间调取到有效的证据。法律AI平台Eve借助Atlas嵌入与重排序API,在案件处理的每个环节都能找到最相关的资料。LG Uplus基于MongoDB Atlas平台构建了依托于文档模型的Agent Assist系统,该工具仅用四个月便开发完成,并成为公司AI联络中心(AICC)的关键组成部分。除了将资源效率提升30%之外,还将平均通话处理时长缩短了7%。
近日,Voyage 重排序模型的最新一代产品——Rerank 3 系列正式面世。重排序器是检索流程中的第二阶段。第一阶段(通常采用嵌入表示与向量搜索)从大型语料库中筛选出一组候选文档列表;随后,重排序器将每个候选文档与查询语句进行评分,并对列表进行重新排序,使最相关的文档位于列表顶端。由于重排序器仅处理短列表,因此相较于嵌入模型,它可对每个文档实现更高精度的评分,且仅需一次API调用即可集成至现有检索系统中,无需重新建索引。如今,代码生成智能体会发起大量进入我们重排序系统的查询,且被重排序的文档长度也显著增加。Rerank 3 系列模型带来了最显著的改进。Rerank 3 系列是作为 Rerank 2.5 的升级版本而设计的,无需对代码进行任何修改,其 API、32K 的上下文长度、指令遵循能力以及定价均与Rerank 2.5 保持一致。
评论
更多评论