前言在PDF财报、技术手册这类富文档场景文档内部包含大量图片、图表、表格。传统RAG直接对原文切块向量化会出现图表信息丢失、检索召回不准、表格结构被切片破坏等问题。本文讲解Multi‑Vector多向量多模态RAG完整链路对比传统Chunk RAG的差异、优缺点与工程风险给出选型建议。1 传统RAG原文Chunk直接向量化工作流程多格式文档 → 文本解析 → 按固定长度切分原文Chunk → Chunk文本向量化存入向量库用户Query → 向量检索匹配Chunk → 将命中Chunk送入LLM生成答案核心特点向量库存储的就是文档原文切片检索拿到切片直接用于回答。图片图表直接丢弃仅保留文本。优缺点维度传统Chunk RAG向量库存储原文切片Chunk素材存储向量库直接保存切片文本无独立原始素材存储图片/图表处理丢弃图片图表仅靠OCR结构丢失检索依据原文片段原始语义输入LLM内容检索命中的Chunk片段优势实现简单无需额外调用大模型做摘要不存在摘要失真劣势长Chunk噪声大检索容易跑偏短Chunk语义不完整图片图表无法检索表格容易被切坏切片边界割裂上下文典型痛点财报里一张营收趋势图传统RAG直接丢弃图片。用户询问营收相关问题完全无法召回该图表对应的信息。2 Multi‑Vector多向量多模态RAG架构整体分为两大阶段文档入库预处理阶段、用户查询检索生成阶段。2.1 入库预处理Ingest多格式文档输入经过Layout解析器LlamaParse / Docling做版面解析拆分成三大分支文本分支、表格分支、图片分支。两路存储分离DocStore原始素材库完整保存原文、原始表格、原始图片保证素材100%保真不做压缩修改。向量索引不存储原始素材。存储的是提炼后的语义载体文本摘要、图片MLLM描述文本、表格结构化文本。文本分支原文存入DocStore生成文本摘要摘要向量化写入向量索引。图片分支原图存入DocStore调用MLLM生成图片描述文本描述向量化写入向量索引。表格分支原始表格存入DocStore输出表格结构化文本结构化文本向量化写入向量索引。核心设计思想向量索引只负责检索召回真实完整原始素材统一放在DocStore通过ID关联。检索匹配摘要回答回源原始素材。2.2 查询检索阶段用户输入Query执行多向量检索查询向量索引命中的对象是摘要/图片描述/表格结构化文本。根据命中结果的ID回源DocStore拉取完整原始素材原文、原图、原始表格。将原始素材交付给多模态LLM完成综合生成输出最终答案。⚠️架构红线绝对不能直接拿向量索引返回的摘要给LLM生成答案。摘要只是检索的索引卡片存在信息压缩甚至失真生成必须使用DocStore原始素材。优缺点维度Multi‑Vector多向量RAG向量库存储文本摘要、图片MLLM描述、表格结构化文本压缩语义原始素材存储独立DocStore保存完整原始素材向量库只负责检索图片/图表处理图片通过MLLM描述参与检索原图回传给多模态LLM表格保留原始结构检索依据提炼后的摘要语义输入LLM内容DocStore拉取的完整原始素材优势摘要语义聚焦召回质量高图片图表可以参与检索表格不会被切片破坏原始素材与检索索引解耦一份源数据可生成多路检索向量劣势预处理阶段大量调用MLLMToken开销大、耗时高存在摘要漂移风险需要维护向量索引DocStore两套存储ID关联逻辑复杂3 核心工程风险点3.1 摘要漂移向量索引中存储的是大模型生成的摘要。如果摘要理解文档出错会检索召回不匹配的素材。虽然最终生成使用原始素材多模态LLM有机会修正摘要错误但最坏情况摘要错误导致检索拿到完全无关的原始素材答案必然错误。3.2 禁止摘要直接作答摘要经过压缩丢失大量细节。业务代码必须严格实现回源逻辑禁止把命中摘要直接送入LLM。3.3 ID关联一致性向量索引每一条向量记录都必须绑定DocStore对应的素材唯一ID。入库、更新、删除文档时向量索引与DocStore数据要同步维护避免出现ID失效、找不到原始素材。4 技术选型建议纯文本、短文档场景优先传统Chunk RAG。开发成本低足够满足业务需求。PDF报告、财报、技术手册、大量图表截图场景选择Multi‑Vector多向量多模态RAG也就是本文流程图这套链路。5 通俗类比总结传统RAG把一本书撕成碎片碎片存入数据库查询搜到碎片直接拿碎片回答用户。Multi‑Vector多向量RAG为书中每段文字、每张图表写一张索引卡片摘要/描述卡片存入数据库完整书籍保存在DocStore查询匹配卡片编号再取出完整书页交给大模型阅读作答。结语多向量架构解决了传统RAG处理富媒体文档的短板但并非银弹。它以更高预处理成本换取检索质量提升工程落地要重点把控摘要质量、ID关联、回源逻辑这几个关键点。