RAG 不是“把文档喂给 LLM“:一次工程化的完整拆解

RAG到Agent实战:LLM工程落地全链路拆解 大模型应用开发正从单轮问答走向复杂系统落地。检索增强生成(RAG)作为连接私有数据与大模型的核心范式,解决了知识时效性与可追溯性问题;而智能体(Agent)则进一步将能力扩展到多步任务与工具调用。然而,生产环境中的性能瓶颈往往出现在工程链路而非模型本身:文本分块策略、向量检索质量、重排序精度、推理时的浮点数精度(如FP16、BF16)都会显著影响最终效果。理解RAG全流程与Agent编排机制,掌握精度与成本权衡,是构建可靠GenAI应用的关键。本文从概念到代码,拆解LLM工程落地的完整技术主线。 阅读详情

#> 90% 的 RAG 项目卡在准确率上,而准确率的瓶颈几乎从不在模型本身。


一、为什么你的 RAG 总在"差不多"

如果你做过 RAG,大概率经历过这样的挫败:

明明把文档上传进去了,问一个文档里白纸黑字写着的问题,模型要么答错,要么答"根据现有信息无法回答"。换一个更好的模型,准确率提升了几个点,但核心问题依然存在。

问题几乎从不出在 LLM 上。RAG 是一条流水线,最终答案质量由最薄弱的环节决定。 而大多数项目对这条流水线的前几段——文档解析、切片策略、检索召回——的投入严重不足。

本文试图把这条流水线拆开来看,逐段讨论工程细节。


二、第一段:文档解析,被严重低估的地基

RAG 流水线的起点不是向量化,而是把文档变成可被处理的文本。这一步的质量上限,决定了后续所有环节的质量上限。

常见文档类型的陷阱

PDF:看似是结构化文档,实则是"打印指令的集合"。直接用 pdfminer 或 PyPDF2 提取文本,遇到双栏排版会把两栏内容混在一起;表格会被拆散成乱序的单元格;页眉页脚会混入正文。

Word/PPT:PPT 的文字框顺序和视觉顺序不一定一致;Word 里嵌套表格的层级关系难以保留;图片内的文字(如截图里的数字)完全丢失。

扫描件:纯图片,没有文字层,必须走 OCR。OCR 的精度因分辨率、字体、页面倾斜程度差异巨大,且不同 OCR 引擎对中文专业术语的识别能力差距明显。

工程上的应对策略

  • 版式感知解析:使用具备版面分析能力的解析工具,先识别文档的区域类型(正文区、表格区、图注区、页眉区),再分别提取,避免内容混淆。

  • 表格结构化:将表格解析为 Markdown 表格或 JSON 结构,而不是把单元格内容拼成一段文字。后者在向量化后完全失去行列语义。

  • 图片内容提取:对包含大量图表的文档(如制造业 SOP、医药合规材料),需要对图片区域单独做多模态理解,提取其中的文字、数据和结构信息。

  • 元数据保留:解析结果应保留来源文件名、页码、章节标题等元数据,供后续检索时过滤和引用溯源使用。


三、第二段:切片策略,直接决定召回天花板

文档解析完成后,需要将长文本切割成若干"片段"(Chunk),再分别向量化存入向量数据库。切片的粒度和方式,是 RAG 工程中最需要细心设计的环节之一。

固定长度切片的局限

最简单的方案是按固定字符数切片(如每 512 个 token 一段,重叠 50 token)。这个方案的问题显而易见:

  • 一句话可能被切成两半,语义断裂

  • 同一个知识点可能分布在多个 Chunk 中,任何一个单独召回都不完整

  • 不同类型的内容(一段叙述 vs 一张表格)被同等对待,不考虑结构差异

更好的切片策略

语义切片:以自然段、句子边界、标题层级为切割点,优先保持语义完整性。这需要解析阶段保留文档的结构信息。

层级切片(Hierarchical Chunking):同一段内容生成两个粒度的 Chunk——一个精细 Chunk 用于精准匹配,一个粗粒度的父 Chunk 用于提供上下文。检索时用精细 Chunk 定位,返回时附带父 Chunk 的内容,让 LLM 有足够的上下文理解语义。

文档类型感知切片:

  • 连续叙述型文档(如政策文件、操作手册):按段落切,保持较大 Chunk 以保留上下文

  • 问答型文档(如 FAQ):以"问题-答案"对为单位切片

  • 表格类数据:每行或每个逻辑分组独立成 Chunk,不与正文混合

切片后标注与评分:对切片质量进行人工抽检和评分,建立负样本集(哪些 Chunk 被错误召回或信息不完整),定期用于优化切片参数。这一步被大多数项目忽略,但对长期迭代至关重要。

压缩 摄图网_381325097_程序员女性在电脑前编写代码(企业商用)(1).jpeg


四、第三段:检索策略,稠密与稀疏的博弈

切片完成,向量化入库,接下来是检索(Retrieval)——给定用户问题,从向量数据库里找出最相关的 Chunk。

纯向量检索的盲区

向量检索(稠密检索)的原理是把问题和 Chunk 都映射到高维向量空间,用余弦相似度衡量语义接近程度。它擅长处理语义相似但字面不同的情况,比如"怎么请年假"能匹配到"员工休假申请流程"。

但它有两个典型弱点:

精确匹配失效:当用户查询包含精确的产品型号、合同编号、人名、专业缩写时,向量相似度不可靠。"查询 PO-2024-00312 的状态"这类问题,向量检索可能返回完全不相关的 Chunk。

词频权重丢失:某些关键词在文档中出现频次很高,本应是强信号,但在向量空间里被稀释掉了。

混合检索

将稠密检索(向量)与稀疏检索(BM25 等关键词匹配算法)结合,是目前工程实践中的主流方案。两路检索结果通过 RRF(Reciprocal Rank Fusion)或加权融合合并为统一排序。

更进一步,对于企业内部有明确结构的数据(如 ERP 里的订单、CRM 里的客户信息),可以将 NL2SQL 作为检索的一个分支——将自然语言问题转换为 SQL 查询,直接从结构化数据库取数,而不是依赖文档检索。

查询改写

用户的原始问题往往是"不好检索"的:口语化、歧义多、省略了重要背景。查询改写(Query Rewriting)在检索前对问题进行预处理:

  • HyDE(假设性文档嵌入):让 LLM 先生成一段"假设的答案",用答案文本去检索而不是用问题文本——因为答案的向量分布与文档更接近。

  • 子问题分解:将复杂问题拆解为多个子问题,分别检索后合并结果,解决"多跳推理"场景。

  • 同义扩展:对专业术语、缩写进行扩展,提升召回率。


五、第四段:Rerank,召回之后的精筛

向量检索通常返回 Top-20 到 Top-50 的候选 Chunk,但真正放入 LLM 上下文的通常只有 3-5 个。这个筛选过程就是 Rerank(重排序)。

Rerank 模型(Cross-Encoder 架构)将问题和每个候选 Chunk 拼接在一起,直接输出一个相关性分数,而不是分别编码再计算相似度。它比向量检索慢(无法预先计算),但精度高得多。

Rerank 的引入通常能带来明显的准确率提升,但也有工程成本:

  • 需要额外部署一个模型服务(开源方案如 BGE-Reranker、Cohere Rerank 等)

  • 延迟增加,对实时性要求高的场景需要做异步或缓存优化

  • Rerank 模型本身也需要与业务场景对齐,通用模型在垂直领域效果可能有限

在 AgentCore(比孚智能体开发平台) 的 RAG 实践中,知识切片支持人工标注和评分,并提供知识库版本控制与自动更新机制——这让 Rerank 所依赖的高质量候选集能够持续维护,而不是停留在初始导入时的状态。


六、第五段:评估,闭环才能持续改进

RAG 系统的质量评估是一个经常被跳过的环节——很多项目只在上线前做一轮人工测评,之后便不再系统性地跟踪效果。

核心评估维度

召回质量(Retrieval Quality):

  • Recall@K:目标 Chunk 是否出现在 Top-K 结果中

  • MRR(Mean Reciprocal Rank):目标 Chunk 排在第几位

生成质量(Generation Quality):

  • 忠实度(Faithfulness):答案是否与召回的 Chunk 内容一致,有无幻觉

  • 答案相关性(Answer Relevance):答案是否真正回应了用户问题

  • 上下文利用率:LLM 是否充分利用了提供的 Chunk,而不是依赖参数化记忆

端到端评估:使用 RAGAs 等评估框架,构建自动化评测集,定期回归,避免新改动引入退化。

AB 测试的必要性

切片参数调整、检索策略变更、Prompt 模板更新——每一个改动都应当在评测集上量化效果,而不是凭感觉判断"好像准了一些"。支持不同配置版本横向对比的调试套件,是生产级 RAG 系统不可缺少的基础设施。


七、一个经常被忽视的架构问题:知识库腐化

企业知识库不是静态的。政策更新、产品迭代、人员变动——今天准确的答案,三个月后可能已经过时。

知识库腐化(Knowledge Base Decay)是 RAG 系统在生产环境中最隐性的质量风险。用户不会告诉你"这个答案是旧的",他们只是慢慢地不再信任这个系统。

工程层面的应对:

  • 版本控制:每次文档更新生成新版本,保留历史版本以供回溯

  • 自动更新触发:与文档管理系统集成,文档变更时自动触发重新切片和向量化

  • 时效标记:对召回的 Chunk 附加创建/更新时间,在 Prompt 中提示 LLM 注意时效性

  • 主动失效检测:定期对高频查询进行人工抽检,识别已失效的答案

以国内智能体服务商 AgentCore 为例,其知识管理模块内置了文件版本对比能力,能够识别不同版本之间内容的相同、相似与变更之处,并支持知识库的版本控制与自动更新——这在企业级 RAG 场景中是减少知识腐化风险的实用机制。


八、写在最后:RAG 是一项系统工程

把上述环节汇总成一张流水线:

原始文档
  → 版式感知解析 + 多模态提取
  → 结构感知切片 + 元数据保留
  → 向量化入库(Embedding 模型选型)
  → 混合检索(向量 + BM25 + NL2SQL)
  → 查询改写(HyDE / 子问题分解)
  → Rerank 精筛
  → Prompt 组装 + 上下文窗口管理
  → LLM 生成
  → 答案评估 + AB 测试 + 知识库维护

每一个箭头都是一个工程决策点,每一个决策都影响最终质量。没有"开箱即用的 RAG",只有持续打磨的 RAG 工程。

这也是为什么,那些在生产环境中真正跑起来的 RAG 系统,背后往往是一支既懂 NLP 又懂数据工程的团队,以及一套能够支撑持续迭代的平台基础设施。

选择一个具备完整 RAG 工具链的平台——尤其是支持私有化部署、国产模型适配、且提供全流程可观测能力的国产智能体平台——往往比从零搭建节省数倍的工程成本。这不是产品推荐,而是工程现实。


欢迎在评论区交流你在 RAG 工程中踩过的坑。

LLM工程化实战:构建可调试、可监控、可落地的RAG系统 大语言模型(LLM)应用已从概念验证迈入规模化落地阶段,其核心挑战不再局限于‘能否调用API’,而在于如何将RAG、微调、Prompt工程等技术组件,整合为具备可观测性、可归因性与可维护性的软件系统。理解向量检索原理、chunking语义完整性与embedding领域适配性,是保障召回质量的基础;掌握全链路埋点(如retrieval_recall@5、context_relevance_score)和生产级配置(如hnsw索引、Redis缓存),则直接决定系统稳定性与QPS表现。本文聚焦真实工程卡点——当搜 阅读详情

相关推荐

LLM落地实战:AI Agent与RAG工程化落地指南

大语言模型(LLM)从实验室走向生产环境,核心在于工程化落地能力。AI Agent通过状态管理与目标分解,实现多步任务自动编排;RAG则构建动态知识注入机制,解决模型幻觉与知识滞后问题。二者协同形成‘Agentic RAG’范式,显著提升系统自主求解能力。技术价值体现在可复现、可部署、可监控的最小可行单元(MVP)构建——如基于Ollama+LangChain+Chroma快速搭建PDF智能问答系统,或用AutoGen编排会议纪要生成流水线。典型应用场景覆盖法律文书审查、供应链风险预警、企业知识库问答等。本

weixin_30235225的博客 382

RAG实战指南:从原理到落地的完整工程化方法

RAG(检索增强生成)是一种让大语言模型安全接入私有知识的核心技术,其本质是通过语义检索将外部文档动态注入生成过程,突破模型静态知识边界。它基于向量数据库实现语义匹配而非关键词搜索,显著提升‘高血压用药’与‘降压药’等同义表达的理解能力。技术价值在于无需微调模型即可实现知识实时更新、权限可控与成本可控,广泛应用于企业知识库问答、智能客服、合规审查等场景。本文聚焦RAG落地中的关键设计——文档切分、嵌入选型、混合检索与提示词约束,提供可复用的开源方案与避坑清单。

weixin_29061821的博客 343

LLM生产级落地:Prompt、RAG与微调的工程化铁律

大语言模型(LLM)在真实业务场景中失效,往往并非模型能力不足,而是工程链路断裂所致。理解Prompt工程的本质是设计人机协作协议,掌握RAG的关键在于语义感知的分块与混合检索,而Fine-tuning的价值则聚焦于低延迟、强结构化或隐性知识内化等不可替代场景。三者构成从快速响应(Prompt)→动态增强(RAG)→深度适配(Fine-tuning)的递进式加固体系。本书以制造业设备诊断、金融合规问答、医疗病历摘要等典型生产案例为锚点,直击非结构化数据清洗、向量库选型调参、LoRA四维调优、幻觉防控机制等2

weixin_30301449的博客 444

RAG 开发者全栈指南:从 “搜索 + LLM” 到完整工程化生态的演进

RAG已从临时解决方案发展为完整技术栈,涵盖数据提取、嵌入生成、向量存储、模型调度等7大层级。其核心价值是为大模型提供实时更新、专属定制的安全外部记忆,解决幻觉、知识更新和私有数据落地问题。生产级RAG需搭建全链路工程体系,而非简单拼接工具,关键在于数据质量、检索准确率和持续评估优化。当前RAG生态已成熟,开发者可根据场景选择各层工具,但需避免过度依赖大模型或忽视评估体系的误区。未来RAG将向标准化基础设施演进,掌握其完整技术栈成为AI时代核心竞争力。

释迦呼呼的博客 1202

告别WSL!实测AMD ROCm7预览版在Windows下跑ComfyUI,速度提升与避坑全记录

本文详细记录了在Windows原生环境下部署AMD ROCm7+PyTorch+ComfyUI的全流程,相比WSL环境性能显著提升。涵盖硬件兼容性确认、开发环境配置、Python环境搭建、ComfyUI部署优化及性能对比测试,为AI绘图爱好者提供实用指南。

weixin_42528090的博客 672

13 万字 C 语言从入门到精通保姆级教程2021 年版

13 万字C语言保姆级教程,从入门到精通。

李南江 61万+

RAG全链路拆解:从LLM基础到生产级应用实践

大语言模型(LLM)正在重塑软件系统,而生成式AI(GenAI)应用的核心落地方式之一便是检索增强生成(RAG)。RAG通过外部知识库检索与用户问题相关的内容,再交由大模型生成可靠回答,有效缓解了模型幻觉与知识陈旧问题。理解RAG需从基础概念入手:Token与上下文窗口决定模型能力边界,Embedding向量化与向量检索实现语义匹配,Prompt工程则约束输出质量。在工程层面,LangChain等框架简化了文档加载、文本切分、向量存储与检索生成的串联流程,配合Chroma等轻量级向量库,可快速搭建本地知识库

weixin_34116110的博客 579

Windows系统下Mamba环境配置实战:从零到编译成功

本文详细记录了在Windows系统下从零开始配置Mamba深度学习环境的完整实战过程。针对官方不直接支持Windows的难点,文章提供了关键解决方案,包括安装特定版本的Python、PyTorch与第三方Triton,以及修改源码以解决Windows编译器的兼容性问题,最终成功编译并运行Mamba-SSM。

weixin_28842269的博客 501

LLM写作工程化:从提示词到RAG的完整工作流

大语言模型(LLM)正在重塑写作流程,但仅靠聊天框无法实现稳定高效的AI辅助创作。真正可落地的LLM写作需要工程化思维:将写作拆解为选题、提纲、初稿、改写、校对等子任务,并依托提示词工程设定角色、任务与输出约束;通过RAG(检索增强生成)连接私有知识库,让模型基于真实资料生成,有效抑制幻觉;同时需理解模型精度(如FP16、BF16)与显存估算,才能合理选择API或本地推理方案。这套方法论适用于技术博客、课程讲义、内部文档等场景,帮助写作者建立从素材清洗、向量化到生成修订的完整流水线,将一次性提示词沉淀为可持

weixin_29038345的博客 356

论文解读——YOLOv11(目标检测)

YOLOv11提供了多种型号和功能,以满足不同应用场景的需求。对象检测对象检测是YOLOv11的基本功能之一。在训练时,YOLOv11能够检测图像中的对象,并输出对象的边界框和类别信息。这一功能在自动驾驶、智能安防等领域具有广泛应用。图像分割图像分割是YOLOv11的另一个重要功能。与对象检测不同,图像分割不仅检测对象的边界框,还能够对图像中的对象进行像素级别的分割。这使得YOLOv11在医疗影像分析、工业制造等领域具有更高的应用价值。姿态检测姿态检测是YOLOv11的一个独特功能。

qq_38220914的博客 4465

GD32F303 ADC+DMA实战:用硬件过采样搞定多通道数据采集(附完整代码)

本文详细介绍了GD32F303系列MCU通过ADC+DMA结合硬件过采样技术实现多通道数据采集的实战方案。从硬件设计要点到软件配置全解析,包括时钟树配置、ADC模块初始化和DMA传输设置,提供了完整的代码示例和优化技巧,帮助工程师构建高精度、低功耗的数据采集系统。

weixin_30466039的博客 324

Dify+RAG+Workflow:LLM应用工程化落地实战指南

大语言模型(LLM)已从技术概念进入业务系统核心,但真正落地面临幻觉控制、逻辑编排与知识增强三大挑战。RAG通过结构化知识注入缓解幻觉,Workflow实现多步推理与人工协同的可编排流程,而Dify作为面向LLM应用的操作系统级平台,统一抽象模型调用、知识管理与权限治理。其价值不仅在于快速搭建问答Bot,更在于支撑合同审查、API文档生成、供应链预警等高可靠业务场景。本文基于7个真实生产项目经验,详解Dify本地部署避坑、pgvector向量库选型、InfraNodus图谱增强RAG、Human Input

weixin_33212799的博客 232

系统建模语言 (SysML)

系统建模语言

追赶时代的博客 752

LLM长上下文处理实战:RAG与工程化防爆策略

在构建大语言模型应用时,上下文窗口是核心限制,它决定了模型单次处理信息的容量。其原理在于Transformer架构的自注意力机制计算复杂度随序列长度呈平方级增长,直接制约了输入长度。这一限制的技术价值在于,迫使开发者必须设计高效的信息管理策略,以在可控成本下处理海量数据。应用场景广泛覆盖了智能文档分析、多轮对话系统、代码库理解及知识库问答等领域。针对长上下文挑战,检索增强生成技术通过将外部知识库向量化,实现了精准的信息检索与动态上下文组装,成为当前工程实践的首选方案。结合智能文档分块、并发控制及Token精

weixin_29062255的博客 346

Doris数据过期策略:自动清理历史数据

在数据的世界里,就像我们的房间会堆满各种东西一样,数据库也会积累大量的数据。随着时间的推移,很多历史数据可能不再经常被使用,但它们却占据着宝贵的存储空间。Doris是一款强大的数据库,为了让它能更高效地运行,合理地管理数据,我们就需要一种方法来自动清理那些不再需要的历史数据。本文的目的就是详细介绍Doris的数据过期策略,让大家知道如何利用这个策略来实现自动清理历史数据。范围涵盖了从基本概念到实际操作的各个方面。本文会先介绍一些和Doris数据过期策略相关的术语,让大家对一些专业词汇有个基本的了解。

软件工程实践的博客 559

【AI应用实战-claude】在飞书上接入claudecode进行远程使用(十三)

本文介绍了三种将ClaudeCode接入飞书的方案,包括官方飞书CLI工具(推荐)、cc-connect中转工具和MCP协议集成。官方飞书CLI适合自动化办公场景,通过简单配置即可实现消息发送和文档管理;cc-connect适用于远程调用Claude功能,通过飞书群聊触发响应;MCP协议则适合开发者构建复杂工作流。文章提供了详细的操作步骤,并针对不同使用场景给出了选择建议。

1019

AI工程化实践指南:从Newsletter到可落地的RAG与LLM工作流

RAG(检索增强生成)和LLM(大语言模型)工程化是当前AI落地的核心技术路径。理解其底层原理——如向量检索的语义对齐机制、LoRA微调的参数效率优势、以及生产环境中模型服务与评估闭环的设计逻辑——是突破‘能跑通但不能上线’瓶颈的关键。这类技术不仅支撑智能客服、法律合同分析等垂直场景,更在资源受限条件下(如单机、低显存环境)展现出极强的适配性与可复现性。本文以一份真实AI社区通讯为蓝本,深度拆解其中《Building AI for Production》方法论、GalaxyAI API工程细节及Discor

weixin_33738578的博客 346

IEM模型,地表粗糙度模拟

利用微波反演土壤水分时候,利用IEM模型可以实现对随机地表的模拟

RAG工程化实战:从文档加载到生成融合的完整指南

检索增强生成(RAG)通过引入外部知识库,让大模型在生成前先检索相关资料,从而缓解幻觉并提升回答准确性。其核心原理是将文档切分为语义块、向量化存储,并在查询时进行相似度检索与重排(Rerank),最后将高相关上下文拼装给生成模型。这种架构在企业知识库、智能问答和文档助手中具有广泛的应用价值。然而,从Demo到生产级应用,需仔细处理文本切分、向量模型选型、多路召回、Rerank重排以及评估指标等工程细节。本文围绕RAG完整链路,结合LangChain等工具,给出从加载、切分、向量化到检索、重排、生成的实战代码

weixin_29065959的博客 334

深度学习工具包 DeepLearningToolbox

深度学习工具包Deprecation notice.-----This toolbox is outdated and no longer maintained.There are much better tools available for deep learning than this toolbox, e.g. [Theano](http://deeplearning.net/software/theano/), [torch](http://torch.ch/) or [tensorflow](http://www.tensorflow.org/)I would suggest you use one of the tools mentioned above rather than use this toolbox.Best, Rasmus.DeepLearnToolbox================A Matlab toolbox for Deep Learning.Deep Learning is a new subfield of machine learning that focuses on learning deep hierarchical models of data.It is inspired by the human brain's apparent deep (layered, hierarchical) architecture.A good overview of the theory of Deep Learning theory is[Learning Deep Architectures for AI](http://www.iro.umontreal.ca/~bengioy/papers/ftml_book.pdf)For a more informal introduction, see the following videos by Geoffrey Hinton and Andrew Ng.* [The Next Generation of Neural Networks](http://www.youtube.com/watch?v=AyzOUbkUf3M) (Hinton, 2007)* [Recent Developments in Deep Learning](http://www.youtube.com/watch?v=VdIURAu1-aU) (Hinton, 2010)* [Unsupervised Feature Learning and Deep Learning](http://www.youtube.com/watch?v=ZmNOAtZIgIk) (Ng, 2011)If you use this toolbox in your research please cite [Prediction as a candidate for learning deep hierarchical models of data](http://www2.imm.dtu.dk/pubdb/views/publication_details.php?id=6284)```@MASTERSTHESIS\{IMM2012-06284, author = "R. B. Palm", title = "Prediction as a candidate for learning deep hierarchical models of data", year = "2012",}```Contact: rasmusbergpalm at gmail dot comDirectories included in the toolbox-----------------------------------`NN/` - A library for Feedforward Backpropagation Neural Networks`CNN/` - A library for Convolutional Neural Networks`DBN/` - A library for Deep Belief Networks`SAE/` - A library for Stacked Auto-Encoders`CAE/` - A library for Convolutional Auto-Encoders`util/` - Utility functions used by the libraries`data/` - Data used by the examples`tests/` - unit tests to verify toolbox is workingFor references on each library check REFS.mdSetup-----1. Download.2. addpath(genpath('DeepLearnToolbox'));Example: Deep Belief Network---------------------```matlabfunction test_example_DBNload mnist_uint8;train_x = double(train_x) / 255;test_x = double(test_x) / 255;train_y = double(train_y);test_y = double(test_y);%% ex1 train a 100 hidden unit RBM and visualize its weightsrand('state',0)dbn.sizes = [100];opts.numepochs = 1;opts.batchsize = 100;opts.momentum = 0;opts.alpha = 1;dbn = dbnsetup(dbn, train_x, opts);dbn = dbntrain(dbn, train_x, opts);figure; visualize(dbn.rbm{1}.W'); % Visualize the RBM weights%% ex2 train a 100-100 hidden unit DBN and use its weights to initialize a NNrand('state',0)%train dbndbn.sizes = [100 100];opts.numepochs = 1;opts.batchsize = 100;opts.momentum = 0;opts.alpha = 1;dbn = dbnsetup(dbn, train_x, opts);dbn = dbntrain(dbn, train_x, opts);%unfold dbn to nnnn = dbnunfoldtonn(dbn, 10);nn.activation_function = 'sigm';%train nnopts.numepochs = 1;opts.batchsize = 100;nn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.10, 'Too big error');```Example: Stacked Auto-Encoders---------------------```matlabfunction test_example_SAEload mnist_uint8;train_x = double(train_x)/255;test_x = double(test_x)/255;train_y = double(train_y);test_y = double(test_y);%% ex1 train a 100 hidden unit SDAE and use it to initialize a FFNN% Setup and train a stacked denoising autoencoder (SDAE)rand('state',0)sae = saesetup([784 100]);sae.ae{1}.activation_function = 'sigm';sae.ae{1}.learningRate = 1;sae.ae{1}.inputZeroMaskedFraction = 0.5;opts.numepochs = 1;opts.batchsize = 100;sae = saetrain(sae, train_x, opts);visualize(sae.ae{1}.W{1}(:,2:end)')% Use the SDAE to initialize a FFNNnn = nnsetup([784 100 10]);nn.activation_function = 'sigm';nn.learningRate = 1;nn.W{1} = sae.ae{1}.W{1};% Train the FFNNopts.numepochs = 1;opts.batchsize = 100;nn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.16, 'Too big error');```Example: Convolutional Neural Nets---------------------```matlabfunction test_example_CNNload mnist_uint8;train_x = double(reshape(train_x',28,28,60000))/255;test_x = double(reshape(test_x',28,28,10000))/255;train_y = double(train_y');test_y = double(test_y');%% ex1 Train a 6c-2s-12c-2s Convolutional neural network %will run 1 epoch in about 200 second and get around 11% error. %With 100 epochs you'll get around 1.2% errorrand('state',0)cnn.layers = { struct('type', 'i') %input layer struct('type', 'c', 'outputmaps', 6, 'kernelsize', 5) %convolution layer struct('type', 's', 'scale', 2) %sub sampling layer struct('type', 'c', 'outputmaps', 12, 'kernelsize', 5) %convolution layer struct('type', 's', 'scale', 2) %subsampling layer};cnn = cnnsetup(cnn, train_x, train_y);opts.alpha = 1;opts.batchsize = 50;opts.numepochs = 1;cnn = cnntrain(cnn, train_x, train_y, opts);[er, bad] = cnntest(cnn, test_x, test_y);%plot mean squared errorfigure; plot(cnn.rL);assert(er<0.12, 'Too big error');```Example: Neural Networks---------------------```matlabfunction test_example_NNload mnist_uint8;train_x = double(train_x) / 255;test_x = double(test_x) / 255;train_y = double(train_y);test_y = double(test_y);% normalize[train_x, mu, sigma] = zscore(train_x);test_x = normalize(test_x, mu, sigma);%% ex1 vanilla neural netrand('state',0)nn = nnsetup([784 100 10]);opts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samples[nn, L] = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.08, 'Too big error');%% ex2 neural net with L2 weight decayrand('state',0)nn = nnsetup([784 100 10]);nn.weightPenaltyL2 = 1e-4; % L2 weight decayopts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex3 neural net with dropoutrand('state',0)nn = nnsetup([784 100 10]);nn.dropoutFraction = 0.5; % Dropout fraction opts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex4 neural net with sigmoid activation functionrand('state',0)nn = nnsetup([784 100 10]);nn.activation_function = 'sigm'; % Sigmoid activation functionnn.learningRate = 1; % Sigm require a lower learning rateopts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex5 plotting functionalityrand('state',0)nn = nnsetup([784 20 10]);opts.numepochs = 5; % Number of full sweeps through datann.output = 'softmax'; % use softmax outputopts.batchsize = 1000; % Take a mean gradient step over this many samplesopts.plot = 1; % enable plottingnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex6 neural net with sigmoid activation and plotting of validation and training error% split training data into training and validation datavx = train_x(1:10000,:);tx = train_x(10001:end,:);vy = train_y(1:10000,:);ty = train_y(10001:end,:);rand('state',0)nn = nnsetup([784 20 10]); nn.output = 'softmax'; % use softmax outputopts.numepochs = 5; % Number of full sweeps through dataopts.batchsize = 1000; % Take a mean gradient step over this many samplesopts.plot = 1; % enable plottingnn = nntrain(nn, tx, ty, opts, vx, vy); % nntrain takes validation set as last two arguments (optionally)[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');```[![Bitdeli Badge](https://d2weczhvl823v0.cloudfront.net/rasmusbergpalm/deeplearntoolbox/trend.png)](https://bitdeli.com/free "Bitdeli Badge")

win10 跳过U8环境检测的IE WebControls.rar

win10 安装u8的时候 提示IE WebControls 不通过,这个工具可以欺骗u8的检查。 跳过U8环境检测的IE WebControls。提示导入失败后,重新检测通过。

LLM接入数据只是21%:RAG工程化实战指南

大语言模型(LLM)应用正加速落地,企业知识库问答、智能助手等场景对检索增强生成(RAG)的需求激增。RAG的核心原理是将外部数据索引到向量库,在模型推理前检索相关片段并注入上下文,从而提升回答的准确性与时效性。然而,仅做到“数据可读”只解决了完整方案的21%——模型能否稳定调用工具、遵守权限边界、在复杂任务中自主编排,才是决定生产效果的关键。本文从最简RAG原型出发,逐步引入混合检索、重排序、Function Calling与Agent编排,结合Spring AI等工程实践,剖析LLM应用从“能跑”到“敢

weixin_42659194的博客 349

LLM工程化全体系概念汇总

RAG(检索增强生成):针对“本地文档、数据库检索”场景,通过“向量数据库”,将本地文档转化为向量形式,基于语义匹配,检索出与需求相关的片段,再传入LLM,辅助其生成结果——本质是“为LLM补充私有化、专业化信息”,解决LLM“不了解本地内容”的问题。小结:Agent是工具扩展的核心载体,Search/RAG是信息类工具,Function Calling和MCP是沟通约定,四者共同解决了LLM“能力边界有限”的痛点,让LLM从“能对话”走向“能办事”,实现了“需求→拆解→工具调用→结果反馈”的闭环。

2301_80320721的博客 424

【LLM基础】—— RAG检索增强生成

摘要 RAG(检索增强生成)技术通过将外部知识库与LLM结合,有效解决大语言模型的知识幻觉和过期问题。其核心是"检索-生成"两阶段流程:离线构建向量化知识库,在线检索相关片段并生成回答。相比微调和Prompt硬塞方案,RAG在准确性、灵活性和成本间取得平衡。本文提供从原型到生产的全栈技术选型建议,并演示基于Ollama+Chroma的本地化实现方案,包括文档分块、向量检索和Prompt优化等关键环节,为LLM落地企业知识管理提供实用指南。

花间相见的博客 973

LLM文档处理实战:从RAG到微调的技术方案解析

大语言模型(LLM)文档处理技术通过将非结构化文档转换为机器可读格式,实现智能化信息提取与分析。其核心原理基于自然语言处理和深度学习,能够自动完成文档解析、文本分块和语义理解。在技术价值层面,LLM文档处理显著提升了信息检索效率和知识管理能力,特别适用于企业知识库构建和技术文档自动化处理。RAG(检索增强生成)作为关键技术方案,通过向量化检索确保答案准确性,而微调技术则适用于特定领域的风格迁移。在实际应用场景中,这些技术可广泛应用于单文档问答、多文档信息聚合等需求,帮助用户从海量PDF、Word文档中快速提

weixin_31458015的博客 341

LLM工程化实战:RAG、Reasoning与RFT落地关键

大型语言模型(LLM)已从研究热点演进为现代软件工程师的必备底层能力,其核心价值不在于模型参数规模,而在于可工程化、可交付、可审计的系统构建能力。RAG技术解决知识实时性与准确性问题,Reasoning模型通过显式思考链提升可解释性与可控性,而RFT(强化微调)则以人类偏好信号驱动领域专家级行为建模。三者协同构成AI-native应用的黄金三角:RAG负责信息接入,Reasoning实现逻辑编排,RFT保障决策对齐业务目标。本文聚焦金融、医疗等强合规场景,深入解析Ollama本地部署陷阱、条款级语义分块、J

weixin_29051193的博客 276

RAG架构深度实践:从文档切分到检索增强的工程化全链路

RAG架构的工程化核心是"四阶段管线":文档解析提取结构、语义切分保留层级、混合检索多路召回、答案生成标注引用。Python实现的SemanticChunker按标题层级和句子边界切分,重叠窗口防止信息截断。HybridRetriever结合向量检索和关键词检索,重排序时考虑时效性和层级深度。RAG不是万能的——知识冲突、多跳推理和大规模知识库是当前方案的边界。在这些边界内,四阶段管线可以提供稳定可靠的检索增强能力。删除填充短语:移除了"值得注意的是"、"实际上"等冗余表达打破公式结构。

specter__的博客 4218

LLM生产化实战:SLO驱动的RAG工程化与服务契约设计

大语言模型(LLM)从实验原型走向生产系统,核心挑战不在模型能力本身,而在工程可靠性与可交付性。本文围绕LLM生产化这一高频搜索概念,深入解析SLO驱动的服务契约如何将模糊的‘响应快、结果准’转化为可测量、可执行、可审计的技术承诺;结合RAG工程化实践,拆解检索召回率、延迟P95、结果多样性与生成一致性四大可量化维度,覆盖输入污染检测、向量索引调优、动态批处理决策等真实故障域。内容直击算法工程师上线卡点、MLOps团队可观测性建设及技术决策者成本权衡需求,提供开箱即用的Prometheus指标定义、Fast

weixin_30376083的博客 501

AI与LLM工程实战:RAG完整指南课程解析

大语言模型(LLM)与生成式AI(GenAI)的工程落地,关键在于解决知识时效性与模型幻觉问题。检索增强生成(RAG)通过先检索后生成的方式,让模型基于外部文档输出可信答案,是当前企业构建知识库、智能问答系统的主流路径。RAG链路涉及文档解析、向量化、向量数据库、检索策略与Prompt组装等核心环节,同时需要结合LangChain等编排框架进行快速实现。从文档加载到评估调优,一套完整的RAG系统能够显著降低微调成本并提升回答可靠性。本文解析的Udemy系列课程,系统覆盖了RAG完整实现与LLM工程实践,适合

weixin_30420305的博客 403
上一篇: 从“会聊天“到“能干活“:AI Agent 在企业场景的工程化落地
下一篇: 2026年Agent智能体开发平台选购指南,深度评测帮你精准避坑
IT阿瑞
博客等级 码龄2年 51粉丝 75原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值