存量系统怎么接入 AI？四种改造路径、成本与踩坑清单

2026-11-02 11:50:15

先给结论：你的 ERP、CRM、OA 不需要推倒重写，也能接入 AI。 2026 年企业做 AI 改造，真正的问题不是"用哪个模型"，而是"从哪一层切进去"。这篇文章把市面上可落地的四条路径拆开——外挂式、RAG 知识库、Agent 工作流、数据层重构——每条给出适用条件、成本区间和失败原因，最后给一套可以直接拿去验收的方法。

一、四条路径，先看总表

下表按"改动深度"从浅到深排列。多数企业的第一站应该是 A 或 B，而不是直接上 Agent。

路径

成本区间

周期

能解决什么

A 外挂式

2–6 万

2–4 周

在现有界面旁加一个 AI 按钮：生成文案、总结会议、提取单据要素、翻译

B RAG 知识库

5–15 万

4–8 周

让 AI 读懂企业内部资料：制度问答、产品参数查询、售后知识检索

C Agent 工作流

10–30 万

8–16 周

让 AI 动手做事：查数据、填表单、发起审批、跨系统取数与汇总

D 数据层重构

30 万以上

3–6 个月

口径统一、主数据治理、模型微调；适用于多系统数据打架、准备长期投入的企业

一句话选型：只想让 AI"答得准"，走 B；想让 AI"帮着做"，走 C；只想先花小钱试试水，走 A；如果数据散在十几个系统里口径各不相同，那前面三条都会失败——得先把 D 做一半，至少做到关键字段能对齐。

二、用三个问题判断你该走哪条

问题一：你希望 AI 回答，还是希望它执行？

「差旅标准是多少」是回答，走 B。「帮我查上季度华东区超预算的订单，发起审批」是执行，走 C。执行类需求会带来写操作风险，成本和风险都比回答高一个量级，不要一上来就做。

问题二：数据在哪里？

如果知识在文档里（制度、合同、产品手册、售后记录），B 最有效；如果数据在数据库和业务系统里（订单、库存、客户、工单），那就需要接口层，C 更合适。很多项目的失败，是把结构化数据当文档去检索——问「上个月某客户回款多少」，用文档检索永远算不准，得走 SQL 查询。

问题三：原系统有没有可用的接口？

这是最容易被忽略的前置条件。改造前先做一次接口盘点：核心业务能不能通过 API 或数据库视图取到数据？有没有字段说明？如果答案都是"没有、要问当年的开发"，那项目的第一阶段必然是补接口和写文档，而不是调模型。

这也是为什么由原系统开发商来做 AI 改造，通常比外部 AI 公司更省事——数据结构、权限模型、历史遗留逻辑都在自己手里，不需要花两三周去逆向。

三、四条路径分别怎么做

路径 A：外挂式——两万块也能看到效果

不改动系统架构，在现有页面上加一个入口，调用大模型 API 完成单点任务。典型场景：合同要素提取、会议纪要生成、客户跟进记录总结、工单分类与派单建议。

优点是快、便宜、风险低，适合用来验证"员工到底会不会用"。局限是它只处理"眼前这段文本"，不掌握业务上下文——问它"这个客户历史订单多少"是答不出来的。

路径 B：RAG 知识库——把企业资料变成可检索的知识

流程是：文档采集 → 清洗 → 切片 → 向量化 → 检索 → 生成答案，并在答案里标注来源段落。

真正的工作量在前两步，不在模型。企业文档的典型状态是：扫描版 PDF 没有文字层、同一份制度有 2019 和 2024 两个版本、Word 里靠加粗和颜色表达层级、关键参数散落在图片里。不清洗直接入库，问出来的答案一定是错的，而且错得很有自信。

一个关键设计是答案必须带出处。员工看到"依据《差旅管理办法》第 4.2 条"才会信任；只给一句结论，没人敢用。

路径 C：Agent 工作流——从"会说"到"会做"

这一层开始涉及真实的系统操作：查数据、填单、发起审批、生成报表。技术上是"模型 + 工具调用 + 权限控制 + 人工确认"的组合。

必须守住三条线：

写操作要人工确认。AI 可以填好单据，但提交按钮必须由人点。

权限必须继承原系统。见下一节，这是最容易出事故的地方。

单流程灰度。先做一个审批流，跑两周稳定了再扩到第二个。

路径 D：数据层重构——多数企业只需要做一半

完整的数据治理（主数据管理、指标口径统一、数据仓库建设）投入大、周期长，中小企业很少有必要全做。务实做法是只治理 AI 要用到的那几个字段：客户名称、订单号、金额、时间、门店/项目编码。这几个字段对齐了，C 和 B 的效果立刻不一样。

四、钱到底花在哪：八成在数据，不在模型

一个 12 万的 RAG 项目，典型成本分布是这样的：

环节

占比

说明

文档清洗与结构化

35%–45%

OCR、版本合并、切片策略、元数据标注（部门/生效日期/适用范围）

检索与提示工程

15%–20%

向量库选型、混合检索、重排序、答案模板

系统集成

15%–25%

嵌入原系统界面、单点登录、权限透传

评测与调优

10%–15%

评测集构建、准确率回归、Bad case 修复

模型调用成本

3%–8%

按 token 计费，通常每月几百到几千元

所以当有人报价"AI 改造 3 万全包"，你要问的不是"用的什么模型"，而是"我的文档谁来清洗、清洗到什么程度"。这一项省掉，后面全是返工。

五、五个最容易翻车的地方

坑一：权限没继承，AI 成了数据泄露通道

这是最严重、也最常见的问题。销售 A 问"我们公司客户有多少"，AI 把其他大区的客户名单一起答出来了——因为检索时没有按用户身份过滤。

正确做法：把当前用户身份透传到检索层，在数据过滤阶段就限定可见范围，而不是在提示词里写"不要透露其他部门数据"。提示词拦不住任何东西。

坑二：把结构化数据当文档检索

问"上月回款多少"，知识库检索半天给不出一句话；正确做法是识别意图后走 SQL 查询，把结果交给模型组织语言。该查库的查库，该检索的检索，混在一起用必然不准。

坑三：没有评测集，全凭感觉验收

上线前准备 50–100 条真实业务问题，每条写下标准答案，跑一遍记录准确率。没有这个基线，你无法判断"效果变差了"是因为换了模型、改了文档，还是数据更新了。

坑四：做成一个新入口，员工不用

员工每天已经在 CRM 里工作，你让他再打开一个"AI 助手"网页，使用率通常不到 5%。有效做法是把 AI 嵌回他正在用的那个界面——客户详情页里多一个"生成跟进建议"的按钮，比任何独立门户都管用。

坑五：一上线就全量铺开

先在 1 个部门、1 个高频场景跑两周，收集 Bad case，改完再扩。全量铺开后一旦出现几次错误回答，员工就再也不碰了——AI 产品的信任是一次性的。

不确定自己的系统能不能改？

把现有系统的模块清单和技术栈发给我们，我们可以先做一次接口与数据可改造性评估，告诉你哪条路径可行、大概什么量级、哪一步可能卡住。评估不收费。

官网在线咨询：www.cloudeffective.cn（工作日 9:00–18:30）

电话 / 微信：17722476866(微信同号)

六、怎么验收：三个指标，别用"感觉"

签约前就把验收标准写进合同，否则最后一句话就能扯皮一个月。建议用这三个可量化的指标：

答案准确率。用 50–100 条评测集跑，知识库类场景目标 85% 以上，含数据计算的场景目标 90% 以上（算错等于零分）。

周活跃使用率。上线一个月后，目标用户里每周至少用一次的比例，低于 30% 说明入口或场景选错了。

单次任务节省工时。比如客服查资料从 4 分钟降到 1 分钟，就是节省 75%。这个数字最能说服老板追加预算。

别忘了问一句："如果三个月后效果不达标，怎么办？"正规团队会给一个改进期与退出机制；只会说"AI 就是这样，需要慢慢调"的，通常没有评测体系，也没有能力定位问题。

七、常见问题

老系统接入 AI 需要推倒重写吗？

多数不需要。常见做法是在存量系统外层加一个 AI 能力层，通过接口或数据库视图读取数据，把问答、填单、报表解读嵌回原界面。只有当原系统连基本接口都没有、数据库结构混乱且无文档时，才需要先做数据与接口治理。

企业系统接入 AI 一般要多少钱？

2026 年行情：外挂式 2–6 万；RAG 知识库 5–15 万；含写操作的 Agent 工作流 10–30 万；数据层重构或模型微调 30 万以上。价格主要取决于数据治理工作量，而非模型调用成本——模型调用每月通常只有几百到几千元。

为什么很多企业上了 AI 之后员工不用？

三个原因：做成独立入口要额外打开；回答质量不稳定，错两次就失去信任；没有和流程绑定。有效做法是把 AI 嵌进员工每天在用的界面，并只在高频低风险场景先上线。

AI 接入后会不会泄露其他部门的数据？

会，如果权限没做继承。AI 层必须沿用原系统的数据权限，实现方式是把用户身份透传到检索环节，在数据过滤层校验，而不是在提示词里写"不要透露"。

怎么判断这次 AI 改造算成功？

开发前准备 50–100 条真实问题作为评测集；上线前跑准确率，上线后看周活跃使用率、答案采纳率、单次任务节省工时。三个指标都达标才算成功。

用公有云大模型还是私有化部署？

数据不敏感、追求低成本快速上线，用公有云 API；涉及客户隐私、财务数据或行业合规，选私有化部署或专有实例，成本增加 30%–80%，并需额外的推理服务器预算。

知识库问答为什么经常答非所问？

九成在数据侧：扫描件没有文字层、同一制度多个版本、文件没有生效日期、关键参数在图片里。上线前必须做清洗、切片、版本标注与元数据补全。模型很少是瓶颈。

改造期间原有系统还能正常用吗？

可以。外挂式与 RAG 都是旁路接入，不动核心表结构。Agent 若涉及写操作，先在测试环境联调，再按单流程灰度上线。