返回列表

为什么我们最终没有用 AI 做客户项目的核心功能

2026年8月31日技术分享
今年有一个客户项目,技术上非常适合接入大模型,团队评估了两周,最终决定不用。写下原因,不是为了否定 AI,而是想说清楚:技术选型不能只看"能不能",还要看"值不值"。

这是一个真实的项目经历。

\n

年初接了一个客户的需求:做一个企业内部的文档管理系统,核心功能是"从海量合同和报告中自动提取关键信息,生成摘要和对比报告"。听起来,这简直就是为 LLM 量身定做的场景——RAG + 摘要生成,标准流程。

\n

但最终,我们建议客户用传统的规则引擎加关键词匹配来实现。不是技术做不到,而是算了一笔账之后,觉得不划算。

\n\n

为什么不直接上大模型

\n

第一:成本不可控

\n

客户的文档量大概在 50 万份左右,每天新增 300-500 份。如果每份文档都调用一次 LLM API 做摘要,按 DeepSeek V3 的定价算,每天光 API 费用就在 50-80 元,一年接近 2-3 万元。对于客户来说,为一个辅助功能每年多花几万块,值不值?

\n

如果自己部署开源模型(比如 Qwen-7B),算力成本更高——一台 A100 显卡服务器月租金就要几万。50 万份文档的量,自建模型不一定比调 API 便宜。

\n\n

第二:准确率有瓶颈

\n

我们拿 500 份真实合同做了测试。LLM 提取合同关键信息(金额、日期、签约方)的准确率大约是 92%。听起来不错,但剩下 8% 的错误意味着:每 100 份合同有 8 份的关键信息是错的。对于法律文档来说,8% 的错误率是不能接受的。

\n

而规则引擎加正则匹配,针对格式规范的合同(客户的合同有标准模板),准确率能做到 98% 以上。虽然规则编写成本高一些,但一次写好长期受益。

\n\n

第三:可解释性要求

\n

客户法务部门提了一个要求:AI 提取的信息必须能追溯到原文,并且要给出置信度。如果是一个黑盒模型输出的结果,很难说清楚"为什么提取了这个字段"。

\n

规则引擎的优势就在这里——每一段提取逻辑都有明确的代码依据,出了问题可以直接定位到规则。这在企业级应用中非常重要。

\n\n

那 AI 用在哪儿了

\n

我们没说"不能用 AI"。最终方案里,AI 用在了一个辅助场景:智能搜索。客户在 50 万份文档里搜一个关键词,传统全文搜索返回的结果排序不理想。我们接入了 Embedding 模型做语义搜索,让搜索结果按相关性排序。这个场景的好处是:

\n
    \n
  • 成本低:一次向量化,长期使用
  • \n
  • 容错高:搜索结果排列靠后不是致命问题
  • \n
  • 体验提升明显:客户反馈"搜索结果比以前准多了"
  • \n
\n\n

几点思考

\n

这个项目做完之后,我有几点想法:

\n
    \n
  1. 技术选型的核心永远是"值不值",而不是"能不能"。大模型能做的事很多,但不代表所有事都应该用它来做
  2. \n
  3. AI 在高容错场景中价值最大(推荐、搜索、聊天),在低容错场景中需要非常谨慎(财务、法律、医疗)
  4. \n
  5. 规则引擎 + AI 的组合往往是最好的方案——能用规则解决的问题用规则,剩下的交给 AI
  6. \n
  7. 做给客户用的项目,要求比做自己的产品高得多。你自己的工具出 bug 可以忍,客户的系统出问题不行
  8. \n
\n

这篇文章不劝退 AI,也不鼓吹 AI。只是从一个实际项目的角度,说说我们为什么做了这个选择。如果对你有参考价值,那就值了。