这是一个真实的项目经历。
\n年初接了一个客户的需求:做一个企业内部的文档管理系统,核心功能是"从海量合同和报告中自动提取关键信息,生成摘要和对比报告"。听起来,这简直就是为 LLM 量身定做的场景——RAG + 摘要生成,标准流程。
\n但最终,我们建议客户用传统的规则引擎加关键词匹配来实现。不是技术做不到,而是算了一笔账之后,觉得不划算。
\n\n为什么不直接上大模型
\n第一:成本不可控
\n客户的文档量大概在 50 万份左右,每天新增 300-500 份。如果每份文档都调用一次 LLM API 做摘要,按 DeepSeek V3 的定价算,每天光 API 费用就在 50-80 元,一年接近 2-3 万元。对于客户来说,为一个辅助功能每年多花几万块,值不值?
\n如果自己部署开源模型(比如 Qwen-7B),算力成本更高——一台 A100 显卡服务器月租金就要几万。50 万份文档的量,自建模型不一定比调 API 便宜。
\n\n第二:准确率有瓶颈
\n我们拿 500 份真实合同做了测试。LLM 提取合同关键信息(金额、日期、签约方)的准确率大约是 92%。听起来不错,但剩下 8% 的错误意味着:每 100 份合同有 8 份的关键信息是错的。对于法律文档来说,8% 的错误率是不能接受的。
\n而规则引擎加正则匹配,针对格式规范的合同(客户的合同有标准模板),准确率能做到 98% 以上。虽然规则编写成本高一些,但一次写好长期受益。
\n\n第三:可解释性要求
\n客户法务部门提了一个要求:AI 提取的信息必须能追溯到原文,并且要给出置信度。如果是一个黑盒模型输出的结果,很难说清楚"为什么提取了这个字段"。
\n规则引擎的优势就在这里——每一段提取逻辑都有明确的代码依据,出了问题可以直接定位到规则。这在企业级应用中非常重要。
\n\n那 AI 用在哪儿了
\n我们没说"不能用 AI"。最终方案里,AI 用在了一个辅助场景:智能搜索。客户在 50 万份文档里搜一个关键词,传统全文搜索返回的结果排序不理想。我们接入了 Embedding 模型做语义搜索,让搜索结果按相关性排序。这个场景的好处是:
\n- \n
- 成本低:一次向量化,长期使用 \n
- 容错高:搜索结果排列靠后不是致命问题 \n
- 体验提升明显:客户反馈"搜索结果比以前准多了" \n
几点思考
\n这个项目做完之后,我有几点想法:
\n- \n
- 技术选型的核心永远是"值不值",而不是"能不能"。大模型能做的事很多,但不代表所有事都应该用它来做 \n
- AI 在高容错场景中价值最大(推荐、搜索、聊天),在低容错场景中需要非常谨慎(财务、法律、医疗) \n
- 规则引擎 + AI 的组合往往是最好的方案——能用规则解决的问题用规则,剩下的交给 AI \n
- 做给客户用的项目,要求比做自己的产品高得多。你自己的工具出 bug 可以忍,客户的系统出问题不行 \n
这篇文章不劝退 AI,也不鼓吹 AI。只是从一个实际项目的角度,说说我们为什么做了这个选择。如果对你有参考价值,那就值了。
