把模型放进车间之前：人工智能产业应用的三道窄门

模型进入车间，问题往往不在准确率。演示可以剪辑。产线不行。一次误检，停线十分钟；一次漏检，返工一批。人工智能产业应用的分水岭，就藏在这种乏味的时刻。

很多方案在实验室里漂亮，到了现场却迅速退化。光照变化、物料批次差异、设备振动、操作员习惯，都会把训练集的边界撕开。于是争论出现：是模型不行，还是流程没接住？这类争论没有标准答案，但有一个判断标准——误差出现后，系统能否定位、隔离、回滚并追责。

车间不是演示厅

工业视觉是常见切口。相机、光源、边缘盒子、标注平台、报警器，任何一环松动，效果都会漂。某类缺陷样本少，标注员凭经验画框，模型学到的是标注习惯，不是缺陷本身。换班后，判废率突然上升。工程师先查模型，排查后才定位到光源老化。你看，问题并不戏剧化，甚至有点乏味。

所以，技术原理要落到约束上：数据分布是否稳定，推理时延是否可接受，异常样本能否回流，模型版本能否灰度。这些词不性感，却决定项目能否活过三个月。生成式模型也一样。客服场景的流畅回答，进入工单系统后可能触发合规审查；代码补全进入研发流程后，要面对依赖许可与安全扫描。能力越通用，接入点越要窄。

责任链比模型更重

一个反例：医疗影像辅助诊断。模型输出概率，医生签字负责。若把概率直接写进报告，责任就被稀释。合理的路径是让模型做排序、提示、复阅，不替代诊断结论。这里的关键不是算法多复杂，而是人机分工是否写进流程，失败模式是否被预案覆盖。

数据治理常被低估。训练数据从哪来，授权是否完整，脱敏是否可逆，标注一致性如何度量，这些问题在试点阶段可以糊弄，规模化后都会回来。尤其是跨机构数据，分布差异大，标签口径不一。把多个来源简单拼接，模型可能学到机构特征，而非疾病特征。听起来像老问题，实际很难。

责任链还包括供应商。模型 API 更新，业务方未必知情；边缘设备固件升级，推理库版本变化；云上服务限流，产线节拍被打乱。采购合同若只写功能，不写版本冻结、回滚窗口、日志留存，后面全是扯皮。人工智能产业应用的成熟度，常由这些不显眼的条款决定。

边界比能力先到

高容错场景，试错空间大。营销素材初稿、内部知识检索、代码注释生成，错了可以改。低容错场景，容错空间小。制动、给药、电网调度，错误代价高。两类场景不能用同一套上线标准。前者可以快速迭代，后者需要形式化验证、冗余设计、失效安全。把高容错场景的经验搬到低容错场景，是常见误判。

还有一个边界：任务可分解性。流程清晰、反馈及时、指标可测的任务，适合模型介入。目标模糊、反馈延迟、责任分散的任务，模型容易变成装饰。比如战略规划，模型能生成文本，却难承担后果。它可以做情景推演，不能替人拍板。这个区别，很多方案书故意模糊。

验证要放回现场

离线指标高，不等于现场可用。验证应包含三类：历史回放、影子运行、小流量灰度。历史回放看召回与误报的代价是否平衡；影子运行看系统时延与资源占用；灰度看组织是否愿意用。别忽略后一项。工具再好，操作员嫌麻烦，就会绕过。

评测集也要防污染。训练集与测试集同源，指标会虚高。更隐蔽的是时间泄漏：用未来数据训练，预测过去。现场验证应保留时间切分，按设备、班组、批次分层抽样。否则，模型在纸面上稳定，在产线上抖动。可复现的评测协议，比一次漂亮的结果更有价值。

风险不在单点

模型漂移是常态。物料更换、政策调整、用户行为变化，都会让旧模型失准。监控不能只看准确率，还要看输入分布、置信度分布、拒识率、人工接管率。指标异常时，先降级，再排查。降级不是失败，是设计的一部分。

安全风险也分散。提示注入、数据泄露、供应链投毒、模型窃取，单点防护不够。更实际的做法是最小权限、输入隔离、输出审查、审计留痕。这些措施不新，但在生成式系统里常被忽略。组织若没有模型清单和资产台账，风险连盘点都做不到。

趋势上，小模型与边缘推理会继续下沉。原因不复杂：时延、带宽、隐私、成本。大模型负责泛化，小模型负责现场。两者不是替代关系，是分工。另一个趋势是评测治理前置。上线前明确失败模式，比上线后补救便宜。这个道理朴素，执行很难。

回到开头。人工智能产业应用不是把模型塞进流程就结束。它要穿过数据、责任、边界、验证、风险五道关口。每道关口都可能让项目停摆。承认这一点，方案才会收敛。演示可以剪辑。产线不行。