大模型进工厂：哪些环节合适，哪些还要由确定性系统和人把关

先说结论

• 大模型的长处在于和文字打交道；与工厂关系最大的短处有两条：会一本正经地胡说八道，也就是自信地说错，计算和推理也不够稳定。所以它适合做「先出一稿、由人确认」的事，「算出一个准确的数、下一个有后果的结论」不宜让它单独承担。
• 判断一个环节适不适合用大模型，可以先问四个问题：出错的代价有多大，结果能不能复核，数据允不允许出厂，有没有标准答案。
• 理解与生成文字、整理与检索资料、解读报表与预警、把自然语言问题转成查询，这些环节比较合适；排程计算、成本核算与报价、设备控制、质量判定，需要确定性系统或人把关。
• 把「生成」和「检查」分开，每个用到大模型的环节都说得出最后谁签字、谁对结果负责；可以从文字多、出错能改的地方开始。

大模型在工厂里到底能干什么？这是这两年谈到企业信息化时，常会碰到的一个问题。

政策方向是清楚的。2025 年 8 月印发的《国务院关于深入实施「人工智能+」行动的意见》，提出加快人工智能在设计、中试、生产、服务、运营各环节的应用，并推动各行业形成更多可复用的专家知识 [1]。具体到一家工厂，哪一环先用、怎么用、用到什么程度，还要一环一环地看。

本文按工厂里常见的几类工作，逐一分析大模型适合做什么、哪里需要别的办法把关，并给出一个判断框架，供您对照自己的工厂使用。排程这一环我们已另文讨论（《排程为什么交给确定性求解内核，大模型只在外围工作》），这里只简单带过。

先说明范围：本文说的大模型，指以文字（以及图片）为输入、生成文字的生成式模型。机器视觉检测、设备状态的统计预测、控制算法等技术各有各的适用条件，本文不展开。

大模型在工厂里有哪些长处和短处？

大模型的长处在于和文字打交道：读得懂写得不太规整的材料，能概括、改写、翻译、归类，能按要求起草，能听懂口语化的提问。工厂里恰好有大量这样的工作：工艺文件、检验规程、设备说明书、维修记录、客户邮件、会议纪要、各类报表的文字说明。

与工厂关系最大的短处有两条。

第一，会一本正经地胡说八道。 也就是自信地说错。美国国家标准与技术研究院（NIST）2024 年 7 月发布的生成式人工智能风险管理框架，把这种现象称为「虚构」（confabulation），指系统自信地给出错误或虚假的内容，俗称「幻觉」。文件解释，这是生成式模型按训练数据的统计分布来生成内容这一设计方式的自然结果，在开放式的长篇回答、以及需要高度专业背景的领域尤其值得注意 [2]。

第二，计算和推理不够稳定。 苹果公司研究人员 2024 年发表的 GSM-Symbolic 研究，用小学数学应用题测试多款大模型，发现只改动题目里的数值，所有被测模型的成绩都会下降；在题目里加一句看似相关、实际无关的条件，最先进的模型成绩也会明显下滑，降幅最高达 65% [3]。

放到工厂里看，这两条意味着：大模型适合做「先出一稿、由人确认」的事；「算出一个准确的数、下一个有后果的结论」，不宜让它单独承担。

怎样判断一个环节适不适合用大模型？

判断某个环节适不适合用大模型，可以先问四个问题。

一、出错的代价有多大？ 一封邮件草稿写错了，改掉就是；一张报价算错、一批零件判错、一条设备指令下错，代价是赔钱、返工、客户投诉，甚至人身安全。代价越高，越需要确定性程序或人来把关。

二、结果能不能复核？ 摘要可以对照原文，查询可以看它实际用了什么条件。能快速复核的，可以让大模型在前面出稿；复核本身比重新做一遍还费劲的，要慎重。

三、数据允不允许出厂？ 工艺参数、配方、客户图纸、成本结构，先想清楚哪些资料可以交给外部服务处理，哪些只能留在厂内。这一条主要决定部署方式，是用云端服务还是在厂内部署。本地部署的取舍，见《数据不出厂：制造企业用大模型时，本地部署的现实考量》。

四、有没有标准答案？ 成本按什么口径分摊、尺寸是否在公差内、这批料够不够，这类有明确规则、有标准答案的事，写成程序，每次算出同样的结果。没有唯一答案、需要归纳和措辞的事，才是大模型的长处。

把四个问题放在一起，大致可以分出三种安排；再加上常被考虑的「直接让大模型给结论」，四种用法对照如下：

数据能否出厂贯穿这四种用法，决定用哪一种部署方式。

哪些环节比较适合用大模型？

理解与生成文字

例如：把老师傅口述的操作要点整理成作业指导书初稿；比对客户技术协议前后两版的差异；起草回复客户询问的邮件；整理会议纪要和待办事项。这些工作的共同点是有原始材料可以对照，出错能改，最终由人签字发出。

一项公开研究可作参考。Brynjolfsson 等人跟踪了五千多名客服人员使用生成式 AI 对话助手的情况，按每小时解决的问题数衡量，平均生产率有所提高；经验较少、技能较低的员工在速度和质量上都有提升，经验最丰富、技能最高的员工速度略有提升，质量略有下降；在比较少见的问题上，提升最明显 [4]。这是客服场景的结果，不能直接套到工厂。对工厂有参考意义的有两点：新人和不常碰到的问题，可能是受益最多的地方；熟手的工作也可能被带偏，所以把关的一环不能省。

整理与检索资料

维修记录、故障案例、设备手册、历次客诉的处理记录，平时散在各处，要用时找不到。大模型可以按问题检索、归类，给出相关的历史记录。

公开案例中，西门子 2024 年 2 月宣布在其 Senseye 预测性维护产品中加入生成式 AI 功能：原有的机器学习负责建立设备和维护行为的模型，提示用户该把注意力放在哪里；生成式 AI 提供对话界面，能扫描并归组维护案例（包括多种语言的），查找相似的历史案例及其解决办法，为当前问题提供参考 [5]。这是企业的自述。其中的分工值得留意：预测由原有的机器学习模型承担，大模型负责把历史经验找出来、讲清楚。

我们的建议是，回答要附上原始记录的出处，读的人能点回去核对。

解读报表与预警

月度生产报表、质量周报、设备报警清单，数字都在，看懂要花功夫。大模型可以把系统已经算好的数字讲成人话：本月哪几道工序不良率上升、和上月比变化在哪、哪台设备报警次数最多。

这里的原则是：数字由系统按确定的口径计算，大模型只负责组织语言、提示看点；报警是否触发，由确定性的阈值和规则判断，大模型负责说明这类报警以前是怎么处理的。前面说过，解说本身也可能出错 [2]，所以文字旁边要能看到对应的数字，方便对照。

把自然语言问题转成查询

「上个月 3 号线返工最多的是哪几个料号？」这样的问题，可以由大模型转成数据库查询，系统执行后返回结果，免去每次找信息部门写报表。

这项能力要谨慎用。BIRD 基准用贴近真实业务的大规模数据库测试这项能力，共 12751 组问题与查询、95 个数据库、覆盖 37 个专业领域；论文摘要报告，ChatGPT 的执行准确率为 40.08%，人类为 92.96%；同一团队的排行榜上，GPT-4 在测试集上为 54.89% [6]。这个数字反映的是论文发表时的情况，不代表今天的模型，但它说明了一点：一句问话转成查询，中间有很多地方可能理解偏。

比较稳妥的做法是：查询只给只读权限；把实际使用的条件和口径（时间范围、是否含返工、按什么汇总）显示出来，让提问的人确认；经常要问的问题，做成固定报表，由程序计算。

哪些环节需要确定性系统或人把关？

排程计算

排程要同时满足机台、工装、工序先后、日历、齐套、换型等约束，改一处牵动全局。我们在另一篇文章里结合公开研究讨论过：计划由约束求解器计算，大模型负责解释结果、回答提问，由计划员拍板。这里不再重复。

成本核算与报价

成本分摊口径、材料损耗、工时费率都有明确规则，要求每次算出同样的结果，还要经得起财务和客户复核。前面提到的研究显示，题目里的数值一变，大模型的计算结果就可能不稳 [3]，这样的环节不宜让大模型直接出数。

安排上，核算规则写成程序；报价单上的数字由程序生成、由人审核；大模型可以回答「这张单的成本为什么比上个月高」这类问题，回答中引用的是程序算出的分项。

设备控制

设备控制直接关系到设备和人身安全。从公开资料看，大模型目前出现在控制程序的编写环节：

• 西门子 2023 年 11 月的新闻稿介绍，舍弗勒使用西门子 Industrial Copilot，通过自然语言输入生成 PLC（可编程逻辑控制器）代码，该助手接入西门子的工程软件框架 TIA Portal [7]。这是企业的自述。
• Koziolek 等人 2023 年的一项探索性研究，设计了 10 类共 100 条提示，测试 GPT-4 生成 PLC 和 DCS 控制逻辑的能力，结果是在很多情况下生成了语法正确的 IEC 61131-3 结构化文本代码 [8]。
• 发表于 2024 年国际软件工程大会（ICSE）软件工程实践分会的 LLM4PLC 研究写道，GPT-4、LLaMa2 等先进大模型未能为 PLC 控制的工业控制系统生成有效程序；作者提出的流程借助语法检查器、编译器、SMV 模型检验器等外部验证工具和用户反馈，一轮轮引导模型生成 [9]。

几项资料合起来看，大模型的位置在工程师写程序的环节，生成的代码还要经过工具检查和验证。我们的建议是：不让大模型在线直接向设备下指令；控制程序可以请大模型协助起草，经过编译、测试、验证和工程师确认后再上机；安全联锁等要求照原有规范执行。

质量判定

一批产品合格与否，依据的是图纸、标准和检验规程，结论要能追溯，要有人签字负责。

MMAD 基准（ICLR 2025）用 8366 张工业图像、39672 道题目，测试多模态大模型在工业缺陷检测上的能力；表现最好的 GPT-4o 平均准确率为 74.9%，作者认为这一结果远未达到工业要求 [10]。

安排上，合格判定由检验规程、测量值与公差的比对以及检验员完成。大模型可以帮着整理不良现象的描述、归类客诉、起草质量分析报告的初稿，由质量负责人审核。

各个环节里，大模型可以做什么、由谁把关？

用大模型改进的，是哪一个决策？

经济学家阿格拉沃尔、甘斯和戈德法布在《权力与预测》一书里，把 AI 归结为预测，并提醒：说一项 AI 能给企业「洞见」，往往是还没想清楚拿它去改进哪一个决策 [11]。书里把 AI 落地分成三级，按我们的理解放到工厂里：

本文列的合适环节，多数属于第一级：落地快、风险小，出了错也改得回来。书里还有一个与前面第一问相通的做法：自动化到什么程度，按犯错的后果来定；后果轻、改得回来的，可以多交给机器，后果重的，要留人把关。

在自己的工厂里，可以按什么步骤开始？

把上面的判断用到自己厂里，可以按这样的顺序走：

1. 列出候选环节。 把想用大模型的地方逐一写下来，注明现在谁在做、用的是哪些资料；先看清现状，才知道大模型接手的是哪一段。
2. 按四个问题逐个过一遍。 每个环节回答出错代价、能否复核、数据能否出厂、有没有标准答案，归到前面几种用法里的一种；用同一把尺子，避免凭印象挑环节。
3. 定下数据能否出厂。 按资料的敏感程度，决定用云端服务还是厂内部署；这一条决定能选哪类服务，越早定，后面返工越少。
4. 挑一两个文字多、出错能改的环节先用。 写清由大模型出稿、由谁确认签字；风险小，员工也能在日常使用中摸清它哪里靠得住。
5. 把检查放在大模型之外。 摘要对照原文，数字由程序复算，结论由人签字；检查的一方不依赖大模型，换用哪一款模型，把关的那一环都不受影响。
6. 用一段时间后复盘，再决定下一环。 记下改了多少、错在哪里、省了多少时间，按记录决定扩到哪个环节、哪里退回原来的做法；有了记录，下一步的判断才有依据。

以下是我的观察

以下是我个人的看法，没有统计数据支撑，供您对照自己的经验判断。

一、从文字多、出错能改的地方开始。 工厂里有不少「总得有人写、谁都不愿写」的文字工作：作业指导书、检验记录说明、会议纪要、给客户的回复。从这些环节开始，风险小，员工也能在日常使用中摸清大模型的脾气，知道它哪里靠得住、哪里要多看一眼。

二、效果取决于厂里已有的资料。 大模型检索和解读的，是厂里已经有的资料和数据。维修记录只写了「已修好」，工艺文件多年没更新，各部门报表口径不一致，大模型也只能在这个基础上工作。我入行二十余年，反复看到系统用不好，问题常常出在资料和数据上；到了大模型这里，这一点没有变。

三、把「生成」和「检查」分开。 让大模型出稿，由程序或人来检查，检查的一方不依赖大模型。这样一来，换用哪一款模型，影响的只是出稿的质量，把关的那一环不受影响。

四、每个环节都说得出谁负责。 用到大模型的地方，要说得出最后谁签字、谁对结果负责。暂时说不清的环节，可以先不用。

五、边界会移动，四个问题可以反复用。 本文的划分针对的是当前的模型能力。研究一直在推进，今天不合适的环节，将来可能变得合适。隔一段时间，按出错代价、能否复核、数据能否出厂、有没有标准答案这四个问题重新看一遍即可。

如果您正在考虑厂里哪些环节可以先用上大模型，欢迎带着具体的环节与青岛艾普仕交流；我们做定制交付时，会按这四个问题和您一起逐项梳理。

参考来源