企业应用

数据不出厂:制造企业用大模型时,本地部署的现实考量

工艺参数、配方、图纸和客户订单能不能交给大模型处理?本文结合公开法规与开源工具文档,梳理云端服务与本地部署各自的取舍、数据分级的做法、本地部署要准备什么,以及为什么本地模型的能力边界要用自己的材料实测。

发布于 更新于 青岛艾普仕

先说结论

  • 工艺参数、配方、图纸与技术要求、客户订单与报价,可能属于商业秘密,还可能受客户保密条款约束;把资料交给外部服务之前,先想清楚交给谁、放在哪里、谁能看到。
  • 相关的公开法规有一个共同点:要求企业先弄清手里是什么数据、分几级、各自怎么处理。选云端还是本地,是分级之后的事。
  • 按级别分路处理:可以出厂的资料可以用云端服务,含个人信息的先去掉身份信息再判断,工艺、配方、图纸、未公开的报价与订单明细只在厂内处理;多数情况下两种方式可以并用。
  • 本地部署要准备硬件、模型与许可证、运行工具与网络,并落实到具体的维护人;本地模型的能力边界要用自己的真实材料实测,换模型、换版本、换硬件、换配置之后要重测。

大模型写周报、改文案、总结会议纪要,用起来很顺手。到了工厂里,问题马上变得具体:这份工艺卡能不能贴进去让它帮忙整理?这张客户订单能不能让它核对一下交期?这套图纸的技术要求能不能让它翻成英文?

常见的顾虑是:资料一旦发出去,去了哪里、留多久、会不会被别人用到,自己说不清。于是有了「数据不出厂」的想法:把模型搬进厂里,资料在厂内处理。

本文从制造企业的角度,梳理这件事涉及的几个现实问题:为什么在意数据去向,公开法规里有哪些相关条款,云端服务与本地部署各自的取舍,怎样对数据分级处理,本地部署要准备什么,以及本地模型的能力为什么要实测。文中涉及法规的部分只摘要点,供参考,具体以法规原文和专业意见为准。

制造企业为什么在意数据的去向?

一家制造企业很值钱的一部分资料,放在车间和技术科:

  • 工艺参数:温度、时间、压力、转速、配比,是多年试错攒下来的。
  • 配方:材料配比和添加顺序,换一家厂照着做就能少走很多弯路。
  • 图纸与技术要求:有的属于自家产品,有的是客户委托加工时交来的,还带着保密约定。
  • 客户订单与报价:谁在买、买多少、什么价,对同行来说都是有用的信息。

这些资料在法律上可能属于商业秘密。2025 年修订的《反不正当竞争法》第十条写明,商业秘密是指不为公众所知悉、具有商业价值并经权利人采取相应保密措施的技术信息、经营信息等商业信息 [1]。定义里有一个条件值得留意:「经权利人采取相应保密措施」。资料交给谁、放在哪里、谁能看到,是企业日常保密管理的一部分。把资料发给一个外部服务之前,先想清楚这一步,和锁好技术科的柜子是同一类事情。

还有一层是客户的要求。做代工和配套的企业,经常与客户签有保密条款,约定图纸和技术资料的使用范围。资料能不能交给第三方服务处理,要回到合同条款里去看。

公开法规里有哪些相关条款?

与这件事相关的公开法规有好几部,下面只摘与「资料交给模型处理」直接相关的要点。

数据安全法:数据处理包括传输和提供,数据要分类分级。 《数据安全法》第三条规定,数据处理包括数据的收集、存储、使用、加工、传输、提供、公开等 [2]。第二十一条规定国家建立数据分类分级保护制度,关系国家安全、国民经济命脉等的数据属于国家核心数据,实行更加严格的管理制度 [2]。第二十七条要求开展数据处理活动应当建立健全全流程数据安全管理制度,采取相应的技术措施和其他必要措施 [2]。

工业领域的分级。 工业和信息化部 2022 年印发的《工业和信息化领域数据安全管理办法(试行)》第八条,把工业和信息化领域数据分为一般数据、重要数据和核心数据三级,分类类别包括研发数据、生产运行数据、管理数据、运维数据、业务服务数据等,数据处理者可以在此基础上细分 [3]。这为企业内部分级提供了一个现成的参照框架。

个人信息保护法:委托他人处理有专门要求。 厂里的资料并不都是技术数据,员工花名册、客户联系人、送货地址里都有个人信息。《个人信息保护法》第二十一条规定,委托处理个人信息的,应当与受托人约定委托处理的目的、期限、处理方式、个人信息的种类、保护措施以及双方的权利和义务等,并对受托人的个人信息处理活动进行监督 [4]。第五十一条列出的措施中,包括对个人信息实行分类管理,以及采取相应的加密、去标识化等安全技术措施 [4]。资料里带个人信息时,选用外部服务前,可以对照这些要点看服务协议。

生成式人工智能服务管理暂行办法:对服务提供者的要求。 这部办法由国家网信办等七部门发布,2023 年 8 月 15 日起施行 [5]。第十一条要求提供者对使用者的输入信息和使用记录依法履行保护义务,不得非法留存能够识别使用者身份的输入信息和使用记录,不得非法向他人提供使用者的输入信息和使用记录 [5]。第四条要求提供和使用生成式人工智能服务应当尊重知识产权、商业道德,保守商业秘密 [5]。第二条同时写明,行业组织、企业等研发、应用生成式人工智能技术,未向境内公众提供生成式人工智能服务的,不适用本办法 [5]。企业在厂内自建模型只供自己员工使用,是否属于这种情形,具体以法规原文和专业意见为准。

数据出境。 如果所用的模型服务部署在境外,资料发过去就涉及数据出境。《个人信息保护法》第三十八条规定了向境外提供个人信息需要具备的条件,包括通过安全评估、经专业机构认证、按标准合同与境外接收方订立合同等 [4]。国家网信办 2024 年公布的《促进和规范数据跨境流动规定》第二条写明,未被相关部门、地区告知或者公开发布为重要数据的,数据处理者不需要作为重要数据申报数据出境安全评估;第三条写明,跨国生产制造等活动中收集和产生的数据向境外提供,不包含个人信息或者重要数据的,免予申报安全评估等 [6]。豁免有前提条件,资料里是否含个人信息或重要数据,要逐项对照原文判断。

把这些条款放在一起看,有一个共同点:它们都要求企业先弄清楚自己手里是什么数据、分几级、各自怎么处理。选云端还是本地,是分级之后的事。

云端服务与本地部署,各有什么取舍?

使用大模型大致有两种方式:调用模型服务商提供的云端服务;或者下载开放权重的模型,在厂内自己的机器上运行。两种方式各有长处,适合的场景不同。

考量使用云端模型服务在厂内部署开放权重模型
数据去向资料经网络发送给服务方处理;保留期限、使用范围、存放地点看服务协议资料在厂内设备上处理;去向取决于企业自己的网络与权限配置
模型能力可以使用服务方提供的大参数模型受厂内硬件能运行多大的模型、是否量化等因素限制
前期投入按用量或套餐付费,基本不需要购置硬件需要购置或调配显存、内存足够的机器
运行维护服务方负责运行、扩容和故障处理企业自己或委托的服务方负责安装、升级、监控、备份
版本更新服务方更新模型,输出的风格和质量可能随之变化由企业决定何时换版本,换之前可以先测
要读的文件服务协议、隐私政策、数据存放地说明模型许可证、运行工具的配置说明
表格可左右滑动

云端服务的长处在于省心:不用管硬件,能用到较强的模型,服务方持续改进。本地部署的长处在于资料的去向由自己掌握,代价是硬件投入、运维工作,以及模型规模受硬件限制。

需要提醒的一点:本地运行的工具,也可能带有云端功能。以本地模型运行工具 Ollama 为例,其官方文档说明,在本地运行时 Ollama 看不到您的提示词和数据;同时它也提供云端托管的模型,使用云端模型时,提示词和回答会发到服务端处理 [7]。文档给出了关闭云端功能、以纯本地模式运行的配置方法 [7]。部署之后,确认实际用的是哪一种,是验收时要看的一项。

哪些资料可以出厂,哪些要留在厂内?

比起笼统地决定「全用云端」或「全部本地」,按数据分级更可行,不同级别走不同的路。下面是一个参考框架,具体分级要结合企业自己的业务、客户合同和主管部门的要求来定。

级别例子建议处理方式
可以出厂已公开的产品介绍、公开的标准条文、不含厂内信息的通用写作与翻译可以使用云端服务
处理后再决定含员工或客户联系人个人信息的文本;提到客户名称、但不涉及工艺和价格的一般往来先去掉身份信息或替换为代号,再判断能否出厂
留在厂内工艺参数、配方、图纸与技术要求、未公开的报价与成本、客户订单明细;客户合同约定不得交给第三方的资料;被告知或列入目录的重要数据只在厂内处理
表格可左右滑动

落地时有几件事可以先做:

  1. 定级由业务和信息化一起定。 技术科知道哪些参数要紧,销售知道哪些客户有保密条款,信息化负责人知道资料在哪些系统里。只靠其中一方容易漏。
  2. 分级结果写成一张清单。 员工拿不准时能查,新人入职时能讲,出了问题能追溯。
  3. 工具层面配合分级。 留在厂内的资料,只开放给厂内部署的模型;云端服务的入口,限定给处理可出厂资料的岗位使用。
  4. 去标识化要留意组合。 单独去掉客户名称未必够,产品型号、数量和交期放在一起,熟悉行业的人可能认得出是谁。

本地部署要准备什么?

决定把一部分工作放在厂内之后,要准备的东西可以分成四块。

硬件。 模型运行时要加载进显卡显存或系统内存。Ollama 文档说明,可以用命令查看模型是完全加载在显卡上、完全在系统内存中,还是两者各占一部分 [7];同一个模型同时处理多个请求时,上下文会按并发请求数相应放大,需要额外的内存 [7]。所以硬件选型要同时考虑两件事:想用多大的模型,以及同时有多少人在用。具体配置建议按选定的模型和实际并发做测试后再定。

模型选择。 开放权重的模型很多,选择时除了看能力,还要看许可证。许可条款各不相同:例如 Qwen3 仓库说明其开放权重模型采用 Apache 2.0 许可 [8];Llama 3.1 采用其社区许可协议,其中附加商业条款规定,在 Llama 3.1 发布之日,产品或服务上一个自然月的月活跃用户超过 7 亿的被许可方,需要另行向 Meta 申请许可 [9]。商用前把所选模型的许可证完整读一遍。另一个常见选择是量化:量化能降低内存占用和计算开销,对不同类型任务的影响则需要评估后再选择量化方法 [10]。

运行工具与网络。 本地运行模型需要一个运行工具,Ollama 是其中一种。它的官方文档说明,默认只在本机的 127.0.0.1 地址、11434 端口上监听,要让局域网里其他电脑访问,需要通过 OLLAMA_HOST 环境变量修改监听地址 [7]。开放给局域网之前,建议先想好谁能访问、从哪里访问,并配上相应的访问控制。

谁来维护。 这一块容易被低估。模型要选版本、要换版本;运行工具要升级;访问权限要随人员变动调整;日志要留、要看;机器要备份、要监控。这些工作可以由企业自己的信息化人员承担,也可以委托外部服务方,但要落到具体的人。本地模型和其他企业系统一样,上线只是开始,之后要跟着业务持续调整(关于企业系统交付后如何持续变化,可参考《企业系统交付之后如何持续变化》)。

为什么本地模型的能力边界要用自己的材料实测?

本地部署常见的一种误判,是把公开榜单上的分数、或者别人演示的效果,直接当成模型在自家资料上的表现。实际效果受很多因素影响:模型本身、量化方式、运行参数、硬件,以及您的资料长什么样。

举一个容易忽略的配置项。Ollama 的默认上下文长度随显存大小而定,显存小于 24 GiB 时为 4096 个 token,显存更大时默认更长,可以通过环境变量或请求参数调整 [7]。一份较长的工艺文件或技术协议,是否被完整读入,要看配置并实际验证;调大上下文又会增加内存占用,与硬件规划相互牵连。

建议按下面的思路做一轮实测:

  1. 用自己的真实材料出题。 从要交给模型处理的资料里挑一批,在厂内准备好标准答案,例如「从这份工艺卡里提取关键参数」「核对这张订单与合同条款是否一致」。题目和答案都留在厂内。
  2. 同一个问题换几种问法。 看结果是否稳定。
  3. 同一批题多跑几遍。 看输出是否一致,出错是否有规律。
  4. 记录配置。 模型版本、量化方式、上下文长度、硬件,都记下来,方便对比和复现。
  5. 有人复核。 结果交给懂业务的人看,重点看错在哪里、错了会造成什么后果。
  6. 条件变了就重测。 换模型、换版本、换硬件、换配置之后,之前的结论不能直接沿用。

实测的目的是划出边界:哪些任务可以交给本地模型,哪些需要人复核,哪些暂时不交给它。这条边界要由实测数据来划,不能凭印象。

数据的归属还有一层长远的意义。《权力与预测》一书指出,AI 的持久优势来自反馈数据:给出结果以后,把实际发生了什么记下来,用来校正下一次 [11]。一家工厂的报工、质检、返修记录,就是它自己的反馈数据;这些数据留在谁手里,以后的系统就由谁来学、为谁变准。这也是我们主张数据归企业、项目知识用开放格式留在企业手里的原因之一。

以下是我们的看法

我们为制造企业做定制交付时,接入大模型的每个环节,都先回答一个问题:这份资料能不能出厂。

以下内容是我们的观点,供您参考。

第一,先分级,再选型。云端还是本地,归根到底是「哪些资料可以出厂」这个问题的答案。分级没做清楚,选哪种方式都难以放心;分级做清楚了,多数情况下会发现两种方式可以并用:可出厂的资料用云端服务,要留在厂内的用本地模型。

第二,本地部署的主要成本在后面。装一个运行工具、下载一个模型,可能很快就能跑起来;持续维护版本、权限、日志、备份,并在模型更新后重新验证,才是长期的工作量。决定之前,先想好这部分由谁来做。

第三,关键数字从系统取,模型负责说清楚。无论模型在云端还是本地,都可能说错。涉及交期、数量、参数的回答,数字从业务系统里取,模型负责理解问题、组织语言,这样出了错能对照纠正。

第四,能力边界会移动。模型在更新,硬件在变化,今天测出来做不好的任务,过一段时间可能做得好了;反过来,换了版本之后,原来做得好的任务也可能出现变化。定期用同一套题重测,比一次性的结论更可靠。

在我们的排程产品 APSer-Aps 里,大模型只负责解读和问答,调用哪个模型由部署时配置,可以指向经 Ollama 在本地运行的模型;模型不可用时,排程照常计算,解读退回系统按规则生成的说明。

参考来源

  1. 《中华人民共和国反不正当竞争法》(2025 年 6 月 27 日第二次修订,第十条). 全国人民代表大会常务委员会;最高人民检察院网站转载
  2. 《中华人民共和国数据安全法》(第三条、第二十一条、第二十七条). 全国人民代表大会常务委员会;中国人大网
  3. 《工业和信息化领域数据安全管理办法(试行)》(第八条). 工业和信息化部;中国政府网
  4. 《中华人民共和国个人信息保护法》(第二十一条、第三十八条、第五十一条). 全国人民代表大会常务委员会;中国人大网
  5. 《生成式人工智能服务管理暂行办法》(第二条、第四条、第十一条). 国家互联网信息办公室等七部门;中央网信办网站
  6. 《促进和规范数据跨境流动规定》(第二条、第三条). 国家互联网信息办公室;中央网信办网站
  7. Ollama. FAQ(提示词与数据、关闭云端功能、默认监听地址、上下文窗口、GPU 加载与并发);Context length
  8. QwenLM. Qwen3 README(License Agreement)
  9. Meta. Llama 3.1 Community License Agreement(Section 2, Additional Commercial Terms)
  10. Shiyao Li, Xuefei Ning, Luning Wang, et al. Evaluating Quantized Large Language Models. arXiv:2402.18158, 2024
  11. Ajay Agrawal, Joshua Gans, Avi Goldfarb. Power and Prediction: The Disruptive Economics of Artificial Intelligence. Harvard Business Review Press, 2022;中文版《权力与预测:人工智能的颠覆性经济学》,何凯译,中信出版集团,2024