企业本地 AI：GDPR、主权与部署 (2026)

#法国本地人工智能服务器：有什么用，面向谁

本地 AI 服务器在您控制的基础设施上托管语言模型：您的办公场所、托管商的机柜，或在欧洲租用的 GPU 服务器。员工使用各自的账户，通过 Web 界面或内部 API 访问。对于中小企业，起步配置并不高：一台配备 24 GB 显存 GPU 的工作站，以 Ollama 为引擎、Open WebUI 为界面，再搭配一个拥有 240 亿参数的模型，例如 Mistral Small 3.2。根据 QuelLLM 目录，该模型在 Q4 量化下约占用 14 GB。随后，您可以结合实际用例，决定是否提升配置。

隐私

合同、客户档案、人力资源数据、源代码：提示和文件不会发送给任何AI服务提供商。

合规负担减轻，但并未免除

就模型本身而言，无需列明 AI 数据处理服务商，也无需记录向欧盟以外传输数据的情况，但您作为数据控制者的义务仍然存在。

可预测的成本

没有随员工人数增加而上涨的订阅费用：成本来自硬件、电费和管理所需的时间。

独立

即使供应商更改价格或条款，已下载的开放权重模型仍可继续运行。

#GDPR 与主权：本地运行改变了什么，又没有改变什么

法国数据保护局（CNIL）提醒，GDPR 在三个环节保护个人数据：训练数据库、可能记住这些数据的模型，以及通过提示词（prompt）使用模型的过程。您的本地服务器解决了第三个问题，即提示词的问题：它们留在您自己的环境中。但它并未解决第二个问题：语言模型本身可能包含个人数据，这涉及模型的选择以及如何记录和说明该模型。

关于数据传输，法国数据保护机构（CNIL）指出，只有确保充分且适当的保护水平，才能将数据传输到欧盟及欧洲经济区以外。使用部署在您自己场所内的服务器时，这个问题不会出现。使用托管服务提供商时，则需要根据其组织结构和子公司情况考虑这个问题。

• 本地 LLM 与 GDPR：企业隐私数据合规
• 来源：CNIL，人工智能与RGPD

#在法国部署的私有LLM：实际可行选项

三种架构可根据所需控制程度部署私有LLM。下表对比了真正关键的要素：数据位置、谁负责管理，以及需向审计方证明的内容。

#托管在法国、托管在欧洲、SecNumCloud：三件不同的事

“托管于法国”描述的是所在地，而非法律保护。例如，Scaleway 宣称其 GPU 实例保证数据驻留在欧洲，并提供针对域外法律的保护：这些都是需要查阅合同的商业承诺，并非本指南能替您核实的事实。对于最敏感的数据，ANSSI 提供 SecNumCloud 资质认证，旨在保护敏感数据及其处理活动，使其免受网络犯罪威胁和域外法律适用的影响。

在以此资质作为依据之前，有两点需要了解。首先，ANSSI 指出，这项资质并不能说明您在已获资质的云服务上部署的服务具有怎样的安全水平：您的应用仍需做好安全防护。其次，ANSSI 认定的是具体的云服务，而非整个托管服务商：请查阅已获资质的产品与服务目录，确认您计划使用的 GPU 服务是否列在其中。

#法国企业该选什么模型，采用哪种许可协议

选择基于三个标准：法语质量、所需内存和许可证。许可证是常被忽略的标准：即使模型表现优异，也可能被禁止用于商业用途。QuelLLM目录列出了每个模型的许可证；以下是一些针对法语或欧洲模型的参考信息。

常被称为“良好折中”的 320 亿参数模型在 Q4 量化下，仅权重就占用 19 至 20 GB：在一张 24 GB 显存的显卡上，几乎没有剩余空间供上下文和多个用户同时使用。对于首次部署，240 亿参数模型是更现实的起点。在做决定前，请用您自己的文档测试模型的法语表现：排行榜上的质量表现无法预测模型处理您所在行业的专业术语时的质量。

#预算与硬件：按同时使用的用户数量确定配置

合适的资源配置不取决于员工数量，而取决于同时发出请求的人数。根据Ollama的常见问题解答，模型默认一次处理一个请求，其余请求则排队等待，所需内存随并行请求数量与上下文长度的乘积增长。在8000个token的上下文下允许四个并行请求，因此需要相当于32000个token的上下文内存。

上述内容是架构方面的参考，并非实测结果：实际感受到的延迟取决于模型、量化、上下文和使用模式。请针对一个明确的使用场景开展为期两到四周的试点，观察请求队列和内存占用，然后确定所需容量。

• 运行 LLM 的 GPU 服务器成本是多少？
• SGLang：为多个用户提供 LLM 服务

#内部聊天机器人与文档检索增强生成（RAG）

最划算的用途是连接到您文档库的聊天机器人，也就是 RAG：助手依据即时检索到的流程、合同或技术文档来回答。Open WebUI、AnythingLLM 和 PrivateGPT 都提供这种开箱即用的功能。请注意界面的许可条款：如果任意连续三十天内的用户数超过五十人，Open WebUI 禁止移除其品牌标识，除非获得授权或企业许可证。这直接关系到采用自有品牌界面的企业部署。

第二点：RAG 不替代访问权限。如果所有员工查询同一数据源，应确保仅限管理层访问的文档对其他员工不可见。按组划分集合，并使用无权限账户进行测试。

• 为中小企业部署一个内部 AI 聊天机器人
• 比较聊天前端

#部署安全性

基本情况很简单：根据 Ollama 的常见问题解答，它默认监听 127.0.0.1，端口为 11434。只要您不修改 OLLAMA_HOST，就只能从本机访问它。风险出现在为了让另一台服务器上的界面能够连接它，而将它开放到网络、却没有在前面设置任何防护措施的时候。

网络隔离

服务器部署在内部网络中，仅通过界面访问；对最敏感的数据采用完全隔离（物理隔离，air-gap）。

访问权限管理

身份验证、角色管理、关闭开放注册、在界面中记录请求日志。

加密

对存储模型、文档库和对话历史的磁盘进行加密。

更新

请跟踪引擎、界面和模型的版本，并记录由谁负责。

备份与清除

请确定对话的保存期限，以及在有人提出请求时删除对话的流程。

• 安全配置Ollama服务器

#推荐解决方案及七步部署流程

1. 01
   明确使用场景

   在选择硬件前，请先明确具体用途（如客服支持、内部文档）以及涉及的数据类别。
2. 02
   选择部署方式

   根据数据的敏感性和选项表，选择部署在企业场所、交由欧洲托管服务商托管，或部署在工作站上。
3. 03
   选择模型

   请检查许可证，用您的文档测试模型的法语表现，并留意所需的内存容量。
4. 04
   安装引擎和界面

   试点可使用 Ollama 和 Open WebUI；负载更大时，则使用高吞吐量的服务器。
5. 05
   安全配置

   账户、角色、通过反向代理的HTTPS配置、引擎端口未暴露、磁盘加密。
6. 06
   记录

   数据处理活动记录、向相关人员告知处理情况、数据保存期限，以及使用托管服务时的数据处理委托合同。
7. 07
   通过试点进行评估

   实际使用两到四周，然后决定是否扩大使用规模。

这套技术栈的软件是免费的，但它并非在设计上就符合合规要求：真正合规的是您有记录、受管控的使用方式。请保留您所做选择的记录；审计人员会要求查看这些记录。

• 来源：CNIL，将数据传输至欧盟境外
• 来源：ANSSI，SecNumCloud 认证
• 来源：Scaleway，GPU实例
• 来源：Ollama 常见问题解答