企业 AI 的“本地化”不是一个开关。业务数据库、知识库、模型服务和运维平台可以采用不同部署方式。可靠方案应明确哪些数据会离开企业环境、模型看到什么、谁能提问、答案如何核验和记录。
先把判断标准立住
- 数据与模型分层设计：数据可以留在企业环境，通过受控检索或脱敏上下文调用模型。
- AI 继承业务权限：用户不能通过自然语言绕过原系统的数据范围和字段权限。
- 高风险动作保留控制：修改库存、审批、付款和客户承诺需要确认与审计。
企业 AI 四层架构检查表
| 层级 | 核心问题 | 安全措施 |
|---|---|---|
| 业务数据 | 哪些表、字段和单据允许访问 | 只读视图、字段脱敏、行级权限 |
| 知识与检索 | 文档来源、有效期和访问人群 | 分级授权、引用来源、版本管理 |
| 模型服务 | 模型部署位置与数据保留规则 | 最小上下文、供应商条款、敏感词策略 |
| 应用与审计 | 谁提问、输出给谁、能否执行动作 | 身份认证、日志、确认和反馈 |
建议的落地步骤
- 盘点高敏数据和首个低风险 AI 场景。
- 建立权限映射、日志和答案引用机制。
- 用越权、错误数据和高风险指令进行安全验收。
上线验收清单
- 模型调用的数据范围可说明
- 自然语言查询遵循原系统权限
- 敏感字段按场景脱敏
- AI 输出标明时间范围和数据来源
- 高风险执行需要审批或人工确认
常见问题
企业 AI 是否必须使用本地大模型？
不一定。可以根据数据敏感度、性能、成本和运维能力选择本地模型、专有云或受控云服务，并通过数据最小化与权限控制降低风险。
数据不出厂是否意味着完全没有风险？
不是。内部越权、错误配置、日志泄露和运维访问仍需治理，因此身份、权限、审计和备份同样重要。
AI 答案怎样让管理者信任？
答案应显示指标口径、时间范围和可追溯来源，重要结论能够回到原始单据核验。
如果企业正准备选型或替换现有系统，可以带上一条真实业务流程预约演示。星河会基于现有组织、数据和系统情况，帮助判断适合的一期范围与实施路径。