先把可执行动作分级
企业内部 AI 智能体如果只做知识问答，主要风险在资料来源和回答准确性；一旦接入 CRM、ERP、工单、合同、库存或财务系统，就要先明确哪些动作只能建议、哪些动作可以代填、哪些动作必须人工确认后才能提交。
适用场景
- 销售助手自动整理客户资料、生成跟进建议或报价草稿。
- 客服助手读取历史工单，推荐处理方案并创建新工单。
- 项目助手查询进度、提醒节点或发起跨部门协同。
- 管理助手汇总经营数据，但不能直接修改关键业务记录。
审批和审计可以这样设计
- 按动作风险分层：查询、生成草稿、发起流程、修改数据、对外发送分别设不同权限。
- 高风险动作保留人工确认，例如合同、报价、退款、库存调整、客户通知等。
- 工具调用使用独立服务账号，避免复用员工个人账号绕过权限边界。
- 记录输入、检索资料、调用接口、返回结果和人工确认人，便于复盘。
- 设置失败回退路径，接口异常、模型不确定或权限不足时转人工处理。
风险边界
AI 智能体不能替代权限体系和业务审批制度。企业尤其要避免把生产数据库、财务接口、客户隐私资料一次性开放给试点应用，也不要让模型直接决定不可撤销的业务动作。
碧云软件在企业 AI 智能体定制时，可以先帮助梳理业务动作清单、角色权限、接口边界和验收样本，再从低风险流程开始做原型验证。