过去，企业讨论AI风险，主要关注模型答案是否准确、是否泄露敏感数据或带有偏见。进入Agentic AI阶段，AI还可能读取数据、调用工具和触发操作。错误因此可能从一句回答变成错误授权、意外退款或连续系统行为。
麦肯锡发布的《2026年AI信任状况》报告，观察的正是企业治理能否承接这种变化。调查覆盖约500家组织，并用负责任AI（Responsible AI，RAI）框架评估企业将安全、可靠、公平、透明、合规和问责要求落实到AI设计、部署与使用过程中的程度。
Report.
01
成熟度提高，能力却没有同步齐备
受访组织的RAI实践成熟度平均得分由2025年的2.0提高到2026年的2.3。具体到五个维度，差距十分明显：达到三级或以上的组织中，数据与技术维度占55%，风险管理占49%；治理为35%，战略和Agentic AI治理与控制均为32%。
这些数字的意义不在于给企业排出一个总分，而在于显示不同能力对部署的作用。数据检查、模型测试和风险识别，可以帮助AI系统开始运行；战略、治理和Agentic AI控制，则要回答系统能获得多大权限、可以进入哪些流程、发生异常时由谁处置。
以客户退款为例，技术团队可以让Agent读取订单并识别退款条件，企业仍要决定退款限额、人工介入条件、异常监测和事故责任。前一组能力解决“系统能不能运行”，后一组能力决定“企业敢不敢把高后果任务交给它”。
02
治理对象从模型扩展到行动链
同一个模型，连接产品说明和连接支付系统，失败后果完全不同。Agent以什么身份进入系统、能够访问哪些数据、可以调用什么工具，以及哪些动作必须人工确认，都会改变实际风险。
任务运行后，企业还要观察连续行为。单笔退款可能合理，多笔操作的金额、对象或频率却可能逐渐偏离正常范围。系统需要留下记录、触发监测，并允许人工暂停或补救。可信治理的基本单位已经从一次模型输出扩展到完整行动链。
这也解释了为什么62%的受访者把安全与风险列为规模化Agentic AI的首要障碍，明显高于监管不确定性和技术限制。企业能让Agent完成任务之后，还要确认它在大量真实任务中仍然可限制、可观察、可中止。
03
识别风险之后，还要形成控制和响应
报告把“认为风险相关”和“正在主动缓解”放在一起比较。74%的受访者认为不准确性高度相关，其中71%正在主动缓解；网络安全的两项比例为72%和61%，数据隐私为54%和44%，自主或非预期系统行动则为44%和29%。风险名称已经进入企业视野，具体控制并没有同等覆盖。
隐私风险需要转化为数据访问范围和身份限制，自主行动风险需要转化为授权阈值、人工确认和暂停机制。模型、工具、数据或业务流程发生变化后，这些控制还要持续测试和更新。
事故响应进一步暴露了压力。报告AI相关事故的组织比例约为8%，与上年大体持平，但经历事故的受访者对响应质量的评价明显下降。一个Agent连续执行错误操作时，处置团队必须知道它调用了哪些工具、访问了哪些数据、影响了哪些对象，并能够立即暂停相关权限。缺少行为记录或明确处置权，风险认知就难以变成真实保护。
04
可信治理正在成为规模化部署的条件
Agent只为客服人员起草回复时，人工仍然完成检查和操作；当它能够读取订单、判断条件并完成退款，自动化价值更高，错误后果也更直接。企业需要用身份、权限、金额阈值、异常监测和人工接管划出可接受的自动化边界。边界越清楚，越多低风险任务可以交给系统，高后果操作则继续由人工决定。
报告的投入分组呈现出一个组合信号：RAI投入较高的组织同时报告了更高的实践成熟度、更强的AI使用强度和更好的收益表现。可信治理由此不再只是合规部门的工作，它会影响AI能进入多少流程、能够开放多深的自动化，以及企业能否在出现问题后继续使用。
相应的产业需求也会更加贴近系统运行。Agent应用平台需要提供授权边界、人工确认和异常中止；AI治理与安全平台需要把评测、监测、证据留存和事故处置连接起来；身份与数据安全产品则要把访问控制扩展到代表用户或组织行动的Agent。这些能力能否形成稳定市场，取决于它们是否进入日常工作流并降低部署和事故处理成本。
Agentic AI扩大了AI能够完成的任务，也改变了企业建立信任的方式。模型性能仍然重要，但权限、监测、责任和响应已经成为产品进入关键流程的组成部分。AI开始行动之后，信任也必须从原则进入系统。
完整深度解读现已在知识星球-国际人工智能产业联盟上线，欢迎大家阅读交流。
星球简介
当 AI 舆论充斥噱头与口号，具备决策价值的行业研判愈发稀缺。
我们不做简单信息搬运，只为企业管理者搭建产业决策坐标系。
这是聚焦 AI 产业深度情报的闭门社群，在海量行业噪声中完成三件核心事：去噪、提纯、重构产业逻辑。
加入社群可获取：
✅ 德勤、Gartner、麦肯锡头部机构报告拆解，提炼核心骨架并匹配本土产业现状
✅ 交叉验证后的独家行业趋势判断，捕捉尚未形成共识的结构性机会
✅ 全球 AI 产业前沿信号速递，提前把握行业拐点
✅ 产业供需、赛道冷暖动态梳理
