白皮书由安远 AI 联合清华大学智能产业研究院、华为等机构于 2026 世界人工智能大会发布,聚焦数字领域通用单智能体,搭建以自主性为核心的分级安全治理体系,为行业提供标准化对标范式。

文档指出,大模型驱动的智能体已从内容生成工具转向自主行动主体,全球多国均探索差异化分级治理路径,但行业缺少完整覆盖能力、风险、防护的一体化框架。白皮书借鉴自动驾驶分级思路,将智能体自主性拆解为决策自主度与降险自主度两大可度量维度,划分 L1 至 L5 五级体系,各级对应不同人机分工、设计运行范围与典型产品形态:L1 为辅助执行智能体,全部关键决策与风险兜底由人类承担;L2 是有监督协作智能体,仅能在预设工作流内自主执行;L3 为有条件自主智能体,可在单一业务域独立完成完整任务;L4 高度自主智能体支持跨域并发运行,目前暂无成熟落地产品;L5 自适应自主智能体具备自我迭代能力,仅作为前瞻性概念纳入框架。产品等级判定需同时满足两维度标准,同一产品不同运行模式可对应不同等级。
白皮书梳理感知、规划、记忆、行动、供应链、权限、数据、运行环境、人机治理九大贯穿全等级的基线故障风险,总结出三条风险演进主线:随自主性提升,错误从文本输出演变为跨域级联故障;权限风险从凭证泄露发展为全域边界失控;监督责任逐步向智能体转移,风险源头从人工疏漏前移至系统目标对齐缺陷。同时针对 L3 及以上高自主等级,区分故障、滥用、失控三类差异化风险形态。
防护层面确立六项分级设计原则,构建 “通用控制基线 + 分级专项措施” 双层防护体系,针对五级智能体风险演化路径逐层递进配置管控手段,并单独制定防范滥用、主动失控的专项技术方案。治理维度区分不可突破的红线原则与场景化推荐原则,划分模型研发、智能体开发、平台、组件分发、终端用户五大生态责任主体,明确各主体对内流程管控与对外透明披露要求,搭建跨主体风险共享、协同处置机制。
文末提出六大待探索开放课题,涵盖自主性量化标准、通用与专用智能体边界、高等级智能体故障与失控区分评测、自进化系统动态治理等方向,为后续行业研究与框架迭代预留探索空间。全文兼顾当下产业落地与远期技术前瞻,形成覆盖设计、部署、运维全周期的完整治理方案。
以下是报告部分内容




















来源:安远AI,互联互通社区推荐阅读,版权归作者所有。文章内容仅代表作者独立观点,不代表互联互通社区立场,转载目的在于传递更多信息。如涉及作品版权问题,请联系我们删除或做相关处理!





