推广 热搜: 采购方式  滤芯  带式称重给煤机  甲带  气动隔膜泵  减速机型号  无级变速机  链式给煤机  履带  减速机 

周周有学习 青企共成长丨智能体安全研究报告

   日期:2026-07-21 17:35:39     来源:网络整理    作者:本站编辑    评论:0    
周周有学习 青企共成长丨智能体安全研究报告
智能体
安全研究报告
从大模型安全到可控行动系统

智能体安全=让会行动的AI可授权、可约束、可追责;智能体能规划、调用工具、保持状态并影响外部系统;安全目标不是让模型永远不犯错,而是让错误不会无约束扩散;核心抓手是身份、权限、工具、上下文、沙箱、审批和审计。

开场与核心判断

Agent从实验工具进入企业生产环境;

开发框架和API让工具调用、文件操作、沙箱执行更容易;

企业开始把Agent用于客服、研发、安全运营、财务和内部流程;

能力越接近真实操作,安全治理越必须前置。

风险的本质变化

从“内容风险”升级到“行动风险”;

普通大模型的主要问题是输出质量和内容边界;

智能体的主要问题是能否代表用户或系统采取行动。

最新背景与定义边界
01
CISA/NSA把Agent列入安全议题

2026年"Careful Adoption" 成为企业落地的重要参考;

CISA、NSA及多国网络安全机构发布Agentic AI安全采用指导;

文件强调分层防御、严格访问控制、人类监督和渐进式部署;

这意味着Agent安全已经从厂商最佳实践进入国家级安全议题,进入国家级安全议题。

02
NIST聚焦能改变外部状态的Agent

RFI明确区分普通聊天机器人与行动型智能体;

NIST RFI关注能够采取行动并影响外部状态的Al agent systems;

议题包括独特威胁、开发部署、测量方法和环境约束;

这为企业风险分级提供了清晰边界。

03
OpenAI视角:Agent是多步骤工作应用

规划、工具调用、协作和状态保持构成Agent基本能力;

Agents是能规划、调用工具、协作并保持状态的应用;

当应用要管理编排、工具执行、审批和状态,就进入Agent工程范畴;

安全控制必须跟随这些工程能力一起设计。

智能体系统模型

Agent不是一次性回答,而是循环执行;

每一步都会读取新上下文并产生新动作;

循环越长,越需要熔断和阶段性确认。

身份层

Agent必须有独立身份和代理链路;

不要让Agent长期持有人类账号凭证;

每次工具调用应记录用户、Agent、服务账号和审批链;

身份链清晰,事故追责才可能清晰。

工具层
上下文层
END
扫码查看报告
一起线上学习吧

编辑:陈彬倩

 
打赏
 
更多>同类资讯
0 条相关评论

推荐图文
推荐资讯
点击排行
网站首页  |  关于我们  |  联系方式  |  使用协议  |  版权隐私  |  网站地图  |  排名推广  |  广告服务  |  积分换礼  |  网站留言  |  RSS订阅  |  违规举报  |  皖ICP备20008329号-18
Powered By DESTOON