你有没有想过，有一天你的AI助手不仅能回答问题，还能替你发邮件、改代码、操作财务系统？这听起来很酷，但一旦被恶意利用，后果也可能很严重。
这正是《智能体安全研究报告》提出的核心问题：当AI从“会说话”变成“会行动”，安全如何保障？
风险变了：从“说错话”到“做错事”
传统大模型的风险主要是内容安全——比如生成不当回答。但智能体（Agent） 能调用工具、修改数据、执行命令，风险从“内容”升级为“行动”。
同一个错误提示词，在普通模型中可能只是回答偏差；但在智能体中，可能变成一封对外发送的错误邮件，甚至一次生产环境的变更。
八大风险，你中招了吗？
报告总结了智能体面临的八类核心风险，包括：
目标劫持：恶意指令让AI偏离真实任务
工具滥用：AI调用不该用的工具
身份权限滥用：权限过宽，一次攻击放大成全局风险
记忆污染：一次攻击影响未来所有任务
沙箱逃逸：代码执行绕过隔离环境
这些风险不是理论推演，而是已经在企业落地中暴露出的真实隐患。
安全不是“防一下”，而是“控全程”
报告强调，智能体安全不能只依赖模型本身，而应建立控制平面，覆盖：
身份链：谁在调用AI？
权限控制：AI能做什么？不能做什么？
工具注册：每个工具都要有“使用说明书”
审计日志：每一步操作都可回放、可追责
人工审批：高风险动作必须有人确认
一句话：让AI像员工一样被授权、被约束、被审计。
企业该怎么做？从这三步开始
报告建议企业从低风险任务起步，逐步建立安全能力：
登记Agent清单：谁在用？用什么模型？有什么权限？
最小权限授权：短期、可撤销、按任务授予
审计日志接入：把AI操作纳入企业安全监控体系
安全不是拖后腿，而是让AI真正可控、可信、可规模化。
AI智能体正在从“实验工具”走向“生产系统”。模型能力会越来越强，但安全部署能力不会自动跟上。
能安全地让AI行动的团队，才是下一阶段真正的竞争力。
让AI行动可控，让企业部署可信。这份报告，值得每一位关注AI落地的你认真阅读。
转发提醒身边做AI、管安全、带团队的朋友：智能体来了，安全准备好了吗？
更多清华信息（点击文字下载报告）
清华大学2025人工智能治理年度报告迈向可衡量的AI治理19页.pdf
清华大学2025年AIGC发展研究报告4.0版152 页.pdf
清华大学&华为：AI终端白皮书-AI与人协作、服务于人.pdf
