推广 热搜: 采购方式  滤芯  带式称重给煤机  甲带  气动隔膜泵  减速机型号  无级变速机  链式给煤机  履带  减速机 

Agent 安全报告:54% 企业已经发生 AI Agent 事故,而且多数仍让 Agent 共享凭证

   日期:2026-07-18 06:20:23     来源:网络整理    作者:本站编辑    评论:0    
Agent 安全报告:54% 企业已经发生 AI Agent 事故,而且多数仍让 Agent 共享凭证

很多企业现在讨论 AI,关注点还停留在模型够不够强、成本够不够低、员工会不会用。

但真正已经开始在企业里引发问题的,往往不是这些。

而是:

AI Agent 已经开始接系统、碰数据、动流程了,可很多公司的权限、隔离和审批机制,还停留在试玩阶段。

这也是为什么最近一份关于企业 AI Agent 安全的调研,会这么值得管理层认真看。

这份数据来自 VentureBeat 在 2026 年 6 月做的一轮 Pulse Research。样本是 107 家员工数超过 100 人的企业,而且其中相当一部分受访者,本身就是 AI 采购和落地的决策者。

它问的不是泛泛的“你担不担心 AI 风险”,而是更现实的问题:

你们已经把 Agent 用到什么程度了?出过什么事?怎么管权限?怎么做隔离?

给出来的结果相当直接。

在这 107 家企业里,54% 已经遇到过 AI Agent 安全事故,或者至少踩到过高危险情

其中:

  • 18% 是已经确认发生过安全事故
  • 36% 是 near miss,也就是差一点就变成真正事故的高危险情

这组数字真正说明的,不是“大家有点担心”。

而是超过一半的企业,在真实部署里已经出过事,或者差一点就出事。

真正值得警惕的,不止一个 54%

如果这份调研只有一个“54%”,那它还只是一条让人紧张的 headline。

但真正值得细看的,是后面几组数据放在一起之后,逻辑会非常清楚。

除了 54%,它至少还给出了三组关键事实:

  • 69% 的企业,存在 Agent 共用凭证的问题
  • 30% 的企业,才会对高风险 Agent 做沙箱隔离
  • 员工超过 1000 人 的企业,事故或险情比例会从 49% 升到 63%

把这几组数字放在一起看,意思就很明确了:

企业不是不知道 Agent 有风险。

而是 Agent 已经大规模进系统了,但最关键的治理动作,还没跟上。

报告真正暴露的,不是“AI 太危险”,而是治理太粗糙

很多人看到安全事故,会下意识把锅甩给模型本身。

好像问题出在“AI 太强”“模型失控”“提示词攻击越来越复杂”。

但这份调研真正打脸的地方是:

很多企业出问题,并不是因为模型太高级,而是因为管理方式太粗糙。

最典型的一个信号,就是那组 69%

也就是:

69% 的企业,在某些 Agent 部署里,还存在共用凭证的问题。

换成人话,就是多个 Agent 在共享同一个 API Key,或者共享服务账号、借用人类员工身份去执行任务。

这也是为什么我会说,最蠢的错误,就是还在共用 API Key。

共用 API Key,不是方便,而是在主动制造黑盒

在很多团队里,AI 工作流最初都是被“先跑起来再说”这种心态搭出来的。

于是就出现一种很常见,也很危险的做法:

  • 研发在用同一个主 Key
  • 财务在用同一个主 Key
  • 客服在用同一个主 Key
  • 外包团队也在用同一个主 Key
  • 自动化脚本和试验项目,还是这个主 Key

短期看起来很省事。

权限不用拆,账号不用建,流程不用改。

但一旦 Agent 开始真的动手,你就会发现:

  • 谁删了数据?查不清。
  • 谁刷爆了额度?查不清。
  • 谁把资料外传了?还是查不清。

因为在日志里,你看到的只是“这个 Key 调用了系统”。

你看不到到底是研发 Agent、财务 Agent、某个外包脚本,还是员工半夜自己接的一个自动化工具。

这也是为什么 69% 这个数字,几乎可以被看作是 54% 的上游原因之一。

不是所有事故都来自特别高级的攻击。

很多时候,事故是企业自己先把门拆掉了。

真正的问题,是 Agent 已经从聊天框走进系统了

过去大家对 AI 的理解,很多还停留在 Chatbot 时代。

输入是文字,输出也是文字。

就算答错了,最多是误导人。

但 Agent 时代不是这样。

Agent 会读文件、改代码、写数据库、调接口、发邮件、调用 MCP、执行工作流,还可能直接接触客户资料、订单记录、合同、审批信息和财务数据。

所以现在风险半径已经变了。

以前的关键词是:幻觉。

现在的关键词是:越权执行、凭证外泄、数据污染、审计失效。

而这份 VentureBeat 调研真正有价值的地方,就是它把这个变化量化了。

它不是在说“AI 模型本身更危险了”。

它是在说:

企业已经把 AI 从聊天框放进了系统,但治理动作没有同步升级。

大企业为什么反而更危险

这份报告里还有一个很值得管理层注意的地方:

企业越大,事故率越高。

在样本里,员工数在 101 到 1000 人之间的企业,事故或险情比例是 49%

而员工数超过 1000 人的企业,这个数字直接升到 63%

这很反直觉。

很多人会以为大公司流程更严、安全更成熟,理论上应该更稳。

但现实往往相反。

公司越大,Agent 越多,系统越复杂,权限链条越长,历史包袱越重,最后就越容易在“身份、隔离、审计”这些基础问题上出漏洞。

更要命的是,报告里同时给出的另一个数字是:

真正会对高风险 Agent 做沙箱隔离的企业,只有 30%。

也就是说,企业规模越大,暴露面越广,但真正能限制爆炸半径的动作,落地得反而越少。

企业真正要补的,是工牌、隔离和刹车

所以这份报告最值得企业看的,不只是“54%”本身。

而是它背后的治理缺口已经非常清楚了。

只要 Agent 已经开始碰系统、碰数据、碰流程,企业就得把它当成一个会动手的员工来管。

第一步,是给它发工牌。

也就是:每个 Agent 都要有独立身份和独立权限。

谁在跑,跑了什么,调用了哪些工具,改了哪些字段,花了多少额度,都要能追到具体那只 Agent。

第二步,是做隔离。

高风险 Agent 不应该和普通 Agent 混在同一个执行环境里,更不应该共享同一组高权限凭证。

第三步,是给它装刹车。

不是让它直接写库、直接改账、直接更新客户资料。

而是让它先提交一个变更申请,再由人来批准。

为什么像 Busabase 这样的工具会有价值

说到这里,Busabase 这类开源免费的、可为 Agent 搭建可信赖智能数据库的工具,就能看懂它的价值了。

它不是在帮你把 AI 放得更飞。

它是在帮你把 AI 放进一个更可信的工作方式里。

而且它有两个现实优点:

  • 开源免费
  • 逻辑非常清楚,就是让 AI 的高风险动作先进入审核,而不是直接写进正式系统

Busabase GitHub:https://github.com/busabase/busabase

如果把它放回今天这个话题里,你可以把它理解成:

当 Agent 想修改正式数据时,它先提一个 Change Request,进入待审核收件箱,再由真实的人点开核对、批准或驳回。

这类产品的意义,不是把人拿掉。

恰恰相反,是在 AI 越来越能干活的时候,把“最后谁拍板、谁负责、谁留痕”这件事重新补回来。

最后

这份报告最刺眼的地方,不只是“54%”这组数字本身。

而是它提醒你:

很多公司不是没有用 AI。

而是已经开始大规模用了,只是还在用最蠢的方式去管它。

真正危险的,不是 Agent 不够聪明。

而是它已经能干活了,公司却还没有给它工牌、隔离和刹车。

【给自己打个广告】

 
打赏
 
更多>同类资讯
0相关评论

推荐图文
推荐资讯
点击排行
网站首页  |  关于我们  |  联系方式  |  使用协议  |  版权隐私  |  网站地图  |  排名推广  |  广告服务  |  积分换礼  |  网站留言  |  RSS订阅  |  违规举报  |  皖ICP备20008326号-18
Powered By DESTOON