关注小站，让学习助力职业发展CIO小站 | 专注信息化
研究报告 | 150万人工智能代理面临叛变风险API 管理平台供应商格拉维蒂（Gravitee）于本周三发布的一项研究显示，英美企业目前投入使用的 300 万个人工智能智能体中，超半数处于无管控状态，存在失控风险。 该研究结果基于民意调查机构 Opinion Matters 在 2025 年 12 月对 750 名 IT 高管及从业者开展的调研，数据显示人工智能智能体的部署速度，已远超安全团队的跟进能力。格拉维蒂首席执行官罗里・布伦德尔表示，目前企业内部运行的人工智能智能体已超 300 万个，这一规模相当于沃尔玛全球所有员工的总人数。 这一 300 万的数值，是结合政府统计数据与调研结果推算得出：英方统计的员工规模 250 人及以上的企业有 8250 家，美方为 77000 家；调研显示，每家企业部署的人工智能智能体平均数量为 36.9 个。此外，当被问及企业 “过去 12 个月是否遭遇或疑似遭遇过与人工智能智能体相关的安全或数据隐私事件” 时，88% 的受访者均给出了肯定答案。 研究结果还显示，企业中未被实时监控和安全防护的人工智能智能体，平均占比达 53%。 在被问及开展该研究的初衷时，布伦德尔在邮件中表示：“人工智能智能体失控的相关事件早已屡见不鲜 —— 删除代码库、泄露机密信息、生成虚假数据，这些情况我们都有所耳闻。本次研究的初步假设是：尽管智能体的落地应用已步入快速发展阶段，但企业尚未建立起对应的管控体系。而这份研究结果，也印证了这一假设。” 布伦德尔指出，人工智能智能体 “能为企业带来生产效率的大幅提升，但我们也必须正视其潜在风险：若缺乏有效的管控与监督，它们极易从助力沦为企业负担，同时对消费者和企业自身造成安全威胁”。 他还表示，尽管本次调研的受访者均来自英美两国，但 “这无疑是一个全球性问题。全球各地的企业都在使用人工智能智能体，而在所有地区，智能体的部署规模与管控水平之间，都存在明显差距。我们在欧盟拥有庞大的客户群体，而当地企业也正面临着同样的问题”。 加拿大安全意识培训公司博瑟伦安全（Beauceron Security）负责人戴维・希普利则表示：“这份研究中，唯一让我感到意外的是，竟有人认为未被监控的智能体占比只有 53%—— 实际比例只会更高。” 他将格拉维蒂的这项研究结果，比作 “科技行业所有人都在忽视的泰坦尼克号教训”。“泰坦尼克号的失事，并非因为船员不知道航线中存在冰山。他们明知当时正值冰山高发期，也清楚船只的航行速度过快，却依然心存侥幸。” 希普利称，当时的船长和船员 “认为自己能及时发现冰山；即便未能发现并撞上冰山，船上的技术防护措施也能保护船只，帮助他们渡过危机”。他们对船上所谓的水密隔舱深信不疑，而事实证明，这些隔舱的顶部并非完全水密；更重要的是，他们寄望于全新的无线电通信技术，认为遇险时能通过这一技术求救。而如今，行业内也存在着类似的侥幸心理：“只要我们的人工智能智能体出了问题，IT 和安全团队总能解决。” 英福泰克研究集团首席研究总监马尼什・贾因表示，随着人工智能技术的指数级发展步伐持续加快，基于与首席信息官、首席数据官的合作实践，其所在机构预测，到 2028 年，全球人工智能智能体的数量将超过人类员工总数。他指出：“如何在不抑制人工智能智能体创新价值的前提下实现有效管控，将成为企业和 IT 高管面临的最大挑战之一。” 贾因还提到，即便是当下，“我们也能看到，企业中绝大多数人工智能智能体都在无监督的状态下运行。许多企业甚至不清楚自身部署了多少智能体、这些智能体在何处运行，以及它们可访问哪些数据和系统。倘若连谷仓里有多少头骡子都一无所知，就别在骡子撞开仓门时大惊小怪。” 贾因指出，人工智能智能体的情况亦是如此。“这些未被统计的智能体，往往通过企业批准使用的低代码工具、员工非正式的试验操作产生，在出现故障前，它们始终绕开传统 IT 部门的监管。无法被看见的事物，根本无从管控。因此我们必须认清，真正的问题并非‘失控人工智能’，而是‘隐形人工智能’。” END 近期推荐 了解数字化转型的6个阶段 需要考虑的 10 个数字化转型目标 往期优质 需要考虑的 10 个数字化转型目标 12 个数字化转型技巧和最佳实践 人工智能如何促进数字化转型 点这里?关注我，及时了解最新信息~
