编者按
关保联盟推出《关键信息基础设施安全保护支撑能力白皮书——以新质战斗力引领“AI+”时代网络安全（2025）》系列解读，聚焦 “AI+” 时代关键信息基础设施安全领域全新挑战，拆解能力建设要点，助力运营者提升防护效能。期待与同仁共筑关基安全屏障。
随着人工智能技术的颠覆性发展，“AI+” 已深度重塑经济社会各领域，成为驱动技术革命与社会变革的核心引擎。但技术是一把双刃剑，AI 在赋能产业升级、提升效率的同时，也为网络安全领域带来了前所未有的风险与挑战，深刻改变了网络攻防格局。关键信息基础设施作为国家安全、经济繁荣和社会稳定的重要基石，其安全防护在 “AI+” 时代面临更为严峻的考验，亟需系统性认知与应对。
一、AI 赋能攻击，攻防非对称性差距持续扩大
人工智能技术的普及，使网络攻击实现了自动化、智能化、持续化的跨越式升级，传统防御手段难以应对。
攻击自动化与效率倍增：AI 驱动的高级持续性威胁（APTs）可长期隐蔽渗透目标网络，攻击工具能将零日漏洞利用过程压缩至 10 分钟以内，实现从侦查到漏洞利用的全流程自动化，传统安全措施难以识别。
智能社会工程攻击精准化：基于生成式 AI 的钓鱼邮件、深度伪造音视频等攻击手段，能精准分析目标信息并定制攻击内容。2023 年内蒙古包头某诈骗案中，诈骗分子利用 AI 合成 “数字人” 与受害者实时视频互动，10 分钟内骗取 430 万元，凸显此类攻击的强欺骗性。
恶意软件自适应进化：AI 驱动的恶意软件具备多态性特征，可在不同环境下改变自身代码躲避检测，还能根据环境自主调整行动策略，如检测到沙箱环境时休眠，极大提升了传播与攻击成功率。
攻击门槛降低与成本失衡：AI 使攻击工具易用性提升，非技术人员也能通过现成工具实施攻击，形成 “网络犯罪即服务（CaaS）” 模式。而防御方需构建系统性防护能力，导致攻防成本差距进一步扩大，非对称性态势加剧。
二、网络犯罪智能化升级，新型犯罪形态层出不穷
AI 与网络犯罪的深度融合，推动传统网络犯罪向规模化、隐蔽化、产业化升级，给打击治理带来新挑战。
犯罪技术能力显著提升：AI 算法可自动爬取互联网公开信息构建用户画像，结合换脸、拟声技术实施身份欺诈；暗网中的数据交易通过 AI 实现标准化整合、智能定价与风险规避，形成完整的黑色产业链。
犯罪规模与效率指数级增长：AI 驱动的自动化攻击可同时针对大量目标展开批量操作，钓鱼邮件等攻击通过模仿受害者同事、管理者的语言模式实现高度个性化，识别难度大幅提升，诈骗成功率显著增加。
犯罪隐蔽性与溯源难度加大：AI 技术使犯罪行为更难追踪，虚假身份伪装、攻击路径匿名化、数字证据易篡改等问题突出，跨域作案、跨境协作的犯罪模式，进一步增加了侦查取证与跨部门协同的难度。
三、大模型自身安全隐患凸显，全生命周期风险交织
大规模机器学习模型在训练、部署和应用过程中，存在算法漏洞、数据污染、伦理偏差等多重安全风险，且风险相互交织，构成复杂安全挑战。
算法漏洞与攻击利用频发：提示词注入、越狱攻击等手段可操纵模型行为，诱导其忽略安全防护规则；对抗性攻击通过对输入数据添加微小扰动，导致模型误判，如自动驾驶系统误识别交通标志引发事故；模型翻转、成员推断攻击则可能泄露训练数据中的敏感信息，侵犯隐私。
数据投毒与供应链攻击风险：攻击者向训练数据中注入恶意样本，可长期影响模型决策逻辑，少量污染数据即能显著提升模型输出有害内容的概率；供应链攻击则瞄准 AI 开发全流程的依赖关系，通过污染开源模型、数据标注服务等，引发大规模安全事件。
系统应用与伦理风险突出：多模态大模型的跨领域漏洞可能被跨模态攻击利用；深度伪造技术滥用威胁社会信任，虚假信息规模化传播可操纵舆论；模型可能放大训练数据中的社会歧视，出现方言适配偏差、少数民族文化误读等问题，引发伦理与社会风险。
四、数据安全与基础设施风险叠加，威胁传导链形成
“AI+” 时代，数据成为核心生产要素，数字基础设施与 AI 深度融合，导致数据安全风险加剧，且风险跨域传导形成连锁反应。
数据全生命周期安全挑战：训练数据的完整性与可靠性难以保障，数据篡改、污染可能引发 “递归污染效应”，导致模型长期失效；数据所有权与使用边界模糊，多环节数据流转增加泄露风险；数据滥用问题突出，AI 可被用于大规模伪造身份证明、制造虚假信息，冲击社会信任体系。
数字化基础设施 AI 化风险：电网、电信网络、核心业务系统等数字基础设施 AI 化后，传统 IT 漏洞、AI 模型缺陷、物理系统故障通过 AI 决策逻辑深度耦合，形成跨层风险传导链。2025 年某炼油厂传感器数据被篡改后，AI 系统误判引发爆炸，印证了此类风险的致命性。
关键信息基础设施成重灾区：能源、交通、政务、金融等领域的关键信息基础设施，因承载核心业务与海量数据，成为风险叠加的重点目标。智能电网 AI 调度算法遭攻击可能导致区域性停电，政务 AI 助手被注入虚假政策解读可能误导公众，网贷平台利用 AI “黑箱特性” 规避监管等问题，严重威胁国计民生。
五、大模型应用安全风险突出，合规与伦理挑战加剧
随着大模型在关键业务场景广泛部署，其应用系统成为攻击重点目标，同时带来严峻的合规与伦理问题。
应用层安全漏洞频发：未授权访问、API 接口漏洞、多租户隔离失效等问题，可能导致模型参数、训练数据、用户交互信息泄露；推理侧的容器逃逸、集群配置漏洞等，可能引发核心知识产权损失与内部网络渗透。
外部依赖与安全链脆弱：大模型通过函数调用、检索增强生成（RAG）等扩展能力，其安全状况依赖第三方工具与知识库，若第三方工具被篡改或知识库被污染，可能导致模型成为自动化攻击的引擎。
合规与伦理治理难度大：大模型的安全机制易被系统性绕过，诱导生成非法内容；深度合成技术滥用侵犯个人权益、扰乱公共秩序；模型 “幻觉” 现象可能导致医疗诊断、金融分析等高敏感领域出现事实错误，挑战行业合规底线；不同地域的伦理标准差异，进一步增加了治理复杂性。
六、安全监管法律支撑不足，治理体系面临考验
人工智能技术的高速迭代与现行法律体系的稳定性之间存在深刻矛盾，导致 “法律适用性危机” 凸显，给安全监管带来诸多挑战。
法律适用存在核心空白：AI 系统的自主学习与黑箱特性，导致传统法律依赖的 “清晰因果链” 中断，责任归因模糊；AI 生成内容的知识产权归属、权利主体认定等基础问题缺乏明确法律界定；静态法律条文难以适配技术快速演进，监管敏捷性不足。
监管范式与技术发展脱节：当前国际虽形成不同监管路径，但全球统一标准尚未建立，部分企业缺乏 AI 治理政策；传统监管模式难以覆盖 AI 驱动的新型安全风险，跨域、跨境监管协作难度大，监管套利风险存在。
“AI+” 时代的网络安全风险，是技术变革带来的系统性挑战，涉及技术、产业、法律、伦理等多个维度。认清这些风险的本质与传导规律，是构建有效防护体系、保障关键信息基础设施安全、促进人工智能健康发展的前提。唯有正视风险、协同发力，才能推动 “AI+” 技术真正成为赋能发展、守护安全的强大力量。
白皮书订购
如有意购买，请联系：
关小元 13391615952 （微信同号）
关小宝 13810321968 （微信同号）
