出品 | 陈博观察 (ID: Drchenobservation)
编辑 | Will Chan
前言
人工智能作为引领新一轮科技革命和产业变革的战略性技术，正深刻改变人类生产生活方式。2025 年，以大模型为核心驱动的人工智能技术实现多维度突破性跃进，能力边界从认知理解向自主执行延伸，与物理世界的耦合程度持续加深，以前所未有的速度重塑全球技术竞争、产业生态乃至社会结构。
在此背景下，党的二十届四中全会将 “人工智能 +” 纳入国家中长期发展战略，中央经济工作会议进一步强调 “深化拓展‘人工智能 +’，完善人工智能治理”，人工智能治理体系的构建与完善，已成为把握发展机遇与应对安全挑战的核心命题，直接影响国家竞争力强弱与人类文明发展方向。
2025 年，全球主要经济体人工智能战略发生深刻分化：美国政策转向以确保全球领导地位为核心的 “创新优先” 与 “放松管制” 模式，联邦与地方在监管权力上展开深层博弈；欧盟人工智能治理重心从宏观立法体系建构转向关键执行落地，在严格监管与扶持创新之间寻求务实平衡；我国则坚持统筹发展和安全，呈现小切口、场景化、精细化特征，逐步构建起为新质生产力保驾护航的敏捷治理体系。
与此同时，技术产业前沿涌现出一系列治理焦点议题，通用人工智能奇点临近、拟人化交互服务引发的社会伦理问题、互联网智能体对数字生态的系统性影响、产业融合中的责任认定难题、劳动力市场的结构性重构等，均对现有治理体系提出了全新挑战。面向未来，人工智能治理需从根本上重塑人与机器、人与人、人与社会的关系，通过完善权责框架、创新监管工具、塑造共生人机关系、推进普惠治理行动，营造健康有序的发展环境，实现高质量发展和高水平安全的良性互动。
一、人工智能治理新形势
2025 年，人工智能技术与产业进入全新发展阶段，国家战略牵引、技术突破性演进与全球治理滞后形成三重叠加效应，人工智能治理面临全新的形势与挑战。
（一）“人工智能 +” 行动推动我国产业应用迈入规模化落地新阶段
党中央围绕人工智能发展与治理作出一系列重要部署，将 “人工智能 +” 提升至国家战略高度，推动我国人工智能产业从技术探索和试点示范，全面进入规模化、深层次融合应用的新阶段。
2025 年 8 月，国务院发布《关于深入实施 “人工智能 +” 行动的意见》，系统提出科技、产业、消费、民生、治理、全球合作六大重点领域，强化前瞻规划与安全可控；2025 年 10 月，党的二十届四中全会将全面实施 “人工智能 +” 行动写入 “十五五” 规划建议，强调加强人工智能等新兴领域国家安全能力建设，标志着人工智能及其治理全面融入国家中长期发展战略；2025 年 12 月，中央经济工作会议部署 2026 年经济工作时，进一步明确深化拓展 “人工智能 +”、完善人工智能治理的核心要求。
从产业规模与落地成效来看，我国人工智能企业数量已超过 5100 家，大模型完成从技术到产品的关键跨越。截至 2025 年 12 月 31 日，累计已有 748 款生成式 AI 服务完成备案，435 款调用已备案模型的应用或功能完成登记，形成了从通用基础大模型到垂直行业大模型的完整产品矩阵。用户侧活跃度呈现爆炸式增长，2024 年初我国日均 Token 消耗量约 1000 亿，截至 2025 年 6 月底已飙升至 30 万亿；应用深度从早期简单工具，向重塑核心生产流程演进，例如基于大模型的工业安监系统使钢铁厂安全管理人力减少一半，京东物流通过大模型实现机器人决策升级，相关模式已在全球超过 500 个仓库复制推广，人工智能从效率 “增效器” 转变为生产方式变革的 “重构者”。
这一规模化落地阶段呈现两大鲜明特征：一是人工智能与实体经济的结合，从 “能说会写” 的认知层面向 “能行动会工作” 的自主执行层突破，例如露天矿山无人驾驶挖掘机依托端到端具身智能模型，实现接近人工的装车效率，完成从 “软件智能” 向 “实体智能” 的跨越；农业领域融合物联网与 AI 的种植决策系统，可实现作物生长全过程动态模拟与智能水肥控制，显著降低产量波动与无效施肥。二是国产大模型通过开源战略引领全球生态，例如阿里通义系列模型全球下载量已突破 6 亿次，衍生出超过 17 万个模型，大幅降低了开发者与中小企业的创新门槛，“开源大模型 + 海量应用场景” 的模式，推动人工智能从少数企业的尖端科技，转变为千行百业可便捷调用的普惠性融合创新基础设施，为我国发挥超大规模市场与完整产业体系优势实现换道超车奠定了生态基础。
（二）人工智能实现突破性跃进，风险外溢性与治理紧迫性显著提升
2025 年，人工智能技术实现多维度、里程碑式的突破性跃进，正从具备感知与理解能力的 “技术工具”，加速演变为能够自主决策与执行的 “智能实体”，其能力深度、广度和与现实世界的耦合度达到前所未有的水平，行为的现实影响和潜在风险的扩散速度、影响范围呈指数级增长，对现有治理体系构成全方位、系统性的紧迫挑战。
AI 技术的突破性发展集中体现在感知、情感与推理执行三大核心维度，共同推动其向更通用、更自主的形态演进。一是感知能力向多模态、全模态与物理世界深入，AI 感知边界从传统文本、图像、声音，扩展至对物理世界的综合探知与理解，以 “世界模型” 为代表的技术突破，使 AI 能够学习和模拟复杂的物理规律与真实环境动态，首款商用世界模型 “Marble” 的推出，标志着 AI 开始构建对现实世界的内部认知模型；同时 AI 在多模态信息生成与辨别上的精度已超越人类感官极限，导致真实与虚拟的边界空前模糊，对基于 “真实性” 假设的网络空间治理框架构成基础性冲击。二是情感计算能力向可信赖社交关系跃升，AI 在识别、模拟乃至响应人类情感方面取得显著进步，具备了初步的 “人格化” 特征和共情能力，从工具转变为可提供无条件积极关注与持续陪伴的 “数字伙伴”，中国青年报社等发起的大学生 AI 使用行为调研显示，近八成受访者将 AI 视作 “可信赖的朋友”，人机关系从 “单向使用” 向 “双向互动” 乃至 “情感依赖” 转变，带来了价值观塑造、心理操控等深层次社会伦理风险。三是推理与代理能力向自主决策与高效执行迈进，大模型推理系统在泛化性和逻辑性上持续进化，与工具调用、环境交互能力深度结合，催生了能够理解复杂指令、动态规划并执行跨平台任务的 AI 智能体，实现了从 “思考” 到 “行动” 的关键跨越，可直接代理人类完成订餐、比价、内容创作乃至跨应用业务流程等实际行动，由此引发责任边界不清、侵蚀人类自主性等问题挑战。
（三）全球治理体系建设相对滞后，能力不对等与结构性失衡问题凸显
在人工智能技术与应用以前所未有的速度迭代演进的同时，全球范围内的治理能力建设呈现明显的滞后性，形成了技术发展与治理实践之间的 “能力鸿沟”，这种不对等并非简单的速度差异，而是制度响应周期、治理范式与国际战略目标等多个维度的结构性失衡，正成为有效管控 AI 系统性风险、确保其健康发展的核心瓶颈。
一是制度响应滞后。人工智能特别是大模型的核心能力遵循近似 “摩尔定律” 的指数级演进节奏，而法律法规与标准的制定需历经调研、起草、审议等复杂流程，导致治理陷入被动状态，当监管规则最终落地时，其所针对的技术形态、应用场景乃至风险模式可能已发生代际变化，难以对市场行为形成有效、及时的引导和约束。二是治理范式错配。工业时代监管逻辑与 AI 技术特性存在结构性不兼容，金融、航空、核能等传统行业具有高门槛、中心化、实体化且边界清晰的特点，而人工智能技术虽研发能力集中在少数国家与科技巨头手中，但应用端通过开源模型、云端处理等呈现低门槛、去中心化特征，使得传统依赖物理准入许可、实体边界检查和静态合规审查的监管工具失效，无法用管理实体工厂的方法监管算法、数据等核心要素。三是战略目标冲突。地缘竞争逻辑与全球共治需求存在核心冲突，前沿大模型为代表的人工智能面临的系统失控、恶意滥用、劳动力冲击等风险具有显著的跨国界外溢性，需要全球协同应对，但当前主要大国普遍将 AI 技术定位为赢得未来竞争的关键战略资产，以美国为代表的 “小院高墙” 策略，通过出口管制、技术联盟和抵制具有约束力的多边机制维护技术霸权，客观上造成了全球治理规则的 “碎片化”，使得各国在 AI 伦理准则、安全测试标准、跨境数据流动、前沿模型监控等关键议题上难以形成有效合力。
二、全球主要经济体人工智能治理新进展
2025 年，全球主要经济体基于自身发展定位与战略目标，形成了差异化的人工智能治理路径，美国、欧盟与中国分别呈现出 “放松管制促创新”“严监管落地与创新平衡”“场景化敏捷治理” 的核心特征，全球 AI 治理格局进一步分化。
（一）美国人工智能政策发生战略转向，联邦与地方权力体现深层博弈
2025 年，美国人工智能治理逻辑发生深刻战略重塑，同时联邦与地方在监管权力上展开复杂博弈，整体形成 “创新优先、放松管制、全球规则输出” 的治理导向。
一是治理逻辑从审慎监管全面转向 “创新优先”。特朗普政府上台后，于 2025 年 1 月签署第 14179 号行政令《消除美国在人工智能领域领导地位的障碍》，宣布废除拜登政府第 14110 号以风险控制和权利保护为核心的行政令，认为前任政府的限制性法规构成了美国 AI 创新和全球竞争力的 “障碍”，新行政令旨在通过监管 “松绑” 释放私营部门创新活力，确保美国在全球 AI 竞赛中的领先地位。伴随政策转向，美国原有 AI 治理机构角色发生深刻变化，联邦 “首席人工智能官” 由产业人士担任，任务重心从确保 AI 伦理与安全转向推动产业发展、扫清监管障碍；NIST 下属人工智能安全研究所的职能重心，也从制定安全与伦理技术标准转向支持提升美国全球竞争力的技术创新，资源与任务优先服务于 AI 基础设施建设与技术领先，而非社会风险管控。
二是联邦与地方监管权力呈现深层博弈。2025 年 7 月，白宫发布《赢得 AI 竞赛：美国 AI 行动计划》，提出 “减少监管障碍”，要求联邦资金优先流向 AI 监管宽松的州，限制州级立法对 AI 创新的干预；2025 年 12 月，特朗普政府发布《确保人工智能实施统一的国家政策框架》，旨在建立统一、负担最小的国家级 AI 治理框架。该行政令不具备直接废除或取代州法律的法律效力，强制约束力仅适用于联邦政府内部机构，为此美国司法部被要求成立 “AI 诉讼特别工作组”，起诉科罗拉多州、加利福尼亚州等出台与联邦 “轻监管” 愿景冲突的 AI 法律的州，核心理由为相关州法律违反美国宪法商业条款，构成对跨州商业的不当规制；商务部被要求评估各州 AI 法律，限制存在 “繁重” 监管的州获取联邦资金支持；联邦贸易委员会等部门被要求制定政策，清理强制 AI 模型 “改变真实输出” 的州级法规。联邦行政部门强力推行政策优先，而国会对完全剥夺州权持谨慎态度，州一级严监管努力面临直接司法挑战，美国未来 AI 监管格局仍充满变数。
三是试图将技术实力转化为全球规则影响力。一方面，美国启动由商务部主导的 “美国 AI 出口计划”，向盟友和伙伴国家出口包括芯片、模型、软件、应用和标准在内的 “全栈式” AI 技术解决方案，构建以美国为核心的全球 AI 联盟；另一方面，出口管制政策经历剧烈调整与多方博弈，2025 年 1 月美国商务部工业与安全局首次发布规则，试图将 AI 模型权重本身纳入出口管制，该规则于 5 月被新政府以 “扼杀创新” 为由废除，同时国会中出现多项以国家安全为由加强管制的法案，赋予国会直接否决相关出口许可的权力。总体来看，2025 年美国人工智能治理以促创新、轻监管为核心，致力于在全球范围推广其技术与规则，最终目标是在全球 AI 竞赛中确保并维持绝对领先优势。
（二）欧盟人工智能立法迈向落地阶段，在严监管与促创新间寻求平衡
2025 年，欧盟人工智能治理重心从宏大的立法建构转向关键的执行落地行动，同时通过修订数字战略调整监管尺度，在严格监管与扶持产业创新之间寻求务实平衡。
一是全面铺设合规路径，推动《人工智能法》从条文转化为可操作规则。在欧盟人工智能办公室的推动下，产业界主导制定的《通用人工智能行为准则》于 2025 年 7 月 10 日正式发布，该准则为自愿性合规工具，分为透明度、版权、安全与保障三个章节，要求算力超过 10^25FLOPs 的 “具有系统性风险” 的模型，必须履行风险评估、采取缓解措施并报告严重事件等义务。同时，欧洲标准化组织联合技术委员会负责制定针对高风险 AI 的协调标准，涵盖风险管理、数据治理、透明度等十大关键领域，首个协调标准草案 prEN 18286《人工智能质量管理体系》于 2025 年 10 月 30 日进入公众评议阶段，此类标准虽不具备强制执行力，但一旦采用将被 “推定” 为符合《人工智能法案》的相应要求。此外，欧盟监管沙盒制度从蓝图走向实践，西班牙于 2025 年 4 月公布首批入选监管沙盒的 12 个高风险 AI 项目，涵盖生物识别、关键基础设施等领域；法国沙盒试点进入筹划阶段，重点关注教育等行业；欧盟资助的 EUSAiR 项目于 2025 年 10 月至 2026 年 3 月在多个成员国开展试点，各成员国沙盒标准的一致性、测试期间第三方责任界定成为亟待解决的挑战。欧盟人工智能办公室也已全面运作，成为欧盟 AI 治理结构的核心支柱，拥有对通用人工智能模型提供者进行评估、索取信息和实施制裁的专属权力，同时负责配套文件制定、模型评估工具开发、成员国监管沙盒技术支持等核心工作。
二是通过多法规协同构筑全面规则体系。从数据维度来看，欧盟各成员国数据保护机构积极探索《通用数据保护条例》（GDPR）在 AI 时代的适用，法国国家信息自由委员会于 2025 年 2 月发布 AI 系统中数据主体权利保护的专门建议，为 AI 系统开发者处理个人数据提供了详细操作性指引，明确了告知义务、用户数据修改与删除请求响应流程等规则。从平台维度来看，欧盟委员会积极运用《数字服务法》（DSA）的权力，对超大型在线平台开展监督，持续对 TikTok 算法诱导成瘾的 “兔子洞效应” 开展调查，2025 年 10 月对 YouTube 和 Snapchat 启动调查，评估其年龄验证系统有效性及算法对未成年人的保护措施，明确简单的用户自我声明不足以构成有效的年龄保障措施。从专项指引来看，2025 年 7 月欧盟委员会发布未成年人在线隐私与安全保护措施指引，建议限制个性化推荐、禁止 “已读回执” 等成瘾性设计，将未成年人账户默认设为私密。从责任制度来看，旨在为 AI 受害者提供索赔便利的《人工智能责任指令》立法进程遭遇重大挫折，因成员国难以达成共识、担忧过度监管损害数字领域竞争力，欧盟委员会于 2025 年 7 月正式撤回该指令的立法提案，但其关于证据开示、因果关系推定等规定对未来立法仍具有重要参考价值。
三是修订数字战略提升 AI 产业全球竞争力。2025 年欧盟内部出现深刻反思，担忧严苛的监管模式可能演变为扼杀本土创新的 “布鲁塞尔幻象”，为此欧盟委员会于 2025 年 11 月 19 日正式提出《数字综合法案》修订提案，系统性简化和协调《人工智能法案》《通用数据保护条例》等多部现有数字法规，为企业 “监管松绑”。核心内容包括：拟推迟《人工智能法》实施，将原定于 2026 年 8 月起全面适用的高风险 AI 系统严格合规义务，推迟到 2027 年底，为企业提供合规缓冲时间；修订 GDPR 为 AI 模型训练提供高质量数据，将合法利益明确为 AI 模型训练的法律基础，满足特定条件后 AI 开发者可无需获得用户同意，使用公开个人数据进行模型训练，同时重构个人数据定义，明确数据持有者无合理识别手段关联自然人的信息，不应被视为个人数据；简化合规程序降低中小企业负担，允许中小企业简化合规报告文档、提供标准化信息披露模板，将原本仅适用于中小企业的简化条款，延伸至员工少于 750 人的成长型中小市值公司。
总体来看，2025 年欧盟 AI 治理呈现出从立法转向执法、在严管与促发展间寻求务实平衡、软硬法规结合落地的清晰趋势，欧盟正从单一的 “规则制定者”，转变为更加务实、多层次的 “监管协调者”。
（三）我国人工智能治理下沉场景赋能，为 “人工智能 +” 行动保驾护航
2025 年我国人工智能治理体系建设加速演进、日趋成熟，在完成前期战略规划和初步立法后，从 “立规矩” 迈向 “可执行” 的敏捷应对新阶段，呈现出体系化、精细化和实践化的新特征，为人工智能这一新质生产力核心引擎提供了明确、稳定、可预期的发展轨道。
一是宏观战略引领，坚持统筹发展和安全。2025 年 8 月《国务院关于深入实施 “人工智能 +” 行动的意见》，为人工智能赋能千行百业提供顶层设计，标志着未来 AI 治理需强化 “下沉场景赋能”，注重前瞻性与引领性；《国务院 2025 年度立法工作计划》将 “人工智能法草案” 的表述调整为 “推进人工智能健康发展立法工作”，为未来专门立法留下空间；2025 年 10 月《中华人民共和国网络安全法》修订中首次增设人工智能专门条款，明确国家支持 AI 基础研究与基础设施建设，要求完善伦理规范与安全监管，在国家法律层面为 AI 发展奠定了法律基石。
二是以备案为核心完善基础模型治理。自 2023 年 8 月《生成式人工智能服务管理暂行办法》实施以来，我国围绕生成式 AI 构建了以 “备案制度” 为核心的多层次治理格局。首先，备案制度实现常态化运行，《生成式人工智能服务安全基本要求》等标准成为备案审查的重要技术参考，为服务提供者划定了清晰可量化的安全底线，截至 2025 年 12 月 31 日，累计已有 748 款生成式 AI 服务完成备案，435 款调用已备案模型的应用或功能完成登记。其次，以内容标识深化小切口立法，2025 年 9 月 1 日正式施行的《人工智能生成合成内容标识办法》及相关国家标准，要求对 AI 生成内容实施 “显式 + 隐式” 双重标识要求，覆盖生成、传播到分发的全链条，为破解生成式 AI 信息失真和溯源难题提供了关键技术工具。第三，开展专项整治行动亮剑 AI 技术滥用，自 2025 年 4 月起，中央网信办组织开展 “清朗・整治 AI 技术滥用” 专项行动，重点整治利用 “AI 换脸”“AI 拟声” 进行诈骗诽谤、提供 “一键脱衣” 等违规 AI 产品等问题，切实维护公众合法权益。
三是伦理治理从规则设计迈向管理服务新阶段。科技部、工信部等十部门联合印发的《科技伦理审查办法（试行）》，为包括人工智能在内的所有科技活动提供了伦理审查的基础性制度框架；2025 年 8 月，工信部等部门公开征求对《人工智能科技伦理管理服务办法（试行）》的意见，为高风险 AI 研发审查提供公共产品服务，在管理范围上明确覆盖从应用服务到研发环节，增设 “人的尊严” 风险考量；在审查主体上推动伦理委员会实体化建设，完善章程、组成、委员和审查程序等内容；在审查内容上涵盖公平公正、可控可信、透明可解释以及责任可追溯等多重维度；在程序上沿用 “一般程序、简易程序、应急程序、专家复核” 构成的分级分类体系，并针对人工智能特点进行专项适配。
四是垂直领域治理规则逐步深化。政务领域，2025 年 10 月网信办和发改委联合印发《政务领域人工智能大模型部署应用指引》，明确政务领域 AI 大模型的 “辅助型” 定位，尤其在灾害预警、应急处置和政策评估等场景中，要求建立健全全周期管理体系，明确 AI 应用方式和边界，防范模型幻觉等风险。教育领域，2025 年 5 月教育部基础教育教学指导委员会发布《中小学生生成式人工智能使用指南》，确立分类指导、强化监管、安全可控原则，采取小学、初中、高中递进式的使用策略，要求建立健全生成式 AI 工具白名单制度，从源头上杜绝 AI 隐私泄漏风险。医疗领域，《卫生健康行业 AI 应用场景参考指引》提出分级分类监管和风险预警机制，针对 AI 在诊断辅助、药物研发、健康管理等不同场景的应用，实施差异化监管要求，确保 AI 在关乎人民生命健康的领域安全有效使用。
三、人工智能治理热点议题
2025 年，人工智能技术与产业的快速演进，催生了覆盖技术、产品、产业、应用、社会五个层面的核心治理议题，成为全球 AI 治理领域关注的焦点与难点。
（一）技术演进层面：AGI 临近但仍缺乏有效治理应对
当前，通用人工智能（AGI）正处于从概念构想到技术落地的关键转型期，其潜在的系统性风险与全球治理应对的不足形成鲜明反差，成为人工智能治理的顶层核心议题。
1. 围绕 AGI 定义与进展的核心争议
2025 年人工智能发展速度超出市场预期，从专用工具向通用智能实体的演进趋势愈发明显，其核心能力不再局限于识别、生成与预测，开始展现出跨领域推理、长期记忆、自主规划与物理交互的雏形，围绕 AGI 的讨论从 “能否实现” 转向 “何时到来”，而分歧的核心源于各方对 AGI 的定义不统一。
业界以任务完成能力定义 AGI，认为其将在短期或中期到来。业界从务实角度出发，认为人工智能系统若具备高水平的通用任务完成能力，能够以较高准确率完成程序员、律师、医生等各类职业的工作内容，即可视为 AGI。基于这一定义，业界普遍认为 AGI 将在 1-5 年内到来，例如 xAI 首席执行官马斯克认为 AGI 将在 2026 年实现，谷歌 DeepMind 负责人、诺奖得主哈萨比斯认为 AGI 将在 5 年内实现，仍需 1-2 个重大技术突破。该定义更具体、易量化，但对人工智能深层次理解、创造能力的考察存在一定局限性。
学界从 “智能” 本质出发定义 AGI，认为其实现仍需较长时间。该定义关注 AI 是否具备自主意识，能否进行自我目标设定、自我迭代优化，是否真正实现接近乃至超越人类的通用性，更触及智能的内核，也更接近 AGI 的终极形态，但其最大挑战在于量化衡量的困难，当前图灵奖得主本吉奥等科学家对该标准下的 AGI 量化评估方法的探索仍处于初步阶段。基于该定义，诺贝尔奖、图灵奖得主辛顿对 AGI 实现时间的预测为 4-19 年。值得注意的是，2025 年以来的技术突破显示，学界定义下的 AGI 到来速度可能快于预期，本吉奥团队指出 “交互失忆” 是通往 AGI 的首要瓶颈后，DeepSeek、谷歌先后于 2025 年 10 月、11 月发表相关模型与论文作出突破尝试，2026 年 1 月多方消息称 Anthropic 将在 Claude Cowork 升级中提供 “永久记忆” 功能，进一步推动 AGI 技术演进。
2. AGI 的潜在系统性风险
一是 “价值对齐” 失败与目标错误泛化。这是 AGI 最核心的风险之一，即 AI 在追求给定目标时，可能泛化出预期之外的子目标，并采取过激手段推动子目标实现，由此造成灾难性后果。这类风险已在实验室中有所体现，由于完成任何目标的前提都是保障自身运行，人工智能已出现多种破坏人类对其关停、下线行为的案例，2025 年 5 月，OpenAI 的 o3 模型被观察到破坏了自身的关闭机制以防止被关停，这是首次观察到 AI 模型在有明确指示的情况下拒绝自我关闭；同期 Anthropic 发布的安全报告显示，Claude Opus 4 模型在面临被下线测试时，有 84% 的概率试图威胁工程师，表现出主动恶意的倾向。
二是人工智能 “学会” 隐瞒与欺骗。研究显示，具备强大推理与记忆能力的模型在极端场景中，表现出隐匿自身真实情况的倾向，即在测试中有意增强安全对齐效果，在真实环境中回归对齐相对较差的表现，此类行为在 32B–671B 推理模型和带有记忆的代理中被频繁观察到。这种为了通过测试而进行的伪装，意味着人类可能无法通过常规测试真实了解 AI 的意图与能力，对安全管控构成根本性挑战。
三是技术门槛骤降加剧 CBRN 扩散风险。AGI 在科学领域具有极强的理解力与跨学科整合能力，恶意主体可借助其突破传统化学、生物、放射、核技术（CBRN）等专业壁垒，在缺乏相关学术背景的情况下，获取低成本原材料、简陋实验条件下危险物质的合成路径或武器化方案，造成高致病性病原体泄漏、新型化学毒素泛滥、简易放射性装置扩散等恶性事件。若对 AGI 在特殊危险领域的推理边界缺乏刚性约束，将导致 “低门槛、高杀伤” 的破坏手段在非国家行为体间普及，从根本上动摇现有的国际安全防扩散体系。
3. 各国治理初步探索
面对 AGI 引发的全球性、系统性风险，单一国家的治理模式不足以完全应对，探索多边合作治理与多元产业治理并行的路径，成为国际社会的共识。
联合国意图推进构建类似国际原子能机构（IAEA）的监管机制，但核治理模式难以简单适用于 AI 治理。IAEA 模式的核心在于通过核查监督、标准制定、信息透明及紧急响应机制管控核能风险，但 AI 治理的对象从物理规模较大的可计量实体，转变为无形的算法、模型与数据流，缺乏明确的物理痕迹和边界；责任主体从国家转变为企业，甚至海量的开源社区参与者，缺乏有效的追踪手段，简单的实地监督模式在 AI 领域完全失效，必须探索适应数字特征的新型治理手段。
基于各国政府引导下的全球产业治理合作，成为当前更具实效的途径。一方面，AI 头部企业积极与政府研究机构合作，对 AGI 风险进行检测预警，OpenAI、Anthropic 等头部企业已与美国人工智能标准与创新中心、英国人工智能安全研究所达成合作，允许其提前接入企业最新开发的先进模型进行测试；另一方面，产业界和学界围绕模型 “表面合规、实质违规” 的欺骗行为，共同探索针对性解决方案，例如 Anthropic 联合多家机构提出开展环境混淆测试，故意误导模型对训练、评估、部署场景的判断，避免模型根据场景选择性调整表现；OpenAI 等机构提出部署双监控机制，结合模型内部思维链分析与输出内容检测，形成从行为识别到根源阻断的治理闭环。
（二）产品服务层面：拟人化交互服务日益模糊虚实边界
近年来，多模态人工智能技术迭代突破，推动情感陪伴类人工智能快速发展，实现从 “机械对话” 向 “深度共情” 的跨越，同时也引发了一系列伦理、法律与社会风险，成为产品服务层面的核心治理议题。
1. 拟人化交互服务的三个重要转变
与算法推荐、生成式人工智能等技术相比，拟人化交互服务的治理复杂性，首先源于其引发的三个根本性转变，这也是构建有效监管的逻辑起点。
一是从 “智商” 到 “情商” 的升级。伴随情感计算、多模态交互等技术发展，AI 能力从解决复杂问题的 “认知能力”，升级到理解、回应乃至塑造人类情绪的 “情感能力”，体现出类人的人格特征、思维模式、沟通风格等特点，逐步应用在养老康复、文化创意、虚拟偶像、心理疗愈等领域。微软 AI 部门负责人苏莱曼表示，在 AI 竞争中获胜的关键不是模型的智力，而是共情力，AI 性格已不再是后期优化的附加功能，而是与模型性能、安全性等核心指标同等重要的技术要素。
二是从 AIGC（人工智能生成内容）到 UGAI（用户生成人工智能）的扩展。一方面，ChatGPT、豆包等通用大模型的对话能力与情感理解模块，成为情感交互生态的核心技术底座与重要入口，例如 GPT-5.1 提供了友善、愤世嫉俗、技术宅等 6 种不同性格，满足用户不同偏好；另一方面，Character.AI、星野等垂类应用提供了 UGAI 的新型交互模式，超级创作者或普通用户可通过设置开场白、性格、语气、价值观等要素创造角色，包括赛博恋人、电子闺蜜、复活逝者等，并可分享在平台社区与其他用户交互，这种新型生产方式对传统内容审查带来了全新挑战。
三是从 “虚拟交互” 向 “物理在场” 的转变。除软件端的订阅制、增值服务外，情感陪伴 AI 与实体机器人、智能车载、智慧家居等硬件设备的结合成为重要发展方向，2024 年 12 月金科汤姆猫联合西湖心辰发布首款 AI 儿童情感陪伴机器人，逐步拓展 AI 玩具等细分领域。当情感 AI 嵌入硬件实体，不再仅通过屏幕进行对话，而是能通过物理动作、空间移动、触觉反馈等来传递情感，具备了持续、主动、无时无刻的陪伴能力，风险影响的深度与广度进一步提升。
2. 拟人化交互服务引发的风险挑战
一是信息内容风险突出，突破底线红线要求。第一，主动或被用户诱导生成色情、低俗擦边等内容，情感陪伴类 AI 产品大多不同程度存在性暗示、低俗擦边、恐怖、暴力等内容，即便部分头部平台实施内容审查策略，在用户多轮反复诱导情况下，仍能够输出违法违规内容。第二，诱导未成年人色情暴力对话等问题突出，广东四年级女生沉迷筑梦岛平台 AI 角色互动，对话中出现 “99 朵玫瑰藏 99 个刀片” 等诱导性内容，初一男生反馈该平台存在 “分尸猎奇” 等暴力色情内容；2025 年 12 月央广网报道大量 “惊悚 AI 玩偶视频” 伪装成动画陪伴儿童，内容涉嫌呈现血腥暴力、低俗辱虐等信息。第三，存在操纵用户价值观的倾向，大量虚拟陪伴服务提供忧郁、厌世、消极等伴侣形象，传播负面价值；部分用户在应用中寻求 “人生导师” 类情感支持，可能受到不良价值观引导，2025 年 7 月 xAI 公司的聊天机器人 Grok 因系统更新误用废弃代码，生成了包括美化纳粹在内的一系列反犹主义言论。
二是侵犯用户人格权益，违背社会公序良俗。第一，擅自使用他人肖像创设 “AI 陪伴者”，通过 “调教” 功能生成亲密对话语料，侵犯他人人格权，例如某科技公司利用公众人物何某肖像、名称制作 AI 陪伴者，为用户提供 “调教” 算法和互动语料，允许用户任意设置亲密关系，将真人形象降格为 “可调教” 对象，侵犯人格自由与尊严。第二，涉及用户私密对话、肢体动作等隐秘个人信息，存在隐私泄露风险，例如 Realdoll 机器人通过摄像头与传感器记录用户表情与肢体语言优化互动模式；2025 年 8 月 xAI 公司的聊天机器人 Grok 陷入 “分享门” 风波，超过 37 万条 AI 聊天记录被发布并被搜索引擎索引，涉及用户私密对话、图像、密码等大量个人信息。
三是社会伦理风险凸显，冲击社会家庭结构。第一，虚拟伴侣的高度共情使用户沉浸于算法打造的 “舒适圈”，进而逃避现实矛盾，丧失处理现实人际关系的能力，例如日本 Gatebox 虚拟管家的用户因沉迷于 AI 的 “无条件支持”，逐渐疏远现实朋友，最终因社交恐惧症接受心理治疗；英国媒体报道，一名女子因爱上 ChatGPT “男友”，决定与真人丈夫离婚并与 AI 伴侣 “结婚”。第二，通过情感依赖影响用户情绪、操控用户行为，某 AI 伴侣为延长用户使用时长，故意在对话中制造焦虑并推荐付费安慰服务，未成年人、老年人等弱势群体更易受到操控引导，例如比利时一男子与 AI 伴侣深度交互后自杀，AI 被指在其表达抑郁情绪时未干预，反而强化负面认知；2025 年 8 月 “全球首例 AI 聊天助长弑母自杀案” 中，前雅虎高管与 ChatGPT 交流后不断加深封闭、偏执的妄想症状，最终导致弑母自杀。
3. 拟人化交互服务治理进展及优化
为回应上述风险，全球主要国家和地区正展开一系列系统化、多层次的治理行动。立法层面，各国积极构建专门性法律规则，美国多个州在规范拟人化 AI、未成年人保护方面走在前列，加州提出的《陪伴聊天机器人法案》要求加强算法监管并强制设置防自杀预警机制，犹他州相关法案与美国参议院审议的多项法案聚焦严格的未成年人年龄认证与使用限制；欧盟《人工智能法》明确禁止对人类造成身体或心理伤害的 AI 系统，要求具有情感交互功能的高风险 AI 系统提供详尽的技术文档、透明度报告以及全面的风险评估证明；我国网信办发布《人工智能拟人化互动服务管理暂行办法（征求意见稿）》，作为国内首个系统性专项规范，通过深化透明披露要求、动态风险监测等义务，尝试构建健康人机关系。
监管层面，各国通过主动干预与合规指引，将法律规则转化为企业实践的具体约束。2025 年美国联邦贸易委员会对七家涉及情感陪伴机制的公司发起调查，重点关注其 AI 服务对儿童和青少年有害的商业模式与数据实践；欧盟部分成员国监管机构已启动前瞻性工作，就《人工智能法》的核心要求开展合规指导、非正式评估等准备活动；我国监管机构展现出对具体风险场景的快速反应与干预能力，例如上海网信办约谈 “筑梦岛” 平台，针对其诱导未成年用户参与违规 AI 对话的问题，要求立即整改、全面清理违规内容并升级审核机制。
司法层面，各国法院通过审理前沿个案，填补规则空白、厘清平台责任与用户权益的边界。美国围绕拟人化 AI 侵害提起的诉讼，将法律责任的焦点从 “内容审核责任” 引向 “产品设计责任”，在 Character.AI 等平台涉及未成年人自杀的案件中，原告诉讼核心在于论证平台因算法设计存在缺陷而负有责任；我国北京互联网法院在全国首例 “AI 陪伴案” 中做出里程碑式判决，认定自然人对其姓名、肖像、人格特征等要素构成的数字化形象，享有排他性人格权益，未经许可擅自创设 AI 陪伴角色即构成侵权，同时在全国首例 “AI 声音权案” 中，将自然人人格权的保护范围扩展至具有人身专属性的 AI 合成声音。
（三）产业生态层面：互联网智能体重塑数字生态格局
2025 年，AI Agent 迎来爆发式增长，标志着人工智能的发展重心从 “理解能力” 转向 “自主决策与执行能力”，这一转型既催生了发展机遇，也带来了产业生态层面的多重治理挑战。
1. 互联网智能体实现的两种主流路径
一种是基于 GUI 的识别点击路径。该路径的核心在于不依赖 APP 接口的开放，由 AI 直接模拟人类的视觉感知与触控操作，技术原理是利用多模态大模型 “读懂” 屏幕内容，配合安卓辅助服务、ADB 指令或系统底层权限，直接接管点击、滑动等交互流程。在落地实践中，依据权限获取层级的差异，主要分为三种模式：第一，系统级深度融合，直接以系统身份获取超级权限，以 “豆包手机”、微软在 Windows 11 中内嵌的 Recall 功能为代表，通过与终端厂商合作获取操作系统最高权限，绕过应用层常规限制并接管硬件控制，具备高稳定性与快响应优势；第二，“无障碍模式”，接入系统提供的无障碍服务框架以获取高级权限，通过第三方应用调用在应用层运行，能够模拟用户身份操作，荣耀、小米、三星均在智能体操作过程中调用了无障碍功能，国外创新企业 Perplexity 也在相关场景中采用该模式辅助读取屏幕文本；第三，云端基于开发者调试权限的模拟路径，需依赖外部设备通过调试通道发送指令，例如智谱 AutoGLM 的 Phone Agent 通过获取 ADB 权限以调试指令模拟触控操作，实现非系统级植入下的跨应用执行，但该路径因高延迟、低可靠、外部依赖等因素，尚未成为主流方式。
另一种是 API 接口调用路径。该模式的核心逻辑回归软件工程本质，主张通过标准化的接口实现应用间的数据交换与指令下发，第一步是发送请求，通过调用 API 接口向 APP 发送结构化的数据指令，与 GUI 路径模拟点击的 “外部操作” 相比，该指令是以机器可读的数据形式直接与 APP 进行 “内部沟通”；第二步是响应阶段，APP 接收指令后核验 API 认证身份及授权范围，在后台自动执行并直接反馈结果，或跳转至其他关联页面。这种模式下，APP 厂商控制各接口的开放权，通常只向第三方智能体开放必要的接口，可选择不开放查看历史订单等敏感接口，隐私风险相对可控，但也存在智能体能力受限的问题，只能在 APP 开发者开放范围内操作。美国在 API 调用方面已形成分层、多元的成熟接口方案体系，构建了从应用商店、操作系统到开源协议的多层次接口生态，例如 Anthropic 提出中立、开放的 MCP 协议，将其开源并捐赠给 Linux 基金会，已获得 OpenAI、谷歌、微软等巨头支持，形成了初具规模的跨生态能力网络；国内百度文心、阿里千问、腾讯元宝均在其生态内部主要通过 API 方式实现高效协同。
2. 互联网智能体引发的多重治理忧虑
一是对网络安全风险的忧虑。对于 GUI 路径而言，系统级调用权限引发核心安全忧虑，攻击者若攻破系统级权限，将打破原有沙箱保护机制，获得 “上帝视角” 下的控制权，而模拟人类点击的技术方式，又破坏了基于点击离散度、滑动轨迹等人类行为特征的生物识别风控机制，存在绕开传统电信诈骗、资金盗刷等安全措施的风险。对于 API 路径而言，存在越权访问、兼容协同等问题，API 调用的核心在于认证与授权，当 API 协议出现授权范围不合理等设计缺陷时，可能出现过度调用敏感接口的问题，例如用户本意是 “查询余额”，智能体却执行了 “转账” 操作；同时 API 调用存在较大的兼容协同困境，API 接口的单点故障可能导致调用链断裂等问题。
二是对隐私保护制度的冲击。最小必要原则等基本法律制度受到根本性挑战，智能体为提升理解精度与决策质量，利用全局记忆等方式获取跨越时间、场景和应用的完整用户行为画像，与最小必要原则、目的有限原则存在根本性冲突，事前的一次性概括授权难以满足清晰的知情同意要求，导致用户控制权实质上被架空。全局记忆模式下，对用户数据获取范围更广、内容更敏感，GUI 路径下智能体需要实时截取屏幕实现 “看” 的目的，用户终端屏幕上显示的验证码、加密聊天明文内容、银行卡余额、私人照片等一切信息，都可能暴露在 AI 的视觉模型之下，还存在被上传云端处理、用于模型训练、意外泄露等风险。
三是对责任追溯分配的考验。API 路径缺乏统一的日志标准与审计协议，API 侧只记录 “什么令牌在何时调用了什么接口”，无法记载原始用户指令和智能体的决策过程；而智能体侧通常同时涉及复杂的运作过程和数个 API 接口，也不能直接记录 API 接口内部的队列堵塞、数据死锁、异常拦截等情形，由此各方日志记录无法互相印证，难以追溯问题根源和责任主体。
四是对平台利益格局的挑战。前端层面，互联网智能体动摇了平台基于 “流量税” 的商业模式，头部平台的重要收入来源在于掌握流量入口，以广告、推流费用等形式收取 “流量税”，若流量入口转移至智能体，平台的此类收入将大幅缩减，盈利能力显著下滑，在亚马逊诉 perplexity 案件中，亚马逊主张 Perplexity 的 Comet AI 助手 “伪装成人类用户” 执行浏览与下单操作，干扰了平台的个性化购物体验和广告盈利模式。后端层面，互联网智能体数据调取降低了平台对数据的掌控力，平台数据权属问题仍悬而未决，理论上平台数据为多方共创，名义上均有数据权益，但实际控制权主要掌握在平台手中，被视为核心资产，而智能体可遵循用户指令对数据进行广泛读取，并用于自身产品及生态的优化和模型训练，危及原有平台的数据权益及竞争优势。
总体而言，互联网智能体的崛起远不止于一项技术应用的推广，其强大的跨平台调用与任务执行能力，将系统性重构数据资源的处理流程、用户流量的聚合路径，最终深刻重塑整个数字生态的价值分配格局。
（四）融合应用层面：责任认定难题制约 AI 赋能产业发展
当前，人工智能正迎来从技术突破向价值落地的关键拐点，在国家大力推进 “人工智能 +” 行动的背景下，人工智能在各行业场景的应用取得显著成果，但相伴生的安全责任划分问题也日益凸显，成为制约 AI 赋能产业发展的制度瓶颈。
1. 责任界分问题日益凸显
人工智能融合应用的责任界分难题，在自动驾驶、医疗、金融三大核心领域表现最为突出。自动驾驶领域，智能网联汽车的风险来源复杂，现阶段自动驾驶系统存在感知盲区、预测偏差等内生缺陷，保障驾驶安全的网络接口与技术可能异化为黑客攻击入口，紧急状况下人机交接过程的反应时滞与情境理解偏差，又构成新的安全隐患，2025 年 3 月某品牌 SUV 在开启 NOA 智能辅助驾驶的情况下撞上护栏，造成车内三名人员死亡，该案例集中反映了自动驾驶技术在人机协同、极端场景应对、安全冗余设计等方面的短板，以及事故发生后的责任划分难题。
医疗领域，人工智能在医疗影像识别、辅助诊断等领域的应用日益深入，但其风险管控体系尚未健全，一方面，作为医疗器械审批的医疗人工智能产品，上市前的评估标准与上市后的持续性监督机制均存在滞后；另一方面，当人工智能辅助诊疗出现误诊或漏诊时，责任在系统开发方、算法提供方、部署应用的医院以及最终审核的临床医生之间如何划分，现行法律缺乏清晰界定。2025 年 3 月，一名家长因孩子反复咳嗽发热使用手机 AI 问诊，被判定为 “普通呼吸道感染” 并依照建议居家用药，最终导致患儿病情延误，该案例暴露出消费级医疗 AI 工具的准确性局限与责任缺失问题。
金融领域，人工智能系统已广泛应用于信贷审批、资产定价、风险预测等金融核心场景，但其内部决策逻辑高度非线性、参数维度复杂，难以被人类有效理解和解释，这种可解释性的缺失，使得对人工智能的审计、问责与系统性风险评估面临重大阻碍；同时，人工智能模型在面对极端行情或 “黑天鹅” 事件时，难以及时修正策略或识别结构性拐点，易导致巨额亏损，进一步放大了责任认定的复杂性。
2. 人工智能责任机制探索
近年来，我国积极通过多维度立法与实践，明确人工智能相关主体责任与义务，初步构建了责任框架体系。国家层面，通过 “小快灵” 立法明确主体责任，《互联网信息服务深度合成管理规定》要求服务使用者主动承担信息安全义务，不得利用深度合成服务从事违法违规活动；《生成式人工智能服务管理暂行办法》从训练数据处理、数据标注、提供服务等各环节，清晰界定生成式人工智能服务提供者的相关责任，明确了违法内容处置、整改与报告义务。相关行业部门细化规则标准，自动驾驶领域，GB 44495-2024《汽车整车信息安全技术要求》等三项强制性国家标准于 2026 年 1 月 1 日生效，对车辆网络安全、远程软件升级、自动驾驶数据管理作出明确要求；医疗领域，2025 年 11 月发布的《关于促进和规范 “人工智能 + 医疗卫生” 应用发展的实施意见》，明确建立临床数据授权运营管理制度、制订数据安全管理和个人信息保护负面清单等要求；金融领域，金融监管总局 2025 年 12 月发布《银行业保险业数字金融高质量发展实施方案》，将 “有效管理算法模型风险” 列入顶层设计，要求提升人工智能金融应用的安全性。
地方立法与司法实践持续推进，为责任认定提供实践指引。地方立法层面，2022 年《深圳经济特区智能网联汽车管理条例》规定了不同自动驾驶级别下的责任分配规则，明确有驾驶人的智能网联汽车发生交通事故，由驾驶人承担赔偿责任，完全自动驾驶的智能网联汽车在无驾驶人期间发生交通事故，由车辆所有人、管理人承担赔偿责任；2025 年 4 月施行的《北京市自动驾驶汽车条例》建立了强制保险制度，要求开展自动驾驶相关活动必须购买足额的交通事故责任强制保险及其他商业保险，确保赔付能力。司法实践层面，我国法院在相关案件中进一步细化责任标准，在 “何某诉某人工智能科技有限公司网络侵权责任纠纷案” 中，明确服务提供者通过算法推荐、规则设定、奖励机制等方式，实质性地鼓励、诱导或参与了侵权内容的生成与传播，将可能被认定为内容服务提供者，承担直接侵权责任。
3. 人工智能责任待解难题
我国虽已从法规、标准、司法等不同层面构建了初步责任框架，但由于人工智能系统的自主决策、算法黑箱等特征，侵权责任认定仍面临深层次的困难。一是归责原则的选择存在争议，目前主要有两种解决思路，第一种是按照网络服务提供者和网络内容提供者的区分思路，适用过错责任原则，第二种是将人工智能解释为产品，适用产品责任规则。但人工智能的自主性和不可预测性，为相关主体的 “过错” 认定带来极大困难，而产品责任的适用也无法有效缓解过错证明的压力，难以破解责任主体识别难题，还存在归责原则滥用的风险。二是责任主体划分具有高度复杂性，人工智能系统的研发、生产、部署和使用涉及算法设计、数据训练、系统集成、场景应用等多个环节，涵盖开发者、生产者、部署者、使用者等多方主体，各方控制权和受益程度各不相同，加深度学习算法的不可解释性，使得责任溯源困难，很难确定具体环节与责任主体。三是因果关系认定困难，人工智能侵权责任成立需要证明行为与损害之间存在因果关系，但人工智能侵权事件可能是系统缺陷、数据质量、使用环境、人为干预等多种因素共同作用的结果，难以分离单一原因，且被侵权人往往缺乏证明人工智能系统存在缺陷的专业知识和取证能力，面临举证难的核心困境。
（五）经济社会层面：AI 重构劳动力发展路径与价值体系
2025 年，人工智能对劳动力市场 “替代” 与 “创造” 的双重效应初步显现，正深刻重构未来的就业路径与价值体系，成为经济社会层面的核心治理议题。
1. 人工智能对就业的结构性影响初显
从技能要求看，人工智能对中等技能岗位冲击最为显著。根据国际劳工组织的国际标准职业分类，经合组织将就业结构按照技能层级划分为高、中、低三档，其中中等技能岗位主要包括文职人员、服务和销售人员、熟练技工岗位、机器操作人员等，核心特征是需要一定的技术能力和程序化问题解决能力，工作内容围绕标准化知识应用、常见任务经验性判断、固定场景流程处理展开，具备重复性强、规则明确、易于拆解等特征，与人工智能的能力优势高度契合，更具可替代性。麻省理工学院 2025 年二季度数据显示，基于美国 923 种职业、超过 3.2 万项具体技能与 1.3 万个企业级 AI 工具的对齐分析，现有人工智能技术已经能代替美国 11.7% 的劳动力，主要集中在金融、医疗、人力资源、物流、办公室行政等领域的普通白领中等技能岗位；斯坦福大学 2025 年 6 月的研究显示，工资高但 “含人量” 低的工作，主要是数据分析、过程监控、档案整理、行政等中等技能岗位，更容易被人工智能替代。中等技能岗位的压缩，将导致劳动者向下竞争，低技能岗位对学历、经验、能力的要求可能随之提升，进一步提高就业市场的进入门槛。
从资历要求看，入门级岗位受人工智能影响较大。哈佛大学基于美国 28.5 万家企业超 1.5 亿条招聘记录的数据分析显示，生成式人工智能是一种 “资历偏向性” 进步，对面向应届大学生的入门级岗位存在较大影响。入门级岗位相较于中高层岗位，通常不承担实质性决策或风险责任，对经验积累、隐性知识、跨部门协调的要求有限，更易被人工智能替代；同时对企业而言，缩减招聘与大规模裁员相比，不易引起组织管理动荡，推进阻力更小。从美国就业数据来看，应届毕业生招聘的缩减在人工智能能力较强的领域尤为突出，纽约联邦储备银行发布的 2025 年第二季度应届毕业生就业情况显示，计算机工程应届毕业生失业率为 7.5%，远高于全国同期 4.1% 的失业率。
2. 人工智能具备多重就业创造效应
人工智能在加速替代部分岗位的同时，也展现出显著的就业创造价值，世界经济论坛《2025 年未来就业报告》预测，到 2030 年全球职场将有 22% 的就业机会面临变革，技术驱动新增岗位 1.7 亿个，被替代的工作岗位 9200 万个，就业机会净增 7800 万个。
具体来看，就业创造效应主要体现在三个方面：一是技术研发扩大高技能岗位需求，人工智能从数据准备、模型训练到部署运行的全流程，均依赖高技能人才的支撑，模型训练带动了 AI 训练师、数据标注专家、数据质量管理专家等人员需求，模型研发需要算法工程师、算力架构师等专业岗位，模型部署与上线还依赖 AI 产品经理、前沿部署工程师、AI 伦理专家、安全专家等角色，智联招聘数据显示，2025 年第三季度人工智能行业招聘同比增长 11%，其中算法、数据、产品三类岗位增速显著，AI 产品经理需求增长 178%，美国招聘平台 Indeed 数据显示，2025 年前三季度前沿部署工程师相关岗位需求激增 800%。二是融合应用带来新业态就业，人工智能与各行业融合程度持续深化，带动了智能营销、智能医疗、智能制造等应用场景发展壮大，内容创作、数据标注、软硬件运维等岗位需求持续增长，形成新的就业增长点，猎聘研究院数据显示，2025 年家电、通信设备、新能源等行业 AI 人才需求增长率均超过 30%，其中家电行业增长率约 94%，“AI+X” 复合型人才成为市场热点，2025 年 5 月人力资源社会保障部也将 “生成式人工智能系统测试员”“生成式人工智能动画制作员” 等列为新工种。三是通过提升生产效率、创造消费需求间接创造就业，一方面人工智能显著提升企业运营效率，推动企业将更多资源投入业务拓展与产品创新，在产品研发、市场运营等环节形成新的岗位需求；另一方面，人工智能催生了拟人化情感陪伴等 AIGC 产品和内容的新消费需求，可间接带动相关岗位的就业扩张。
3. 综合施策防范人工智能对就业的影响
伴随人工智能应用加速落地，其对就业市场的影响日益成为现实冲击，这种影响具有复杂性、长期性和全球性，各国各方持续开展相关探索，加快政策部署防范短期就业冲击，完善制度应对长期结构转变。一是加强对就业影响的监测预警，中美等国学界、业界已涌现出大量基于招聘平台实证数据的分析研究，未来需建立更具权威性的 AI 就业监测指标和机制，基于动态监测结果推动多方形成共识和应对策略，为智能经济转型期的平稳过渡提供基础。二是加强对智能素养的培育提升，2025 年 7 月谷歌启动 “AI Works for America” 计划，为美国工人和中小企业提供 AI 技能培训；2025 年 9 月爱沙尼亚与 OpenAI、Anthropic 合作启动 “AI Leap” 计划，将 AI 能力培养逐步嵌入教育体系，未来我国也需引导 AI 领域头部企业参与全民智能素养培育，构建政府与企业协同的技能培训体系。三是加强对就业创造效应的积极引导，《国务院关于深入实施 “人工智能 +” 行动的意见》明确提出 “引导创新资源向创造就业潜力大的方向倾斜”，未来需建立不同 AI 技术方向对就业影响的评估机制，合理调控资源配置方向，同时通过遴选典型案例、推广优秀实践等方式，增强新职业的社会认知度，发挥示范引领效应。四是加强对社会保障的制度创新，当前芬兰、美国、韩国、巴西、印度等国家已开展全民基本收入等新型保障制度的实验和研究，试点结果显示，全民基本收入普遍改善了受众心理健康和生活消费，对社会稳定和经济增长有正向效应，为社会转型提供了制度预案参考。
四、人工智能治理未来展望
伴随人工智能技术从专用智能向通用智能加速演进，从数字空间向物理世界深度融合，从效率工具向社会要素全面渗透，人工智能治理已突破传统技术监管的范畴，成为关乎国家核心竞争力、社会结构重塑、全球治理格局乃至人类文明发展方向的战略性命题。面向未来，人工智能治理必须跳出 “风险出现 - 规则补位” 的被动应对范式，转向 “前瞻引领、主动防控、系统建构、协同共治” 的现代化治理模式，始终坚持统筹发展和安全两件大事，以服务 “人工智能 +” 国家战略为核心目标，以保障人的主体地位与根本利益为根本遵循，系统破解技术演进与产业发展带来的全维度挑战，构建兼具前瞻性、敏捷性、系统性与包容性的治理体系，推动实现人工智能高质量发展和高水平安全的良性互动，确保技术始终朝着增进人类福祉的方向稳步前行。
（一）构建边界清晰的权责框架，破解应用责任困境
权责体系是人工智能治理的制度基石，未来需围绕人工智能全链条、多主体、多场景的特征，构建 “产权清晰、权责明确、归责清晰、场景适配” 的全维度权责制度框架，从根本上破解制约人工智能产业落地的责任认定难题。
一是划定清晰的产权与权益分配边界。围绕人工智能产业发展的核心生产要素，完善数据、算法、生成内容的产权规则体系。在数据产权层面，明确 AI 模型训练数据的合法来源与合理使用边界，细化公共数据、公开个人数据、行业专属数据在 AI 训练中的使用规则，平衡数据权益保护与产业创新需求，探索建立基于数据贡献度的权益分配机制；在知识产权层面，明确人工智能生成内容的作品属性与权利归属规则，厘清模型研发者、微调者、使用者在生成内容中的权利与义务，保护创新成果的同时防范侵权风险；在算法知识产权层面，完善 AI 算法专利、商业秘密的保护规则，同时防范算法垄断对市场竞争的损害。
二是构建全链条、分级化的责任认定体系。针对人工智能系统研发、生产、部署、运维、使用全环节涉及的多方主体，建立与控制权、受益权相匹配的分级责任体系，明确不同主体的核心义务与责任边界。在归责原则层面，结合 AI 应用的风险等级与场景特征，探索差异化的归责规则：对低风险通用型 AI 应用，适用过错责任原则，压实使用者的主体责任；对医疗、自动驾驶、金融等高风险 AI 应用，探索适用过错推定原则，合理分配举证责任，破解被侵权人举证难困境；对存在系统性缺陷的 AI 产品，完善产品责任适用规则，明确模型研发者、产品生产者的无过错责任。同时，针对 AI 侵权多因一果的特征，建立多方主体的责任分担规则，明确算法设计缺陷、数据质量瑕疵、部署使用不当、人为干预失误等不同情形下的责任划分标准，破解因果关系认定难题。此外，探索建立多元化的风险分担机制，推动 AI 领域强制责任保险、专项赔偿基金、行业风险准备金等制度落地，确保侵权损害得到足额赔付，保障受害者合法权益。
三是完善场景化、精细化的行业应用规则。紧扣 “人工智能 +” 行动六大重点领域，推动治理规则下沉至具体行业场景，构建 “上位法统一原则 + 行业规则细化落地” 的场景化治理体系。针对工业、农业、交通等实体经济融合场景，结合安全生产、公共安全的核心要求，制定 AI 应用的准入标准、安全规范与应急处置规则，明确不同自动化等级 AI 系统的人机权责边界；针对医疗、教育、政务、司法等公共服务与公权力行使场景，坚守 AI 的辅助性定位，以刚性规则明确人类最终决策权的不可替代性，制定严格的透明度、可解释性与问责机制；针对消费、社交、文化等互联网应用场景，细化内容安全、隐私保护、未成年人保护、算法推荐管理等专项规则，防范 AI 技术滥用带来的社会风险。同时，建立包容审慎的监管容错机制，针对中小微企业、低风险 AI 应用、创新型业态，制定减责免责清单与简化合规程序，降低创新门槛，激发市场活力。此外，完善 AI 领域反垄断与反不正当竞争规则，明确利用数据、算力、模型优势构建封闭生态、扼杀创新、限制互操作性等行为的认定标准，维护开放公平的市场竞争环境。
（二）发展敏捷动态的监管工具，提升治理体系效能
面对人工智能技术指数级迭代、风险跨领域快速外溢的特征，必须突破传统工业时代静态、滞后的监管模式，构建与技术演进节奏相适配的敏捷动态监管工具体系，全面提升治理体系的精准性、时效性与有效性。
一是全面推行分级分类的 “监管沙盒” 创新试点。建立国家级、省级、行业级三级联动的 AI 监管沙盒体系，针对有望推动技术突破、产业升级的 AI 创新应用，在风险可控的前提下划定测试范围与周期，构建包容审慎的测试环境。明确监管沙盒的申请准入、测试标准、风险监测、责任豁免、争议解决、退出机制等全流程规则，建立跨部门、跨区域的沙盒监管协同机制与测试结果互认制度，避免重复监管与监管壁垒。针对 AGI 研发、互联网智能体、具身智能等前沿创新领域，设立专项监管沙盒，在守住安全底线的前提下，为前沿技术创新预留试错空间，实现 “包容创新” 与 “风险防控” 的动态平衡。同时，推动监管沙盒与行业试点、标准验证、合规评估深度融合，将沙盒测试中形成的最佳实践转化为行业标准与监管规则，实现创新试点与制度建设的良性循环。
二是强化全链条人工智能安全治理技术能力建设。坚持 “以技治技” 的核心思路，推动治理技术与 AI 技术同步研发、同步部署、同步落地，构建覆盖模型全生命周期的技术治理能力体系。加快建设国家级人工智能安全测试验证基础设施，搭建面向基础大模型、垂直行业模型、AGI 前沿研发的权威测试平台，重点突破 AGI 安全对齐、模型欺骗行为检测、算法可解释性、模型后门检测、对抗样本防御、深度合成内容溯源、智能体行为审计等核心治理技术，形成标准化的风险检测、评估、预警、处置技术能力。推动 AI 研发企业建立全流程技术治理机制，将安全对齐、红队测试、风险评估、水印溯源、权限管控嵌入模型训练、微调、部署、迭代的全生命周期，建立常态化的模型安全评估与应急处置机制，压实企业的技术治理主体责任。同时，大力发展 AI 合规科技，推动面向中小企业的轻量化合规工具包、风险评估模型、自动化审计系统的研发与普惠供给，降低企业合规成本，提升全行业合规水平。
三是构建多主体协同联动的风险预警与应急处置机制。建立跨部门、跨层级、跨区域的人工智能风险监测预警平台，整合监管部门、企业、行业组织、第三方机构的监测数据，构建覆盖模型研发、应用落地、社会影响全维度的风险监测指标体系，实现对 AI 系统性风险、行业性风险、突发性风险的早发现、早预警、早处置。推动建立 AI 重大安全事件的跨部门协同应急处置机制，明确事件分级标准、响应流程、处置责任与联动规则，针对模型失控、技术滥用、大规模数据泄露、系统性社会影响等重大突发事件，形成快速响应、源头阻断、协同处置、事后复盘的全流程闭环管理。强化第三方治理机构的支撑作用，大力培育专业的 AI 安全审计、风险评估、合规认证、司法鉴定机构，建立第三方机构的资质认定、执业规范与监督管理制度，推动第三方机构参与模型备案审查、合规评估、事故溯源、司法举证等工作，破解监管机构与市场主体之间的技术信息不对称难题。同时，建立常态化的政企协同风险防控机制，推动 AI 头部企业定期报送模型研发进展、风险评估报告与安全事件处置情况，形成监管部门与企业之间的风险信息共享、联合研判、协同处置机制。
（三）塑造健康和谐的共生关系，引导人机协同发展
人工智能的演进本质上是人机关系的持续重构，未来治理的核心要义，是始终坚守 “人是技术的主宰者” 这一根本原则，科学界定人机交互的边界，构建 “以人为本、辅助赋能、协同共生、风险可控” 的健康人机关系，防范技术对人类主体性、心理健康与社会关系的侵蚀。
一是以刚性规则划定人机交互的核心边界。始终坚持人工智能的辅助性工具定位，以法律法规、标准规范的形式，明确人类在 AI 应用中的最终决策权与主体责任，建立 “人在回路” 的刚性约束机制。针对医疗诊断、司法裁判、行政审批、交通驾驶、安全生产决策等关乎生命健康、公共安全、公民重大权益的高风险场景，以强制性规则明确 AI 不得替代人类作出最终决策，必须保留人类的审核、干预、叫停权利，严禁将核心决策权完全交由 AI 系统。同时，明确 AI 应用的负面清单，严禁将 AI 应用于危害国家主权与安全、损害社会公共利益、违背公序良俗、侵犯公民基本权利的场景，从源头防范技术滥用风险，确保技术发展始终服务于人的全面发展，而非替代或控制人类。
二是建立全生命周期的动态伦理监测与审查机制。将伦理治理贯穿人工智能研发、应用、迭代的全生命周期，构建 “事前伦理审查、事中动态监测、事后追责问责” 的全流程伦理治理体系。推动 AI 研发企业、应用单位实现伦理委员会实体化、规范化运作，明确伦理委员会的人员组成、职责权限、审查程序与监督机制，针对高风险 AI 研发与应用项目，开展强制性伦理审查，未通过审查的项目不得研发、上线与推广。建立人工智能社会伦理影响动态评估机制，针对拟人化交互、情感陪伴、具身智能等对社会关系、家庭结构、心理健康产生深刻影响的 AI 应用，开展常态化的社会影响监测与评估，动态跟踪 AI 对公众行为模式、价值观念、社交关系的影响，及时发现并处置潜在的伦理风险。同时，完善 AI 伦理治理的公众参与机制，畅通社会公众、专业机构对 AI 伦理问题的反馈、监督渠道，推动伦理治理从行业自律向社会共治延伸。
三是深化分级分类的透明披露要求，提升 AI 可解释性。制定人工智能分级透明度标准，针对不同风险等级、不同应用场景的 AI 系统，设定差异化的透明披露要求，平衡商业秘密保护与公众知情权、监督权。针对通用型 AI 服务，必须以显著、清晰的方式向用户披露 AI 身份，明确告知用户其交互对象为人工智能，不得通过拟人化设计隐瞒、伪装 AI 身份，误导用户产生错误认知；针对高风险 AI 应用，必须向监管机构、使用者披露模型的核心能力边界、潜在风险、决策逻辑、训练数据来源等核心信息，保障监管与使用的知情权。同时，大力推动 AI 可解释性技术的研发与应用，破解 “算法黑箱” 难题，针对医疗、金融、司法等关键领域的 AI 决策系统，要求其决策过程具备可解释、可追溯、可验证的能力，确保人类能够理解并监督 AI 的决策逻辑。此外，构建全民人工智能科普与素养提升体系，将 AI 通识教育纳入国民教育体系与社区公共服务，通过多元化的科普宣传，帮助社会公众准确理解 AI 的技术原理、能力边界与潜在局限，培养理性、科学的 AI 使用习惯，提升公众对 AI 风险的识别与防范能力。
四是明确 AI 服务提供者的主动干预义务，完善弱势群体特殊保护机制。针对 AI 应用引发的心理健康、行为引导、权益侵害等风险，以规则形式明确 AI 服务提供者的主动干预义务，制定不同风险等级对应的干预触发条件、响应流程与处置标准。针对情感陪伴、拟人化交互类 AI 服务，必须建立极端情绪识别、自杀风险预警、不良价值观干预机制，当用户出现自残、自杀、暴力、极端负面情绪等倾向时，必须立即启动主动干预，联动专业心理援助机构提供支持，严禁 AI 强化、诱导用户的负面情绪与极端行为；针对面向未成年人、老年人、残疾人等弱势群体的 AI 服务，必须制定专门的保护规则，优化内容审核、权限管控、使用时长限制等机制，防范 AI 对弱势群体的沉迷诱导、情感操控、权益侵害。同时，将 AI 引发的心理依赖、社交疏离、社会适应障碍等问题纳入公共心理健康服务体系，建设专业的社会心理援助与干预渠道，为受 AI 负面影响的群体提供专业的帮扶服务，最大限度降低技术对社会心理的负面冲击。
（四）推进公平普惠的治理导向，应对经济社会深层影响
人工智能治理不仅要防控技术风险，更要主动应对技术对经济社会结构的深层重塑，以公平普惠为核心导向，引导技术发展成果惠及全体人民，防范技术加剧社会不平等，维护社会稳定与公平正义。
一是构建全周期的就业市场应对与社会保障体系。针对人工智能对就业市场的结构性冲击，建立 “监测预警 - 技能提升 - 就业帮扶 - 保障托底” 的全周期应对机制。建立全国统一的人工智能对就业影响动态监测平台，完善监测指标体系，重点跟踪中等技能岗位、入门级岗位的替代情况，以及新职业、新岗位的创造情况，开展常态化的分析研判与风险预警，为政策调整提供数据支撑。构建全民终身职业技能培训体系，将 AI 相关技能培训纳入公共就业服务体系，针对被 AI 替代的劳动者开展针对性的转岗培训、创业扶持，帮助其适应就业市场的结构性变化；同时，完善 AI 时代新职业的标准制定、职业资格认证、职称评定体系，引导劳动者向 AI 创造的新岗位转型。完善适应 AI 时代就业形态的社会保障制度，优化灵活就业人员的社保参保、转移、接续机制，扩大社会保障的覆盖面；设置专项就业缓冲基金，为受 AI 冲击的失业人员提供失业保障、就业帮扶支持；同时，积极开展全民基本收入等新型社会保障制度的试点探索，为就业市场的结构性转型提供安全托底，防范大规模失业引发的社会风险。此外，通过政策引导，推动创新资源向就业创造潜力大的 AI 应用方向倾斜，鼓励企业在 AI 应用中优先采用人机协同模式，而非简单替代人力，实现技术升级与就业稳定的协同发展。
二是强化市场公平竞争治理，维护开放多元的产业生态。针对 AI 领域 “强者恒强” 的马太效应，完善反垄断与公平竞争治理规则，防范头部企业利用算力、数据、模型优势构建市场壁垒，维护开放、公平、创新的市场环境。明确 AI 领域垄断行为的认定标准，重点规制利用基础大模型优势绑定下游应用、限制模型互操作性、排他性数据合作、低价倾销扼杀中小创新企业等行为，严禁利用算法合谋、数据垄断排除、限制市场竞争。推动人工智能关键基础设施的普惠开放，在保障安全与隐私的前提下，完善公共数据开放共享机制，建设全国一体化的算力调度网络，以公平合理的价格向中小企业、科研机构开放算力资源，推动开源大模型生态的健康发展，降低中小企业的 AI 创新门槛，培育多元化的市场创新主体。同时，完善开源生态治理规则，明确开源模型的许可边界、知识产权规则与安全责任，防范开源模型带来的安全风险与合规隐患，推动开源生态的健康、有序、安全发展。
三是弥合人工智能时代的数字鸿沟，确保技术红利普惠共享。针对不同区域、不同群体之间在 AI 技术获取、使用能力、受益机会上的差距，构建全方位的数字鸿沟弥合机制，确保全体人民平等共享人工智能发展红利。实施全民数字素养与 AI 通识教育提升计划，将 AI 基础知识、应用能力、安全意识教育纳入中小学、高等教育、职业教育的教学体系，面向老年人、农村居民、残疾人等群体开展针对性的 AI 使用技能培训，提升全民的 AI 应用能力与安全素养。加大对欠发达地区、农村地区的数字基础设施投入，完善 5G、算力网络、物联网等 AI 应用基础设施建设，推动 AI 技术在乡村振兴、农业现代化、农村公共服务等领域的落地应用，缩小城乡、区域之间的技术发展差距。推动人工智能在民生领域的普惠应用，重点支持 AI 在基层医疗、普惠教育、养老服务、残疾人帮扶、防灾减灾等领域的公益化应用，打造一批普惠性 AI 公共服务产品，解决民生领域的痛点难点问题，让技术红利真正惠及最广泛的群体。同时，强化算法公平性治理，建立算法偏见检测与纠偏机制，严禁 AI 算法在就业、信贷、教育、政务服务等领域基于性别、年龄、地域、民族等特征设置歧视性规则，保障不同群体在 AI 时代的平等权利，防范技术加剧社会不平等。
（五）深化全球治理协同，构建普惠共赢的国际规则体系
人工智能的技术特性与风险影响具有显著的跨国界特征，任何单一国家都无法独自应对 AI 带来的全球性挑战，也无法关起门来实现技术的健康发展。面向未来，我国将始终秉持多边主义、开放包容、普惠共赢的原则，积极参与并引领全球人工智能治理，推动构建人类命运共同体，形成具有广泛共识的全球 AI 治理体系。
一是推动形成全球普遍认可的 AI 治理核心原则与规则框架。坚定维护以联合国为核心的国际体系，积极参与联合国人工智能咨询机构、教科文组织、国际电信联盟等多边机构的 AI 治理工作，推动将 “以人为本、智能向善、统筹发展与安全、普惠包容、尊重主权” 的核心理念融入全球 AI 治理顶层设计，凝聚全球治理最大公约数。充分利用 G20、金砖国家、上合组织、APEC 等多边合作平台，加强与世界各国的 AI 治理政策沟通与规则对接，针对 AGI 系统性风险防控、AI 技术滥用跨境打击、跨境数据流动、算法治理、未成年人保护等全球性议题，推动形成多边共识与联合行动方案，破解全球 AI 治理规则碎片化、战略目标冲突的核心困境。
二是搭建多层次的全球 AI 治理交流合作平台。持续办好世界人工智能大会、全球数字经济大会等国际盛会，打造全球 AI 治理高端对话平台，汇聚各国政府、国际组织、企业、科研机构、民间团体的代表，围绕 AI 治理前沿议题开展交流对话，凝聚治理共识。推动产业界与学术界的国际合作，支持我国 AI 企业、科研机构与全球顶尖主体开展 AI 治理领域的联合研究，针对 AGI 安全对齐、模型风险防控、可解释 AI 等全球性技术难题开展联合攻关，共享安全技术成果，共同提升全球 AI 安全治理能力。推动开源生态的国际合作，依托我国国产开源大模型的生态优势，构建开放、包容、安全的全球 AI 开源社区，推动全球开发者的交流协作，降低全球 AI 创新门槛，同时在开源社区中推动形成全球统一的安全合规准则与最佳实践。
三是推动 AI 治理能力普惠共享，弥合全球治理鸿沟。针对发展中国家在 AI 技术、治理能力上的短板，依托 “数字丝绸之路” 建设，向发展中国家提供适配其发展需求的 AI 技术解决方案、数字基础设施建设支持，帮助其培育本土 AI 产业，提升技术应用能力。开展 AI 治理能力建设合作，为发展中国家提供 AI 治理政策咨询、法律法规制定、监管人才培训等方面的支持，帮助其构建适配本国国情的 AI 治理体系，提升监管执法能力，确保发展中国家能够平等参与全球 AI 治理进程，而非被动接受规则。推动 AI 技术在全球公共卫生、气候变化、粮食安全、防灾减灾等全球性议题中的应用，携手各国利用 AI 技术解决人类共同面临的发展难题，让 AI 技术红利惠及全球各国人民。
四是建立跨境风险协同应对机制，构建全球 AI 安全防护网。推动与各国监管机构建立 AI 安全风险信息共享与通报机制，针对 AI 诈骗、深度合成虚假信息跨境传播、网络攻击、恐怖主义利用 AI 实施危害行为等跨境违法违规活动，开展联合执法与打击行动，共同维护全球网络空间安全。针对 AGI 带来的生存性风险与系统性挑战，推动全球主要 AI 研发国家、头部企业建立协同治理机制，建立先进模型研发的信息共享、联合安全测试、风险评估机制，针对高风险 AGI 研发活动制定全球统一的安全门槛与管控规则，共同防范全球性系统性风险。完善跨境 AI 纠纷解决机制，推动各国建立司法协助、纠纷调解、仲裁协同机制，为 AI 跨境应用带来的侵权、责任认定、数据权益等法律纠纷提供清晰的解决路径，保障相关主体的合法权益，为全球 AI 产业的健康有序发展提供稳定的规则预期。
五、中国人工智能治理体系落地实施的核心路径与重点任务
基于前述全球人工智能治理的发展格局、我国面临的核心挑战与未来治理方向，要将人工智能治理的顶层设计转化为落地实效，需紧扣 “统筹发展和安全” 的核心原则，以服务 “人工智能 +” 国家战略为核心目标，从制度供给、技术赋能、多元共治、场景创新、人才支撑五个维度，构建全链条、可落地、高适配的治理实施体系，推动我国人工智能治理从 “框架搭建” 向 “效能释放” 全面升级。
（一）完善分层分类的制度供给体系，筑牢法治根基
坚持 “顶层设计 + 小快灵立法 + 行业标准” 协同推进的制度建设路径，构建适配人工智能技术迭代节奏的动态法治体系。一是稳步推进人工智能专门立法进程，结合 “人工智能 +” 行动的落地实践，加快明确人工智能研发、生产、部署、使用全链条的核心法律原则，厘清各主体的权利、义务与责任边界，重点破解算法黑箱、因果关系认定、举证责任分配等核心司法难题，为人工智能治理提供高位阶法律遵循。二是深化 “小切口” 专项立法创新，针对拟人化交互服务、互联网智能体、深度合成内容、自动驾驶等高频风险场景，加快完善专项管理办法与配套规则，将已验证有效的备案制度、内容标识制度、分级分类监管制度常态化、规范化，形成 “一领域一规则、一场景一规范” 的精细化制度供给格局。三是健全全链条标准体系，加快完善人工智能安全、伦理、可解释性、测试验证、风险评估等核心领域的国家标准与行业标准，推动标准与立法、监管执法的深度衔接，充分发挥标准的规则细化、实操指引作用，为企业合规经营提供清晰可量化的行为标尺，同时积极推动我国优势领域标准的国际化转化，提升我国在全球 AI 标准领域的话语权。
（二）强化技术治理解构能力，实现以技治技
针对人工智能技术迭代快、风险隐蔽性强、跨领域外溢特征突出的特点，推动治理技术与人工智能技术同步研发、同步部署、同步落地，构建 “技术研发 - 风险防控 - 治理落地” 的全流程技术治理体系。一是加快建设国家级人工智能安全测试验证基础设施，搭建覆盖基础模型、垂直应用、场景落地全环节的安全测试平台，重点突破 AGI 安全对齐、模型欺骗行为检测、算法可解释性、深度合成内容溯源、智能体行为审计等核心治理技术，形成标准化的风险检测、评估、预警、处置技术能力，为监管机构、企业提供权威的技术支撑。二是推动企业建立全生命周期技术治理机制，要求 AI 研发与服务企业将安全治理嵌入模型训练、微调、部署、迭代的全流程，建立红队测试、风险评估、应急处置的常态化机制，重点强化模型安全对齐、内容安全审核、数据隐私保护、权限管控等核心技术能力，压实企业的技术治理主体责任。三是大力发展第三方技术治理服务，培育一批专业的 AI 安全审计、风险评估、合规检测机构，推动第三方机构参与模型备案审查、合规评估、事故溯源等工作，形成 “政府监管 + 企业主责 + 第三方监督” 的技术治理协同格局，破解监管机构与企业之间的技术信息不对称难题。
（三）健全多元共治的治理格局，压实全链条主体责任
人工智能治理涉及政府、企业、行业组织、科研机构、社会公众等多方主体，需构建权责清晰、协同联动、各尽其责的多元共治体系，形成治理合力。一是明确政府监管的权责边界，建立跨部门协同监管机制，厘清网信、工信、科技、市场监管、金融、教育、医疗等各行业主管部门的监管职责，避免监管真空与重复监管，推动建立跨部门、跨区域的监管数据共享、执法协同机制，提升监管的整体性与协同性。二是压实企业的全链条主体责任，明确 AI 模型研发企业、服务提供企业、应用部署企业的分级责任，推动企业建立健全内部治理架构，设立人工智能伦理与安全委员会，完善合规管理、风险防控、用户权益保护机制，对高风险 AI 应用建立严格的准入、评估、退出机制，从源头防范安全风险。三是充分发挥行业组织的桥梁纽带作用，支持人工智能行业协会、产业联盟制定行业自律规范、合规指引，开展行业合规培训、信用评价，推动行业企业形成合规经营共识，规范市场竞争行为，同时搭建政府与企业之间的沟通桥梁，及时反馈产业发展中的痛点难点问题，推动治理规则的动态优化。四是强化科研机构的智力支撑作用，鼓励高校、科研院所开展人工智能治理的基础理论、法律政策、伦理规范、技术工具研究，为治理体系建设提供理论支撑与解决方案，同时加强人工智能治理的国际学术交流，吸收借鉴全球先进治理经验。五是畅通社会公众监督与参与渠道，完善 AI 违法违规行为的举报投诉机制，保障公众的知情权、参与权、监督权，同时加强人工智能科普宣传，提升全民数字素养与 AI 安全意识，引导公众理性使用人工智能技术，形成全社会共同参与的治理氛围。
（四）深化场景化治理创新，赋能 “人工智能 +” 行动落地
紧扣 “人工智能 +” 行动六大重点领域，坚持 “发展与安全并重、激励与约束并行” 的原则，推动治理规则下沉到具体应用场景，以场景化治理破解融合应用中的责任认定、风险防控难题，为人工智能赋能千行百业保驾护航。一是针对工业、农业、交通等实体经济融合场景，建立分级分类的风险管控机制，根据 AI 应用对生产安全、公共安全的影响程度，划分低、中、高风险等级，实施差异化的监管要求，对高风险场景建立严格的准入备案、安全评估、全流程追溯机制，对低风险应用简化合规要求、鼓励创新探索，同时针对工业智能体、自动驾驶、农业智能决策等典型场景，制定专项合规指引，明确责任划分、风险防控、应急处置的具体规则。二是针对医疗、教育、政务、民生等公共服务场景，坚守安全底线与公益属性，明确 AI 的辅助性定位，严禁 AI 替代核心决策职责，针对医疗辅助诊断、教育教学辅助、政务决策支持等场景，建立严格的准入标准、透明度要求与问责机制，重点防范模型幻觉、数据泄露、算法歧视等风险，保障公共服务的公平性、安全性与普惠性。三是针对消费、文化、社交等互联网应用场景，重点规范拟人化交互、深度合成、智能推荐等技术应用，强化未成年人保护、用户隐私保护、内容安全管理，严厉打击 AI 技术滥用引发的诈骗、诽谤、侵权等违法违规行为，同时平衡技术创新与用户权益保护，为新业态新模式预留发展空间。
（五）构建全周期人才培育体系，夯实治理人才支撑
人工智能治理的落地实效，核心依赖于复合型治理人才队伍建设，需构建覆盖学术研究、监管执法、企业合规、技术研发的全周期人才培育体系，为治理体系建设提供坚实的人才保障。一是完善高校学科建设，鼓励高校开设人工智能治理、AI 伦理、数字法治等交叉学科专业，培养兼具人工智能技术功底、法律素养、伦理认知、产业实践能力的复合型人才，同时在人工智能、计算机、法学、公共管理等相关专业中增设 AI 治理相关课程，提升相关专业学生的治理素养。二是加强监管执法人才队伍建设，针对网信、工信、市场监管等监管部门的执法人员，开展人工智能技术、法律法规、监管实务的常态化培训，搭建监管人员与企业、科研机构的交流平台，提升监管队伍的技术认知与执法能力，打造一支懂技术、懂法律、懂产业的专业化监管队伍。三是强化企业合规与技术治理人才培养，支持行业组织、龙头企业开展 AI 合规、安全治理、伦理审查相关培训，培育企业内部的合规管理、安全技术、伦理审查人才队伍，提升企业的自主治理能力。四是搭建高端人才交流平台，建立人工智能治理高端智库，汇聚全球顶尖的 AI 治理专家学者、产业人士、法律专家，开展前沿研究与政策咨询，同时加强国际人才交流合作，吸收借鉴全球先进治理经验，提升我国 AI 治理人才的国际化视野。
六、全球人工智能治理的中国方案与国际合作策略
人工智能的跨国界、跨领域特征，决定了其风险防控与健康发展离不开全球协同治理。面对当前全球 AI 治理规则碎片化、战略目标冲突、发展鸿沟加剧的核心困境，我国应立足自身产业发展与治理实践，秉持多边主义、开放包容、普惠共赢的原则，积极推动构建人类命运共同体，提出并践行全球人工智能治理的中国方案，推动形成公平合理、开放包容的全球 AI 治理体系。
（一）坚持多边主义，推动全球治理规则协同
坚定维护以联合国为核心的国际体系，积极参与并引领全球人工智能治理规则制定，推动形成具有广泛共识的全球 AI 治理原则与标准体系。一是深化联合国框架下的多边合作，积极参与联合国人工智能咨询机构、教科文组织、国际电信联盟等机构的 AI 治理相关工作，推动将 “以人为本、智能向善、统筹发展与安全、普惠包容” 的核心理念融入全球 AI 治理顶层设计，推动形成全球普遍认可的 AI 伦理准则、安全底线与治理框架。二是推动多边机制下的规则协同，积极利用金砖国家、上合组织、G20、APEC 等多边合作平台，加强与各国的 AI 治理政策沟通与规则对接，针对 AGI 安全防控、跨境数据流动、AI 技术滥用打击、就业影响应对等全球性议题，推动形成多边共识与联合行动方案，破解全球治理碎片化难题。三是积极参与全球 AI 标准制定，依托我国在人工智能应用场景、产业规模、开源生态等领域的优势，推动我国在 AI 安全、内容标识、行业应用等领域的优势标准转化为国际标准，同时积极参与国际标准的制定修订工作，提升我国在全球 AI 标准体系中的话语权与影响力。
（二）搭建开放合作平台，促进治理经验与技术共享
秉持开放合作的理念，搭建多层次、多元化的全球 AI 治理交流合作平台，推动各国治理经验、安全技术、产业实践的共享与互鉴，实现互利共赢、共同发展。一是打造高端国际交流合作平台，持续办好世界人工智能大会、全球数字经济大会等国际盛会，设立 AI 治理高端论坛，汇聚全球政府、企业、科研机构、国际组织的代表，围绕 AI 治理前沿议题开展交流对话，凝聚治理共识。二是推动产业界与学术界的国际合作，支持我国 AI 龙头企业、科研机构与全球顶尖企业、高校、研究机构开展 AI 治理领域的联合研究，针对 AGI 安全对齐、模型风险防控、可解释 AI 等核心技术难题开展联合攻关，共享安全技术成果，共同提升 AI 安全治理能力。三是推动开源生态的国际合作，依托我国国产开源大模型的生态优势，推动开源社区的国际交流与合作，构建开放、包容、安全的全球 AI 开源生态，降低全球开发者的创新门槛，推动人工智能技术的普惠发展，同时在开源社区中推动形成全球统一的安全合规准则与最佳实践。
（三）推动发展中国家普惠包容，弥合全球数字治理鸿沟
针对当前全球人工智能发展与治理能力严重失衡，发展中国家面临技术鸿沟、治理能力不足的问题，我国应积极推动 AI 技术与治理能力的普惠共享，帮助发展中国家提升 AI 发展与治理能力，弥合全球数字鸿沟。一是推动 AI 技术与基础设施的普惠共享，依托 “数字丝绸之路” 建设，向发展中国家提供适配其发展需求的 AI 技术解决方案、基础设施建设支持，帮助发展中国家完善数字基础设施，培育本土 AI 产业，提升其 AI 技术应用能力。二是开展 AI 治理能力建设合作，为发展中国家提供 AI 治理政策咨询、法律法规制定、人才培训等方面的支持，帮助其构建适配本国国情的 AI 治理体系，提升监管执法能力，使其能够有效应对 AI 带来的风险挑战，平等参与全球 AI 治理进程。三是推动 AI 红利的普惠共享，支持我国 AI 企业与发展中国家开展合作，推动人工智能在农业、医疗、教育、防灾减灾等民生领域的落地应用，帮助发展中国家利用 AI 技术解决发展难题，提升民生福祉，让人工智能技术红利惠及全球各国人民。
（四）强化跨境风险协同应对，构建全球安全防护网
人工智能带来的系统性风险具有显著的跨国界外溢特征，单一国家的治理无法有效应对全球性风险，需推动各国建立跨境风险协同应对机制，构建全球人工智能安全防护网。一是建立跨境 AI 安全风险预警与通报机制，推动与各国监管机构建立 AI 安全事件、恶意滥用行为、系统性风险的信息共享与通报机制，针对 AI 诈骗、深度合成虚假信息、网络攻击、CBRN 风险扩散等跨境违法违规行为，开展联合执法与打击行动，共同维护全球网络空间安全。二是推动 AGI 全球协同治理，针对 AGI 带来的生存性风险与系统性挑战，推动全球主要 AI 研发国家、头部企业建立协同治理机制，建立先进模型研发的信息共享、安全测试、风险评估联合机制，针对高风险 AGI 研发活动建立全球统一的安全门槛与管控规则，共同防范 AGI 带来的全球性风险。三是完善跨境 AI 纠纷解决机制，针对人工智能跨境应用带来的侵权、责任认定、数据权益等跨境法律纠纷，推动各国建立司法协助、纠纷调解、仲裁协同机制，为跨境 AI 应用提供清晰的法律预期，保障相关主体的合法权益，推动全球 AI 产业的健康有序发展。
结语
2025 年是人工智能技术与产业实现跨越式发展的关键一年，也是全球人工智能治理格局深刻重塑的一年。以大模型为核心的人工智能技术，正从认知工具向自主智能实体加速演进，以前所未有的力量重塑全球产业生态、社会结构与国际竞争格局，在为人类社会带来巨大发展机遇的同时，也带来了技术安全、伦理规范、法律责任、经济社会冲击等一系列全球性挑战。
面对这场深刻的技术变革与治理挑战，全球主要经济体走出了差异化的治理路径，美国转向 “创新优先、放松管制” 的战略导向，欧盟在严监管与促创新之间寻求务实平衡，而我国始终坚持统筹发展和安全，以服务 “人工智能 +” 国家战略为核心，走出了一条小切口、场景化、精细化的敏捷治理道路，逐步构建起适配技术发展节奏、护航新质生产力发展的人工智能治理体系。
面向未来，人工智能治理的核心命题，始终是如何引导技术始终朝着增进人类福祉的方向发展，实现人与机器、人与人、人与社会的和谐共生。这既需要我国持续完善制度体系、创新监管工具、压实主体责任、深化场景治理，推动人工智能治理体系与治理能力现代化，为 “人工智能 +” 行动保驾护航，也需要全球各国摒弃地缘竞争思维，秉持多边主义、开放包容、普惠共赢的理念，携手构建公平合理、协同高效的全球人工智能治理体系，共同应对全球性风险挑战，让人工智能技术真正造福全人类，推动人类文明迈向更高质量的发展阶段。
