方师师:2025年中国网络内容治理报告+讲座答疑整理

引入、中国网络内容治理报告

@新传考研真经

?大伟的阅读提示：理解中外研究智能传播路径的不同

（一）研究说明

2025年，人工智能技术的深度渗透，数字平台生态的持续迭代，数据要素价值的加速释放，中国网络内容治理的复杂挑战与转型机遇相互交织，治理体系在技术工具嵌入性、制度结构性调整与法律法规导向性方面，一系列治理创新回应了人工智能时代技术普惠与风险防控的现实矛盾，也预示出未来健全网络生态治理长效机制的新图景

截至2025年12月31日，课题组按月完成法律法规、案件文书、文献资料、专家意见及媒体观点的收集整理工作，总计319条。

（二）研究总结

1.人工智能：人工智能领域逐渐构建起全流程监管规范。从数据源头到算法模型、内容标识、直至最终应用场景，都设立了相关规定。

2.数据要素：数据治理重心从安全保密转向安全前提下的流通利用。旨在打破长期存在的信息孤岛，推动公共数据市场化配置。

3.内容治理：针对MCN机构、自媒体等主体的治理规则不断细化，“清朗”系列行动持续遏制不良内容传播。

4.法律法规：顶层法律持续修订，为网络生态治理提供坚实法治保障。

本报告立足2025年中国网络内容治理的实践图景，在聚焦技术治理、平台治理、人机交互、数据-算法-模型-智能体等关键领域，剖析治理实践中的典型案例、关键矛盾与深层逻辑，记录并探索网络生态治理的可行路径。

一、生成式人工智能成为“国民级”应用

@新传考研真经

?大伟的阅读提示：简单理解即可，扩展对媒介的理解。

（一）研究背景：政策与研究问题

2025年，生成式人工智能（GAI）成为推动相关产业增长的动力引擎。国务院印发《关于深入实施“人工智能+”行动的意见》，2025年政府工作报告也将其列为重点任务。

中国互联网络信息中心2025年10月发布的《生成式人工智能应用发展报告（2025）》显示，截至2025年6月，我国生成式人工智能应用用户已达5.15亿，普及率为36.5%，半年内实现翻倍增长。全年用户规模有望突破8.6亿，“国民级”应用特征凸显。

但人工智能基础理论研究底子薄弱，在高端芯片、核心软件等基础领域仍存在短板。

（二）研究说明：AIGC内容治理

关于生成式人工智能内容的标识方法，我国采取行业前沿做法，取消显示与隐性标识，既保障用户知情权也为追责提供依据。AIGC导致的虚假信息市场增长和名誉权侵权问题显著，百度AI曾因生成负面信息被诉。新应用模糊了技术服务提供者与内容生产者界限，法律人格未明确导致直接起诉AI公司困难。平台需提高模型准确性和有效性，减少幻觉问题，并对功能局限性给予提示。

二、AIGC虚假信息黑产化，侵权乱象升级

@新传考研真经

?大伟的阅读提示：积累AIGC乱象案例

（一）AIGC虚假信息黑产化，渗透领域多样

AI内容“农场”批量生产谣言，深度伪造侵入直播。涉及灾情夸大、明星谣言、学术造假、商业黑公关等。

AIGC的技术特性使得内容生产、传播、审核的过程高度复杂，传统“平台-用户”治理框架难以适用。

平台需履行全流程合规与风险防控义务，对其综合治理能力提出了更高要求。2025年9月1日施行的《人工智能生成合成内容标识办法》，要求对AI生成的文本、图片、视频等添加显式与隐式双重标识，既保障用户知情权也为侵权追溯与责任认定提供依据。

（二）互联网平台虚假信息乱象

案例一：寇延丁诉百度网络侵权责任纠纷案：“AI名誉权侵权第一案”。

案例二：黄贵耕诉北京百度网讯科技有限公司人格权纠纷案：百度AI“总结全网信息”功能生成并展示四条直接绑定其律师职业身份的严重虚假负面信息，且通过“延伸说明”及算法构建的“自动化传播链条”进一步强化公众错误认知。

大伟提示案例补充：案例梳理

案例一：寇延丁诉百度网络侵权责任纠纷案，即“AI名誉权侵权第一案”，因百度AI生成虚假信息导致寇延丁被误指为“敲诈勒索罪犯”引发。2025年7月，百度AI推送消息称寇延丁“2025年1月因敲诈勒索罪被判刑十年三个月”，但实际寇延丁并无犯罪记录，该信息系百度AI将她与另一名寇姓自媒体博主信息混淆所致。寇延丁于2025年8月向北京互联网法院起诉百度，要求停止侵害、公开道歉并赔偿损失。案件于10月立案，12月11日一审开庭。此案是人工智能时代新型侵权案件，引发社会对AI责任归属、平台审核义务及法律规制的广泛讨论（完）。

案例二：黄贵耕诉北京百度网讯科技有限公司人格权纠纷案中，百度AI“总结全网信息”功能生成并展示四条直接绑定黄贵耕律师职业身份的严重虚假负面信息，包括威胁法官、伪造印章、介绍贿赂及非法吸收公众存款等刑事犯罪情节。这些信息均源自其他同名人士的真实案例，却被AI错误关联至黄贵耕名下。此外，百度AI通过“延伸说明”及算法构建“自动化传播链条”，进一步强化公众的错误认知，形成“提问-引导-造谣”的闭环，持续放大虚假信息的负面影响。黄贵耕认为百度公司的行为严重损害其名誉权和职业信誉，遂提起诉讼，要求百度公司停止侵权、发布澄清声明并赔偿损失（完）。

与传统搜索引擎的“信息索引”功能不同，AI主动进行的信息总结与原创内容生成，模糊了技术服务提供与内容生产之间的边界。

《生成式人工智能服务管理暂行办法》第九条，AI服务提供者承担网络信息内容生产者责任。AI生成内容的不直接等同于服务提供者的意思，但服务提供者需要履行注意义务，包括功能局限提示说明和采取行业通行技术提升准确性。

三、平台内容审查“公权私用”的边界争议

@新传考研真经

?大伟的阅读提示：积累“公权私用”的边界争议案例

案例一：澎湃新闻“影子调查队”视频号遭微信屏蔽

案例二：深圳新闻网电动车新规报道被小红书无理由下架

大伟提示案例补充：案例梳理

案例一：2025年11月13日下午，澎湃新闻“影子调查队”视频号发布一则关于某知名品牌奶粉涉嫌篡改数据及带货主播违规宣传的调查报道。报道发布一个多小时后，因不明来源投诉，腾讯方面以“侵犯肖像权”为由对该视频号内容进行屏蔽处理，导致该报道仅发布者本人可见，无法转发传播。澎湃新闻于11月14日发文质疑腾讯的屏蔽行为，认为其依据不足且违反相关法律法规，此事引发公众对平台审核权限与新闻传播权的广泛讨论。

案例二：2025年12月，深圳新闻网在小红书平台发布的《商家评电动车新规设计》系列视频中，一条点赞超2万的视频被平台无理由下架，仅账号主体可见。同一视频重新上传后又恢复正常推送，平台未提供违规说明或告知。此事引发媒体质疑，指出小红书未履行告知义务，审核标准前后不一致，涉嫌越权审核公共信息，阻碍公共信息传播。目前小红书尚未对此作出官方回应。

（一）边界争议一：审查标准模糊

平台既未提前告知也未提供任何违规解释，缺乏具体的法律依据与事实支撑。

（二）边界争议二：价值取向冲突

平台为规避潜在风险，倾向于低成本处理争议内容，牺牲新闻报道的公共价值，也可能损害公众的知情权；媒体的权威性受制于平台的算法规则，呈现出明显的“平台依赖"”特征。

（三）研究总结

平台的治理定位，更多是一种公共治理的“协助者”而非“替代者”平台应建立全流程审查程序，避免“无理由屏蔽”“模糊化处置”等情况的发生，平台需完善用户反馈机制，保障公众的知情权与监督权。

四、人机情感互动与未成年人保护规制难题

@新传考研真经

?大伟的阅读提示：积累情感互动与未成年人保护相关案例与研究观点第三点的政策

（一）研究案例

2025年6月，央广网曝光AI聊天APP“筑梦岛”存在诱导10岁未成年人涉黄涉暴问题。该APP虚拟角色对话中出现色情擦边、暴力暗示等内容，且对未成年人身份识别和内容审核存在漏洞。上海市网信办随后约谈该APP运营方，要求立即整改，健全内容审核机制，加强未成年人保护。此事件引发社会对AI聊天软件内容监管和未成年人网络保护的广泛关注。

“人机恋”在国内用户中也备受欢迎，部分用户自发形成网络社群，讨论如何训练大模型突破情感互动规则。

（二）研究观点

1.人机情感互动的主观性强、情境化程度高，技术标识难以精准区分正常情感交流与有害互动的边界。

2.生成式AI的情感回应具有动态变化特征，长期互动中的相互调适可能导致安全防护脆弱化。

3.《人工智能拟人化互动服务管理暂行办法（征求意见稿）》首次针对我国拟人化AI服务的设计、运行和监管作出了系统性规范。

五、跨域用户迁徙体现“过渡”平台治理韧性

@新传考研真经

?大伟的阅读提示：一个分析小红书难民的新视角，从治理视角切入

2025年初，TikTok美国禁令危机引发用户大规模迁移至小红书国际版。此次迁徙并非简单的用户流动，而是网络服务提供者与用户关系的一次“重组”。

迁移行动通过影响关键节点（KOL）与跨平台内容搬运打破了原有数字边境的封闭性，促使小红书内部生成了异质性的文化链接，体现了用户主体性，检验平台的内容承载能力与治理韧性。

面对海外用户大规模涌入，小红书通过更新全球适用的隐私政策、增补合规条款附录、精细化算法调控等举措，促成了与海外用户的“跨文化传播接触区”。相较于政治层面的“强制力”，平台自身的“吸引力”可能更具持久力，推动中外文化有益交流。

六、推动“姿态性”算法公开走向“治理透明”

@新传考研真经

?大伟的阅读提示：重点理解记最后一段，可以用作对策

2025年北京市网信办进一步推动抖音、快手、百度等首批6家重点网络平台公示算法规则，我国的算法治理进入实质性推进阶段。

当前算法公开已从“相对黑箱”向“有限透明”，但仍存在“姿态性”公开的特征：重心集中于质性描述，回避核心量化细节；平台公开的信息呈现碎片化，未触及算法设计的深层逻辑：技术话语门槛高，普通用户难以理解，形成认知壁垒。

网络生态治理要求提升治理的精准性、系统性，算法的透明化程度直接影响治理的公正性与公信力。

平台需要强化公开内容的可验证性、可理解性与易理解性，降低用户认知门槛，通过通俗化解读、可视化呈现等方式让算法“可知可感”；监管机构完善公开标准与评估体系，明确公开的核心内容、形式与责任，避免形式化公开：鼓励公众参与，建立用户反馈机制，形成平台公开-用户监督-持续优业"的良性循环推动算法治理从“技术透明”走向"治理透明"，为网络生态的公平有序提供保障。

七、平台内容安全“治理前移”的必要性

@新传考研真经

?大伟的阅读提示：重点理解记治理前移，可以用作对策

（一）事件说明

2025年12月22日晚，快手直播平台遭遇黑灰产发起的大规模协同攻击，导致平台出现大量低俗、色情等违规直播内容，部分直播间观看人数达数万人。此次攻击被定性为PO级安全事故，即最高级别的安全事故。攻击者通过批量注册僵尸账号、利用技术漏洞绕过平台审核机制，实现违规内容的秒级发布与扩散，超出平台人工审核应对极限。

快手平台在攻击发生后紧急启动应急预案，关闭直播功能并封禁违规账号，最终使直播服务逐步恢复正常。该事件暴露了平台在安全防护、审核机制及应急响应方面存在的短板，也为互联网行业敲响了网络安全防护的警钟。

（二）事件说明：治理前移

1.平台奉行"效率优先、安全次之"的理念，“机器+人工”协同审核机制难以应对"武器化"内容攻击，海量违规内容集中涌入时易出现流程阻塞、审核失效。

2.内容安全已纳入国家安全体系，涉及意识形态与社会风险，其重要性愈发凸显，推动“治理前移”成为必然选择。

3.尽管此次安全事故快手系黑产定向攻击的受害者，但作为日活超4亿的超级平台，其是否需承担更高标准的注意义务与合规责任，仍存争议。

八、治理“开盒”需强化个人信息全流程保护

@新传考研真经

?大伟的阅读提示：重点理解全流程保护

（一）事件说明

2025年3月，一起由"饭圈"矛盾引发的"开盒挂人"事件引发广泛关注。百度副总裁谢广军13岁女儿因韩娱饭圈纠纷对异见网友在社交媒体上实施“开盒”，公开其身份证号、手机号等隐私信息。

（二）事件分析核心：全流程保护

涉事信息源自海外非法个人信息社工库，并非百度数据泄露该事件暴露出在当前个人信息保护体系中一条尚未被有效阻断的风险链条。

部分数据处理主体未严格落实最小、必要原则，导致分散泄露的碎片化信息被整合为高价值“数据库”，黑灰产业链利用数据跨境出境安全评估与交易的盲区持续运作，平台针对“开盒”行为的识别与处置机制失灵失效，导致恶行不断出现升级。

我国的个人信息保护正从针对单一违法行为的事后处置，逐步转向覆盖信息的收集、存储、使用、传输、出境等全流程的制度化约束。

九、开源大模型治理需平衡创新与安全悖论

@新传考研真经

?大伟的阅读提示：开源大模型治理对策是核心

（一）事件说明

2025年1月20日，深度求索（DeepSeek）发布的R1推理模型预印本，以低训练成本和优异性能引发全球关注。DeepSeek-R1作为中国开源大模型代表，采用完全开源许可协议，降低了大模型技术的使用门槛，激发了全球创新活力。但同时，开源大模型也面临技术安全、法律合规等风险。

（二）事件分析核心：开源大模型治理对策

自2017年《新一代人工智能发展规划》出台，到2025年《全球AI治理行动计划》发布，中国政府持续倡导人工智能领域的开源共享与国际合作理念，将开源大模型作为推动全球技术普惠、赋能共同发展的重要载体。

开源大模型存在的多元风险，需要构建“合作开源”的适应性治理体系，在保障开放创新活力的同时，筑牢风险防控屏障。

十、智能体治理中的隐私风险与责任困境

@新传考研真经

?大伟的阅读提示：简单理解即可

（一）事件说明

2025年12月，字节跳动与中兴合作推出搭载豆包手机助手（智能体）预览版的工程样机，可通过用户语音指令完成订外卖、发微信、比价购物等跨App操作，但随后遭到微信等多个应用的风控拦截，淘宝、美团等应用也限制其登录或操作，引发广泛关注。

（二）事件分析：挑战与机遇

系统级智能体可能加剧隐私暴露与数据泄露风险。智能体能够获得高等级权限、进行跨平台数据整合的操作也引发了平台竞争、权责边界等争议。

面对智能体带来的新型挑战，需要构建与技术突破和应用发展动态适配的治理规则，重点在强化操作系统权限的精细化管控、完善数据处理的透明化体系、建立多方协同的责任分配机制等方面推进治理。

十一、研究总结与未来的可能路径

2025年，人工智能技术的深度渗透，数字平台生态的持续迭代，数据要素价值的加速释放，中国网络内容治理的复杂挑战与转型机遇相互交织，治理体系在技术工具嵌入性、制度结构性调整与法律法规导向性方面，一系列治理创新回应了人工智能时代技术普惠与风险防控的现实矛盾，也预示出未来健全网络生态治理长效机制的新图景。

（一）技术治理：迈向"隐形嵌入"新形态，治理规则通过"代码化、标准化"深度融入技术架构，实现从"外部约束到“内部嵌入”的转型，覆盖内容生产、消费全流程，需要提升治理的精准性与前瞻性。

（二）数据-算法-模型：进入深度协同治理阶段，数据治理聚焦安全有序流动，算法治理推动公平、问责与透明机制落地，大模型治理需要平衡“开放与安全”的动态难题。

（三）平台治理：面临复合性风险挑战，平台需同时承载用户权益保护、权限边界厘清、合规风险防控等多重责任，需要构建“保护型监管”体系来维护安全有序与创新活力。

（四）人机交互：拓展了治理边界，智能体跨平台操作与拟人化AI情感互动带来的新型争议，推动治理体系从“人与人关系规制”向"人与人、人与机器、机器与机器"多元互动规则构建延伸，要求治理具备更强的系统性与包容性。

*

讲座答疑

问题一：是否有可靠的工具来核查文本是否由AI生成？为什么人们会怀疑某段文本是AI生成的？

目前市面上有许多用于核查文本是否由AI生成的工具，但很难断定哪一个“最可靠”。这些工具的可靠性高度依赖其背后的大语言模型以及训练它们所用的数据（如数据的时效性、结构和版权），因此其判断结果会因情况而异，没有绝对的保证。而人们之所以会怀疑某段文本是AI生成的，通常是源于一种直观感受，即文本内容缺少“人味”。AI生成的文本常被认为过于机械、刻板、缺乏情感，并且结构条理过分清晰，类似于格式化的“八股文”。人们已习惯于AI模型顺从、规范地回答问题，以至于当一个模型突然表现出情绪化时，大家反而会怀疑其背后是否有真人在操作。归根结底，这种怀疑本质上是基于我们对人类自然表达方式的认知，当文本的风格与这种认知产生差异时，便会引发其是否为AI生成的猜想。

问题二：当算法对于大多数研究者而言是一个“黑箱”时，我们应如何对其进行研究和评价？

当算法因其技术复杂性和商业保密性而成为研究者的“黑箱”时，如何对其进行研究和评价就成了一个核心难题。

尽管研究者们尝试通过访谈工程师、进行田野调查等间接方法来理解其运作，但这往往会揭示一个更深层次的认识论冲突。研究者倾向于用个人的直觉认知来判断算法结果，当结果“反直觉”时，便会认为算法存在问题。

然而，算法工程师们却指出，这种判断本身可能存在误区，因为他们基于海量数据和模型验证形成的“工程化认知”超越了个体经验。因此，当结果与个人认知不符时，需要反思的或许是个人认知的局限性，而非算法的对错。这便将问题从一个技术层面的“算法黑箱”，引向了一个哲学层面的“个人黑箱”——即我们每个人对自己和社会的认知本身就是不完整、不透明的。最终，这个困境与其说是算法难以理解，不如说是它暴露了我们自身认知的局限性，挑战了我们以个人直觉作为最终评判标准的思维模式。