阿里联合上海 AI 实验室发布安全白皮书:AI 从＂很能说＂到＂很能干＂_社会热点_资讯

阿里联合上海 AI 实验室发布安全白皮书:AI 从＂很能说＂到＂很能干＂

2026-04-01 22:49

阿里联合上海 AI 实验室发布安全白皮书:AI 从＂很能说＂到＂很能干＂

2026 年 3 月底，阿里巴巴集团联合上海人工智能实验室正式发布《人工智能安全白皮书》（以下简称"白皮书"）。

这份白皮书的核心观点只有一个：AI 正在从"很能说"迈向"很能干"，但安全治理必须跑在技术前面。

为什么这份白皮书值得医疗AI从业者关注？

因为医疗 AI，恰恰是"能干"要求最高、"安全"风险最大的 AI 应用场景。

Part.01

白皮书核心要点解读

白皮书提出了 AI 安全的"三层架构"：

第一层：技术安全

模型可靠性：输出结果可验证、可追溯
数据隐私：训练数据脱敏、用户信息保护
对抗攻击防御：防止恶意输入导致模型失效

第二层：应用安全

场景边界：明确 AI 能做什么、不能做什么
人机协作：人类始终是最终决策者
责任归属：出问题时谁来负责

第三层：社会安全

就业影响：AI 替代人类工作的节奏控制
公平性：避免算法歧视
伦理底线：某些领域禁止 AI 介入

对医疗 AI 而言，这三层都有直接对应：

技术安全→诊断准确率、患者隐私保护
应用安全→AI 辅助诊断边界、医生最终决策权
社会安全→医疗资源分配公平性、生命伦理

Part.02

医疗 AI 的特殊性：为什么安全更重要？

白皮书专门用一章讨论"高风险 AI 应用"，医疗位列首位。

原因很简单：医疗 AI 出错，代价是人命。

对比其他 AI 应用：

推荐系统出错→用户看到不喜欢的内容（无实质伤害）
自动驾驶出错→可能发生交通事故（生命危险）
医疗 AI 出错→误诊、漏诊、错误用药建议（直接威胁生命健康）

白皮书提出，医疗 AI 需要满足"三个高于"：

准确率高于人类医生平均水平（而非"相当"）
可解释性高于其他 AI 应用（医生需要知道"为什么"）
合规标准高于通用 AI（NMPA 三类证 + 伦理审查 + 数据出境审查）

Part.03

从"能说"到"能干"：医疗AI的跨越

白皮书中有一个观点非常精辟：

过去五年，AI 学会了“说人话”；未来五年，AI 要学会“做人事”。

"能说"的 AI：

可以写诗、写文章、写代码
可以回答各种问题
但无法对结果负责

"能干"的 AI：

可以独立完成具体任务
输出结果可验证、可量化
能够承担相应责任

医疗 AI 正处于这个跨越的关键节点：

能力维度	"能说"阶段	"能干"阶段
问诊	回答健康问题	给出诊断建议
影像	描述图像内容	识别病灶并分级
用药	查询药品信息	推荐个性化用药方案
健康管理	提供通用建议	制定可执行的干预计划

白皮书的发布，相当于给这个行业画了一条"及格线"：不能只停留在"回答问题"，必须能够"解决问题"。

Part.04

对医疗 AI 企业的三点启示

启示一：合规不是成本，是竞争力

很多创业公司把合规视为"负担"，但白皮书传递的信号是：

合规能力 = 市场准入资格 = 竞争壁垒

谁能更快拿到 NMPA 证、通过伦理审查、建立数据保护体系，谁就能在下一轮竞争中占据主动。

启示二：人机协作是长期形态

白皮书明确反对"AI 替代医生"的叙事，强调"AI 辅助、人类决策"。

这对医疗 AI 企业的产品设计有直接影响：

不要追求"全自动诊断"
要设计"医生审核确认"环节
保留完整的人机交互日志

启示三：安全治理要前置

很多公司习惯"先上线、再治理"，但医疗 AI 不行。

白皮书建议：

产品设计阶段就引入安全评估
建立 AI 伦理委员会
定期进行安全审计和压力测试

结语

阿里联合上海 AI 实验室发布这份白皮书，本质上是在给 AI 行业"立规矩"。

对医疗 AI 企业而言，这既是约束，也是保护。

约束的是野蛮生长，保护的是认真做事的企业。

当行业有了明确的安全标准，劣币驱逐良币的现象就会减少。

按照这个方向走，才能走得更远。

本文基于公开信息整理，仅供参考。

⭐点赞、转发、在看一键三连⭐

关注「AI智医局」