AI大模型·白皮书 | 2025年大语言模型进展报告-哈工大自然语言处理研究所(448页)

AI·大模型·领地

报告：2025年大语言模型进展报告-哈工大自然语言处理研究所（448页）

2025 年是大语言模型技术从规模扩张转向效率、智能与落地的关键一年，哈工大 NLP 研究所报告从模型架构、训练技术、部署优化、智能体、应用、评测、安全及未来趋势八大维度，系统呈现了领域全年核心突破。

模型架构层面，传统 Transformer 持续革新，全注意力机制聚焦低显存、抗噪声、长上下文优化，稀疏建模转向动态 Token 级自适应，混合专家（MoE）确立 “高参量、低激活” 主流范式，路由更高效、负载更均衡。状态化序列建模形成线性注意力 + 全局注意力的混合架构，兼顾效率与长文本能力。多模态模型从外挂式感知走向原生统一架构，实现图像、视频、文本深度融合。扩散模型、动态计算、嵌套学习三大新兴方向，尝试突破自回归生成、静态计算与持续学习的瓶颈。

训练技术迎来范式升级，后训练中 SFT 向更少参数、更快收敛、防遗忘优化，强化学习因 RLVR（可验证奖励）爆发，成为数学、代码推理能力提升的核心手段。数据领域构建预训练 - 中训练 - 后训练三级体系，中训练成为增强专项能力、避免通用能力退化的关键环节，数据处理向动态语义去重、细粒度过滤、知识驱动合成演进。模型能力聚焦长上下文、复杂推理、数学代码、工具调用、Agentic RL 五大方向，推理从串行思维链向结构化、并行化、层次化升级。

部署技术聚焦突破显存与算力限制，模型压缩实现超低位宽量化、硬件友好剪枝、推理能力蒸馏；推理加速以投机解码、KV Cache 优化为核心，投机解码走向语义宽松验证，KV Cache 实现量化、稀疏、低秩多维压缩。开源部署框架分层清晰，云端以 vLLM、SGLang、TensorRT-LLM 追求高吞吐低延迟，端侧以 llama.cpp、Ollama 实现轻量化兼容，适配不同场景需求。

智能体成为年度核心热点，自主任务规划、工具链整合、RAG、长期记忆、自我反思、自我进化、GUI 操作、多智能体协作八大方向全面突破。智能体从被动执行转向目标驱动、自主规划、动态纠错，工具调用依托 MCP 协议实现标准化，多智能体从固定协作走向动态自组织，GUI 智能体实现跨平台真实界面操作，初步具备 “像人一样使用电脑” 的能力。

应用与生态层面，大模型深度渗透教育、医疗、金融、法律、农业等行业，编程、写作、设计、深度调研等任务应用成熟，国产开源模型快速崛起。评测基准覆盖语言、多模态、编程、数学、推理、智能体全能力维度，安全与伦理聚焦对齐治理、风险控制、内容溯源、攻击防御，宪法 AI 成为重要探索方向。

未来，大模型将从规模优先转向智能密度优先，应用从被动工具走向主动智能体，云边协同、世界模型与具身智能成为长期方向，同时面临算力不均、安全伦理、跨学科融合三大核心挑战，技术与产业将向更高效、更安全、更通用的方向持续演进。

···