
已有400多家公司在不同行业建立AI Agent应用,总共12条赛道,技术可切分为“感知-规划-执行-反馈”四层。
二、纵向技术栈
1. 感知层(Input Pipeline)
·多模态解析:视觉模型(LayoutLMv3、Donut)处理扫描件,语音模型(Whisper large-v3)做通话转录,ASR 后接语音情绪分类。
·实时数据流:Kafka→Flink→Vectorize,保证监控告警或股价跳变 1 秒内进入模型上下文。
·私有化合规:金融/医疗常用本地部署的 Llama-3-70B + 自研 LoRA,保证 PHI/PII 不出域。
2. 规划层(Planning & Memory)
·链式 vs. 树式:复杂场景用 Tree-of-Thoughts 做“如果补丁失败就回滚”这种分支模拟;简单场景直接 ReAct 循环。
·长期记忆:Chroma/Pinecone 存向量,RedisGraph 存实体关系,Triton 做在线召回;Agent 每次把“上季度同类故障处理记录”自动拼进 Prompt。
·工具调用:统一用 OpenAI function calling 格式封内部 API,再让模型自己生成 JSON;限权用 OPA 做细粒度授权,防止 Agent 误删库。
3. 执行层(Action & Integration)
·低代码流:Tray.ai、Unify、Zapier 把 CRM、ERP、Slack、Jira 的 4000 多接口转成 OpenAPI spec,Agent 直接选接口填参数。
·沙盒安全:让 Agent 在 Firecracker 微虚拟机里跑 Python 脚本,出网一律走 Envoy 白名单;Devin 类产品还会自动快照容器,出错秒级回滚。
·人机协同:Salesforce 的“Human-in-the-loop”组件,Agent 先写邮件草稿,人点 Send 才真正发出;合规场景必须 100% 可审计。
4. 反馈层(Evaluation & Fine-tune)
·结果打分:客户支持类用 CSAT、FCR;代码类用单元测试通过率、PR 合并时长;安全类用 MTTR、误报率。
·在线强化:把用户点“?/?”当成 reward,用 RLHF 做小步快跑,每周微调一次 LoRA;负面案例自动回流到标注池。
·可视化追踪:LangSmith、Arize、Helicone 把每次 Agent 轨迹(Thought→Action→Observation)落库,方便事后审计和合规检查。
#AI人工智能 #AI Agent #行业图谱
二、纵向技术栈
1. 感知层(Input Pipeline)
·多模态解析:视觉模型(LayoutLMv3、Donut)处理扫描件,语音模型(Whisper large-v3)做通话转录,ASR 后接语音情绪分类。
·实时数据流:Kafka→Flink→Vectorize,保证监控告警或股价跳变 1 秒内进入模型上下文。
·私有化合规:金融/医疗常用本地部署的 Llama-3-70B + 自研 LoRA,保证 PHI/PII 不出域。
2. 规划层(Planning & Memory)
·链式 vs. 树式:复杂场景用 Tree-of-Thoughts 做“如果补丁失败就回滚”这种分支模拟;简单场景直接 ReAct 循环。
·长期记忆:Chroma/Pinecone 存向量,RedisGraph 存实体关系,Triton 做在线召回;Agent 每次把“上季度同类故障处理记录”自动拼进 Prompt。
·工具调用:统一用 OpenAI function calling 格式封内部 API,再让模型自己生成 JSON;限权用 OPA 做细粒度授权,防止 Agent 误删库。
3. 执行层(Action & Integration)
·低代码流:Tray.ai、Unify、Zapier 把 CRM、ERP、Slack、Jira 的 4000 多接口转成 OpenAPI spec,Agent 直接选接口填参数。
·沙盒安全:让 Agent 在 Firecracker 微虚拟机里跑 Python 脚本,出网一律走 Envoy 白名单;Devin 类产品还会自动快照容器,出错秒级回滚。
·人机协同:Salesforce 的“Human-in-the-loop”组件,Agent 先写邮件草稿,人点 Send 才真正发出;合规场景必须 100% 可审计。
4. 反馈层(Evaluation & Fine-tune)
·结果打分:客户支持类用 CSAT、FCR;代码类用单元测试通过率、PR 合并时长;安全类用 MTTR、误报率。
·在线强化:把用户点“?/?”当成 reward,用 RLHF 做小步快跑,每周微调一次 LoRA;负面案例自动回流到标注池。
·可视化追踪:LangSmith、Arize、Helicone 把每次 Agent 轨迹(Thought→Action→Observation)落库,方便事后审计和合规检查。
#AI人工智能 #AI Agent #行业图谱


