今天的感悟来自组织、人员变更后几次业务对接。目前看接手的过程比想象中顺利，节后汇报也收获了 ld 的口头表扬，把之前同事没梳理清的一些业务逻辑理顺了，而且我暂时没感觉对接的算法组同事有同事抱怨的那么难交流。下班路上想了蛮多，不吐不快，就有了这个碎碎念。
提前叠甲： 以下内容均为躺床上胡乱写的碎碎念，见解不同欢迎友好交流 or 直接开喷。
一些前置的 context
- 之前看到过一个评论：现在的人际关系基本都甲乙方化了
- 生活中，消费者是甲方，商场、饭店、外卖员都算乙方；政务机构、学校也在逐渐扮演“服务提供者”的乙方角色
- 工作中，则基本 boss -> 产品 -> 算法 -> sys Infra 优化 -> Infra 平台 -> 前后端开发 -> 测试 的传导链条。当然，在某个 case 中，这个链条可能只包含了某几个部分。
- 朱亦博老师《关于 AI Infra 的一切》应该很多人都听过看过，我对 Infra 态度没那么乐观，但是这篇访谈的内容，结合自己的经历去理解的话，感悟还是挺多的：
- Infra er最理想的状态是和算法同学进行模型结构的 co-desigh，但是除了个别初创有机会，大部分公司会长期保持 Infra 是算法乙方，扮演给算法组支持者的角色。当然，甲方也分大甲方和小甲方，弱组的模型卡用量少，在大 boss 面前话语权也弱，那需求即使丢过来优先级也很靠后
- Infra (单指 ml sys 类的优化) 往好听的方向说是 算法/模型、芯片/硬件 之间的粘合剂，但往难听说就是“传声筒”“四不像”，比芯片设计方多懂一点模型和业务，比模型工程师多懂一点硬件优化，跟着两边喝汤。
- 不过正如朱老师所说，大模型 Infra 起步没多久，业务模式都在探索，想往模型偏还是往硬件偏，都是有的做的，看自己的选择。
为什么标题强调“自信感”
- 根据我对周围一些同事、同学以及网络评论的观察，不少开发/infra 的从业者对算法 er 有一点拧巴的心态：
- 偶尔调侃算法的工作就是拼接开源模型、适配适配业务数据，工程能力稀烂，挣得多升职快
- 在和算法的项目对接中又比较抵触去了解业务逻辑和模型结构变化的原因
- 对算法设计保有“神秘的尊敬感”，不太challenge 算法的模型设计和优化需求
- 无论面试、述职、转正、晋升答辩，自信感都是非常重要的基础，表达甚至都是次要的。
- 作为曾经的算法实习生，我有时候会觉得自己挺理解对面算法老哥的一些优化需求：
#自信面对挑战 #infra #大模型推理 #跨部门沟通 #aiinfra
提前叠甲： 以下内容均为躺床上胡乱写的碎碎念，见解不同欢迎友好交流 or 直接开喷。
一些前置的 context
- 之前看到过一个评论：现在的人际关系基本都甲乙方化了
- 生活中，消费者是甲方，商场、饭店、外卖员都算乙方；政务机构、学校也在逐渐扮演“服务提供者”的乙方角色
- 工作中，则基本 boss -> 产品 -> 算法 -> sys Infra 优化 -> Infra 平台 -> 前后端开发 -> 测试 的传导链条。当然，在某个 case 中，这个链条可能只包含了某几个部分。
- 朱亦博老师《关于 AI Infra 的一切》应该很多人都听过看过，我对 Infra 态度没那么乐观，但是这篇访谈的内容，结合自己的经历去理解的话，感悟还是挺多的：
- Infra er最理想的状态是和算法同学进行模型结构的 co-desigh，但是除了个别初创有机会，大部分公司会长期保持 Infra 是算法乙方，扮演给算法组支持者的角色。当然，甲方也分大甲方和小甲方，弱组的模型卡用量少，在大 boss 面前话语权也弱，那需求即使丢过来优先级也很靠后
- Infra (单指 ml sys 类的优化) 往好听的方向说是 算法/模型、芯片/硬件 之间的粘合剂，但往难听说就是“传声筒”“四不像”，比芯片设计方多懂一点模型和业务，比模型工程师多懂一点硬件优化，跟着两边喝汤。
- 不过正如朱老师所说，大模型 Infra 起步没多久，业务模式都在探索，想往模型偏还是往硬件偏，都是有的做的，看自己的选择。
为什么标题强调“自信感”
- 根据我对周围一些同事、同学以及网络评论的观察，不少开发/infra 的从业者对算法 er 有一点拧巴的心态：
- 偶尔调侃算法的工作就是拼接开源模型、适配适配业务数据，工程能力稀烂，挣得多升职快
- 在和算法的项目对接中又比较抵触去了解业务逻辑和模型结构变化的原因
- 对算法设计保有“神秘的尊敬感”，不太challenge 算法的模型设计和优化需求
- 无论面试、述职、转正、晋升答辩，自信感都是非常重要的基础，表达甚至都是次要的。
- 作为曾经的算法实习生，我有时候会觉得自己挺理解对面算法老哥的一些优化需求：
#自信面对挑战 #infra #大模型推理 #跨部门沟通 #aiinfra
