
面向AI toB行业非开发人员的产品技术分享,包含AIGC方面的科普及如何结合到toB领域的思考。
判别式AI与声明式AI

要说明的是,它们都是AI技术的一个拼图,两者并不是完全的取代关系,而是根据场景差异选择合适的技术,如何协同才是正确认识这两种AI的态度。
2.相关技术

关于生成式AI应用,涉及到的技术涉及到模型,存储,编排等。这里提一下,由于开发者的惯性,会倾向于finetune模型,即通过指令微调(SFT)的方式提升模型性能,但从成本、易用性和可迁移性角度讲,首先应该从prompt learning入手尝试解决问题,进而再考虑finetune。这里也藏着一个商业机会,就是如何利用prompt enginering来重构现有应用。举一个例子,有一个公司做内容标注业务,原来简历标注的工作是雇佣标注员来做,而现在他们利用GPT-4通过prompt 工程,自动做简历内容提取,可想而知,其生产力有了多大的提升。
###PromptExtract entities from the following sentences without changing original words.###Sentence: " and storage components. 5+ years of experience delivering scalable and resilient services at large enterprise scale, including experience in data platforms including large-scale analytics on relational, structured and unstructured data. 3+ years of experience as a SWE/Dev/Technical lead in an agile environment including 1+ years of experience operating in a DevOps model. 2+ years of experience designing secure, scalable and cost-efficient PaaS services onthe Microsoft Azure (or similar) platform. Expert understanding of"DIPLOMA: noneDIPLOMA_MAJOR: noneEXPERIENCE: 3+ years, 5+ years, 5+ years, 5+ years, 3+ years, 1+ years, 2+ yearsSKILLS: designing, delivering scalable and resilient services, data platforms, large-scale analytics on relational, structured and unstructured data, SWE/Dev/Technical, DevOps, designing, PaaS services, Microsoft Azure###Sentence: "8+ years demonstrated experience in designing and developing enterprise-level scale services/solutions. 3+ years of leadership and people management experience. 5+ years of Agile Experience Bachelors degree in Computer Science or Engineering, or a related field, or equivalent alternative education, skills, and/or practical experience Other 5+ years of full-stack software development experience to include C# (or similar) experience with the ability to contribute to technical architecture across web, mobile, middle tier, data pipeline"DIPLOMA: Bachelors\nDIPLOMA_MAJOR: Computer ScienceEXPERIENCE: 8+ years, 3+ years, 5+ years, 5+ years, 5+ years, 3+ yearsSKILLS: designing, developing enterprise-level scale services/solutions, leadership and people management experience, Agile Experience, full-stack software development, C#, designing###Sentence: "5+ years of experience in software development. 3+ years of experience in designing and developing enterprise-level scale services/solutions. 3+ years of experience in leading and managing5+ years of experience in Agile Experience. Bachelors degree in Computer Science or Engineering, or a related field, or equivalent alternative education, skills, and/or practical experience."

涉及到的技术栈可参考右图,更多技术栈信息参看:快讯:红杉近日(6.14)发布LLM应用开发技术栈指引
3.AIGC的特色能力与技术趋势

从能力上看,LLM作为大脑,智能的载体,既有能够替代原有NLP任务的处理方法,更重要的是具备了一定的智能特征,如推理分析。对于大模型开发来讲,chain,agent,muti-agent是智能发展的技术路径,从基于chain流程模板的方式,到利用ReAct范式,结合目标和每次阶段目标的结果,智能规划和执行任务,从而完成最终任务,再到多智能体协作形成能力全面的超级AI,替代人力,这是进化的必然。最近硅谷,关于Agent的开发热度不减,OpenAI联创Andrej Karpathy亲自下场,鼓励大家朝这个方向发展。

4.AIGC产品发展趋势分析



那么,基于这一思路,在智能时代,市场又将如何切入。提出了范式转换型和渐进增强型两个切入方向。


AI作为生产力工具,其核心就是降本增效,用到了核心业务流程中,改变了游戏规则,围绕AI设计核心的产品流程,那就是范式转换,比如AI之于内容分发。不改变产品流程,只是局部的能力增强,那就是渐进增强,比如人脸识别登录。两者各有价值,就像一部电视剧,做主角的机会只有一个,更多人做的只是配角。但所有配角都能用心演好,那么整部剧的质量也不会低到哪去。效率提升也是一样,都期待量变到质变,但在没找到核心的范式转换模式之前,对原有业务模式增强,也是一个不错d的稳妥选择。
4. 一些代表性产品思路

以下,给出一些代表性产品,有造工具的也有用工具的,总之寻找到需求,形成商业闭环,这样的产品和模式就有希望在市场上活下来。
第一种,案例上面提到了,标注网站就是一个使用大模型增强原有业务模式提升标注效率例子。它是一种渐进增强。
第二种,以AIGC技术特点改变旧模式,构建创意->生成->展示的全新内容制造链上的工具。
3.虚拟人,这一领域国内也有小冰之类的产品,之前缺少内容生产,现在有了这一个链条,便能完成产品闭环。
商业模式上有两类,一类闭环做业务,以内容生产,变现为主,比如绘本,视频等,通过海量,低成本的制作成本,依靠长尾流量变现。比如这个小和尚,通过带货获取收益。

一类做付费工具,比如之前介绍过的智能PPT生成工具gamma.app,或是conva,runway.ai,voicemaker这类内容创作工具,通过高品质的产品体验,订阅收费。

5.tob市场的一些可能方向

也可以从两个维度来考虑,从融合增强和业务链路重塑或者创造角度考虑。
6.toB产品方案竞争格局

7.交付层面的技术痛点

上图左侧是原来AI应用的基本技术流程,右侧是一个典型的检索增强的LLM应用流程,可以看到,在产品研发和交付层面,它们本质逻辑并没有改变,因此,其痛点也没有改变。

模型只是其中一环,如何应对多变的需求(需求真不真,聚焦不聚集),有一套标准可复制的方案范式,并且能够在差异化和可复制上找到突破(效率高不高,重复才能摊薄成本),技术迭代日新月异,如何保持持续竞争力,又尽可能降低项目实施门槛,做人层面的scale out,而非scale up。
思考这些达成这些最终的目的是使得商业形成闭环,让飞轮转起来。这对于身处这一行业的公司自身也是一个范式转变的大命题。
阅读至此了,分享、点赞、在看三选一吧?


