以下是我們公司/組裡面近期大概的感受&一些實踐結果, 所以也不一定全是對的, 大家可以討論
我直接從終端產品面往前推著來看好了。
組內目前有很多實踐跟真正部署集群上線模型在第三點, 我認為短期DS還是有價值的。
1. LLM generalism 產品化: 直接訓練LLM產品化賣錢, 雖然說有GRPO / 工程化分佈訓練, MoE等等這種方式可以降低訓練成本, 但在競爭越來越激烈的情況, 估計很多情況也是公司內部用而已, 真正B/C端會買單可能之後會剩越來越少家在做吧, 未來估計全球也就那幾家有辦法投資下去做吧
2. 直接call API: 這可能會是大部分中小公司會走的方向, 畢竟只需要full stack就有辦法把整個LLM系統架起來應用上去, 這個方式也就是說未來不會有DS, 算法工程師了
3. 垂直LLM: 我們組內自己有實踐跟真正部署集群上線模型, 效果很好, 不管是文字還是image, 小模型效果都可以超ChatGPT4o, 未來可能往降低訓練成本/ 增加訓練效率/ 縮小模型/ 蒸留技術/ 增加數據質量 等等方向去走, 往這種方向走也更凸顯DS需要更了解業務, 才能針對性解決問題
4. (Optional) Agent, RAG: 這個方向不算LLM, 但就是這邊走的話LLM可能會搭配上以上的1-3點來做應用, 往這種方向走也更凸顯DS/SDE需要更了解業務, 才能針對性解決問題, 但可能會遇到的情況就是generalism不佳的問題, 或者如果搭配第二點 call API 可能成本過高問題
#大模型 #AI人工智能 #科技前沿与未来 #未来科技趋势 #人工智能就业 #云计算发展前景 #算法 #ai #llm #未来工作趋势
我直接從終端產品面往前推著來看好了。
組內目前有很多實踐跟真正部署集群上線模型在第三點, 我認為短期DS還是有價值的。
1. LLM generalism 產品化: 直接訓練LLM產品化賣錢, 雖然說有GRPO / 工程化分佈訓練, MoE等等這種方式可以降低訓練成本, 但在競爭越來越激烈的情況, 估計很多情況也是公司內部用而已, 真正B/C端會買單可能之後會剩越來越少家在做吧, 未來估計全球也就那幾家有辦法投資下去做吧
2. 直接call API: 這可能會是大部分中小公司會走的方向, 畢竟只需要full stack就有辦法把整個LLM系統架起來應用上去, 這個方式也就是說未來不會有DS, 算法工程師了
3. 垂直LLM: 我們組內自己有實踐跟真正部署集群上線模型, 效果很好, 不管是文字還是image, 小模型效果都可以超ChatGPT4o, 未來可能往降低訓練成本/ 增加訓練效率/ 縮小模型/ 蒸留技術/ 增加數據質量 等等方向去走, 往這種方向走也更凸顯DS需要更了解業務, 才能針對性解決問題
4. (Optional) Agent, RAG: 這個方向不算LLM, 但就是這邊走的話LLM可能會搭配上以上的1-3點來做應用, 往這種方向走也更凸顯DS/SDE需要更了解業務, 才能針對性解決問題, 但可能會遇到的情況就是generalism不佳的問題, 或者如果搭配第二點 call API 可能成本過高問題
#大模型 #AI人工智能 #科技前沿与未来 #未来科技趋势 #人工智能就业 #云计算发展前景 #算法 #ai #llm #未来工作趋势
