群发资讯网

加入圈子,立即参与问答、打卡互动!

很多人讨论开源模型时,很容易把“开源”直接等同于“本地化部署”,其实这两个问题完全可以拆开。

企业完全可以在 AWS、Azure、GCP 等云平台上使用开源模型,通过 API 调用,把模型成本优势和云平台的弹性结合起来。

真正决定企业是否自建算力的核心是 TCO 和利用率。GPU、数据中心、运维、电力都要花钱,如果芯片不能长期保持很高的利用率,自建很难比云端划算。FUNDA 的企业调研里甚至给了一个经验值:GPU 如果无法保持 80% 以上时间持续运行,自建 TCO 很难合理化。

所以未来开源模型份额提高,更可能推动“云上的开源模型 + API”增长,而不代表企业重新大量采购本地服务器。

开源解决的是模型选择和价格问题,云解决的是算力利用率、弹性和运维效率问题,这两件事完全可以同时成立。炒家的圈子