个人看法,现在这个阶段,还想像之前coding领域一样爆出来一个超级看多的叙事,很难了。
最重要的是企业AI渗透率要提速,但是问题就是推理token还是太贵了(Andy Jassy原话),企业账算不过来,上了AI都是cost,ROI算不清,你怎么上呢?
那么问题来了,为什么推理token降价还是这么慢呢?
因为美国人太傻逼了,浪费资源习惯了,问就是要更多的卡,你让他们去深度优化infra,多挤一点性能,榨干卡,那是不可能的。这种活儿,有什么意思?engineer的活,low啊,不干
个人看法,现在这个阶段,还想像之前coding领域一样爆出来一个超级看多的叙事,很难了。
最重要的是企业AI渗透率要提速,但是问题就是推理token还是太贵了(Andy Jassy原话),企业账算不过来,上了AI都是cost,ROI算不清,你怎么上呢?
那么问题来了,为什么推理token降价还是这么慢呢?
因为美国人太傻逼了,浪费资源习惯了,问就是要更多的卡,你让他们去深度优化infra,多挤一点性能,榨干卡,那是不可能的。这种活儿,有什么意思?engineer的活,low啊,不干