群发资讯网

退隐多年的盛大联合创始人陈大年,把新项目押在“模型不必上云”上。9月4日报道显示

退隐多年的盛大联合创始人陈大年,把新项目押在“模型不必上云”上。9月4日报道显示,其创办的StartLux发布27B参数预览模型,目标是在消费级PC本地运行。
27B并不算迷你,但如果通过量化、内存调度和软硬件协同压进个人电脑,意义很直接:企业资料、代码和个人文件可以留在设备内,断网也能使用,长期高频调用还可能比云端按量付费更可控。
本地模型的短板同样清楚。它受限于内存、功耗和散热,升级速度也不如云端。更现实的产品形态可能不是“本地取代云”,而是敏感数据在本地处理,复杂推理由云端补位。未来用户比较AI电脑,除了处理器和显卡,还会关心模型能否装得下、跑得快、升级是否方便。