十万卡最狠的地方,藏在一次路线豪赌里
看完《破重关》,有个问题一直在脑子里打转:如果回到2020年,大模型也远没有今天这么热,让你提前为五年后的AI时代造一台超级计算机,你会押什么路线?
这正是曙光8000团队当年面对的考题。
2021年底正式立项时,人工智能仍处在“小模型时代”,曙光8000最初按照超级计算机展开研制。随后,深度学习破解蛋白质折叠难题,AI开始改变科学研究的方法。
已经研发两年的系统,路线要不要调整?这一步牵动芯片、架构、网络、软件和制造体系,团队用了至少一年反复沟通,最终推动原生超智融合路线落地。
简单说,这套十万卡系统既能做高精度科学计算,也能支撑大模型训练;既要算得准,也要借助数据更快找到方向。
今天回头看,这条路线似乎顺理成章。放回当时,它考验的是能否在浪潮到来前看见浪潮。
对明天的第二集跃跃欲试了,迫不及待看他们如何突破难关,继续蹲!
