干AI Infra五年了,经手的卡从A100到国产的都摸过,今天说点大实话。 相信大家都遇到过卡买回去跑不起来的问题,要么算子不全,要么性能拉胯,而且有时候调一个算子都要好一阵折腾。今天和朋友聊到了刚上线的TileLang,是海光和中科院计算所一起搞的,简单看了一下,算是解决了之前存在的一些难题。 适配各种核心计算场景,和现有AI编译器生态无缝衔接,最直接的好处就是企业迁移成本可以大大降低,不用推翻重来。官方介绍是主打Python写算子+接近手写汇编的性能,对于搞模型移植是好事。 突然有点感慨,以前国内AI算力市场几乎被英伟达垄断,动辄几十万的芯片,还受出口管制,很多中小企业根本用不起,现在国产AI芯片慢慢崛起,确实让我们看到了国产替代的希望!海光 英伟达
