【英伟达工程和解决方案副总裁赖俊杰：算力优化进入多卡多机时代，AI Infra 问题正变得越来越重要、越来越复杂。】10 月 29 日下午，在腾讯全球数字生态大会英伟达加速计算专场上，英伟达工程和解决方案副总裁赖俊杰表示，以前讲算力、讲工作，往往都集中在单颗 GPU 性能的优化上，现在不光要考虑单颗 GPU 芯片，还要考虑多卡甚至多机，除了 GPU 还要考虑 CPU 和网络。AI Infra 的问题本身也变得越来越复杂，除了要把一些算子在某颗芯片上做移植加速，还要考虑怎么更聪明地把这些计算分配到合适的机器或卡上，以及模型的量化、数据编码等等。整条 pipeline、整条 workflow 的各个环节，都被抠得越来越细。最近几个月，AI Infra（人工智能基础设施）相关的人才在市场上非常抢手，一些很不错的应届生都能拿到非常高的 offer。“整个 infrastructure 的投入实在太大了。”赖俊杰说，哪怕只有丁点儿的性能提升，乘以整个 AI Infra 的投资，收益都非常可观、非常可计算。