第207章 AI界的反应 二

  与此同时，圣克拉拉，英伟达总部。

  黄仁勛正穿著他那件標誌性的皮衣，在会议室里来回踱步。

  他的面前，同样摆著那篇论文。

  “你们怎么看？”老黄停下脚步，目光如电，扫视著在座的技术高管。

  “jensen（黄仁勛英文名），这个算法对我们的cuda生態是个挑战。”一位首席架构师面色凝重，“它大量使用了min、max这种非线性算子，而且数据依赖性很强，无法像矩阵乘法那样进行大规模並行流水线优化。在h100上跑这个，sm单元的利用率可能连20%都不到。”

  “也就是说，我们的显卡，在这个算法面前，变成了『废铁』？”老黄的声音很冷。

  “不能说是废铁，但確实……性价比极低。”

  老黄沉默了。

  作为“ai军火商”，他最怕的不是竞爭对手，而是“技术路线的变更”。

  英伟达之所以能躺著赚钱，是因为全世界都在用transformer，都在做矩阵乘法。他只要把矩阵乘法做到极致，就能垄断市场。

  但现在，有人想换个玩法。

  这才是英伟达最担心的事情。

  英伟达的护城河，从来不仅仅是硬体性能，而是cuda生態。数百万开发者习惯了调用cublas、cudnn这些高度优化的库来构建模型。如果一种新算法绕过了这些库，甚至需要全新的硬体支持，那么英伟达的垄断地位就会出现裂痕。

  “amd那边有什么动静？”老黄问道。

  “mi300系列的架构比较灵活，他们在標量计算单元上保留了更多的资源，理论上跑slrm会比我们稍微从容一些。”技术部主管回答，“而且，他们最近在积极接触pytorch团队，试图推动对非矩阵算子的原生支持。”