美国宣布从4.14号开始,H20 芯片和AMD MI308 芯片如果要出口到我国,必须取得许可证,作为资深英伟达产品关注者,这个消息背后有几个信息值得分享。
1:连 MI308 芯片也禁止出售,说明美国破罐子破摔,反正我没听说国内有购买这款芯片的。
2:H100、H800管制后,这次终于轮到了 H20,据说国内很多科技大公司之前购买了大量 H100,目前在 viperatech 上,一个 H100 价格是3万美元,H20 则没有报价,据说大概在 1.2万至1.5万美元之间。
3:对于英伟达来说,H20 有 55亿美元的库存,本来带来的收入能达到 120 亿美元,毛利率接近60%。
4:H20 的芯片性能如何呢?可以和H100 比较。
综合比较,美国估计是以 TPP 指标来评估芯片等级,下图的 1979 和 296 是 Tensor core 核心指标,不过前者是 FP16,后者是 FP8,所以我认为比较维度不太对。
最后我去 viperatech 上专门找了两个芯片的指标,下图是 H20:
下图是 H100:
关键指标:
• INT8/FP8 Tensor Core 不及 H100 的1/10,现在大部分模型都支持 FP8 的极致推理了
• H20 的内存容量和带宽比 H100 高,这对大模型推理至关重要
不过对于我们这样的普通人来说,无法知晓英伟达出售的 H20 到底是什么规格,据说显存可能更高,所以这款芯片可能更适合模型推理,而对于国内的服务商来说,推理比训练的需求更迫切!