NVIDIA H200与AMD MI300X:前者高利润率是否合理?

2024-09-03 00:52

本文主要是介绍NVIDIA H200与AMD MI300X:前者高利润率是否合理?,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

近年来,人工智能芯片巨头NVIDIA与AMD的竞争愈发激烈。尽管NVIDIA在AI计算解决方案市场占据主导地位,但在2023年末,AMD推出号称全球最快的AI芯片Instinct MI300X后,开始对NVIDIA构成了挑战。然而,经过一段时间的市场检验,Richard's Research Blog的一项分析表明,虽然AMD的MI300X成本显著高于NVIDIA的H200,但在推理生产应用方面,H200的性能却超过了MI300X超过40%,这使得NVIDIA较高的利润率显得合理。

AMD MI300X:更多晶体管、更大内存容量、更先进的封装……以及更高的成本

分析进一步比较了这两款最畅销产品的芯片规格,并探讨了它们的成本效益。NVIDIA的H200采用的是台积电的N4工艺节点,拥有800亿个晶体管;而AMD的MI300X则使用了1530亿个晶体管,并采用了台积电的5纳米工艺制造。在内存配置上,NVIDIA的H200拥有141GB的HBM3e内存,而AMD的MI300X则配备了192GB的HBM3内存。至于封装技术,NVIDIA的H200使用的是台积电的CoWoS 2.5D技术,而AMD的MI300X则升级到了CoWoS/SoIC 3D技术,总共包含20颗芯片/堆栈,这大大增加了复杂性。

根据分析,在相同的工艺下,逻辑计算芯片中的晶体管数量与总芯片尺寸/总成本大致成比例。因此,配备几乎两倍晶体管数量的AMD MI300X,成本估计是NVIDIA H200的两倍左右。同时,考虑到MI300X比H200多出36%的内存容量以及更高的封装复杂度,其制造成本显然要高出许多。另外,由于NVIDIA目前在市场上是主要的HBM用户,所以可能享受较低的采购成本优势。

NVIDIA 80%的利润率:乍一看很高,但实际上有道理

另一方面,根据MLPerf测试的结果,在实际部署用于推理生产的应用中,H200的表现优于MI300X超过40%。这意味着如果AMD希望保持类似的性价比(这也是云服务商客户所要求的),那么MI300X的价格必须比H200低大约30%。此情景并未考虑其他因素,例如NVIDIA与二级供应商的熟悉程度、CUDA架构及相关软件等。

因此,分析进一步指出,尽管NVIDIA高达80%的毛利率乍一看很高,但实际上这为竞争对手留下了生存空间。如果NVIDIA将其产品定价在70%的毛利率以下,则竞争对手可能会面临负运营利润的困境。

除了通过先进的硬件和软件技术实现更好的产品性能和更低的成本外,NVIDIA还在诸如研发和昂贵光罩规模化的非技术经济因素上表现出色,这些都会影响到运营支出(OPEX)和成本分配。同时,NVIDIA对其客户的长期承诺、信心及上市时间也起到了关键作用。

从最新的财报来看,NVIDIA表示Hopper系列的需求依然强劲,而Blackwell芯片有望在第四季度带来数十亿美元的收入。相比之下,AMD的Instinct MI300系列成为了主要的增长动力,预计今年将带来超过45亿美元的销售额。

这篇关于NVIDIA H200与AMD MI300X:前者高利润率是否合理?的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1131563

相关文章

python判断文件是否存在常用的几种方式

《python判断文件是否存在常用的几种方式》在Python中我们在读写文件之前,首先要做的事情就是判断文件是否存在,否则很容易发生错误的情况,:本文主要介绍python判断文件是否存在常用的几种... 目录1. 使用 os.path.exists()2. 使用 os.path.isfile()3. 使用

Python如何判断字符串中是否包含特殊字符并替换

《Python如何判断字符串中是否包含特殊字符并替换》这篇文章主要为大家详细介绍了如何使用Python实现判断字符串中是否包含特殊字符并使用空字符串替换掉,文中的示例代码讲解详细,感兴趣的小伙伴可以了... 目录python判断字符串中是否包含特殊字符方法一:使用正则表达式方法二:手动检查特定字符Pytho

如何合理使用Spring的事务方式

《如何合理使用Spring的事务方式》:本文主要介绍如何合理使用Spring的事务方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录1、介绍1.1、底层构造1.1.事务管理器1.2.事务定义信息1.3.事务状态1.4.联系1.2、特点1.3、原理2. Sprin

如何合理管控Java语言的异常

《如何合理管控Java语言的异常》:本文主要介绍如何合理管控Java语言的异常问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录1、介绍2、Thorwable类3、Error4、Exception类4.1、检查异常4.2、运行时异常5、处理方式5.1. 捕获异常

如何在Ubuntu上安装NVIDIA显卡驱动? Ubuntu安装英伟达显卡驱动教程

《如何在Ubuntu上安装NVIDIA显卡驱动?Ubuntu安装英伟达显卡驱动教程》Windows系统不同,Linux系统通常不会自动安装专有显卡驱动,今天我们就来看看Ubuntu系统安装英伟达显卡... 对于使用NVIDIA显卡的Ubuntu用户来说,正确安装显卡驱动是获得最佳图形性能的关键。与Windo

Python如何精准判断某个进程是否在运行

《Python如何精准判断某个进程是否在运行》这篇文章主要为大家详细介绍了Python如何精准判断某个进程是否在运行,本文为大家整理了3种方法并进行了对比,有需要的小伙伴可以跟随小编一起学习一下... 目录一、为什么需要判断进程是否存在二、方法1:用psutil库(推荐)三、方法2:用os.system调用

Python中判断对象是否为空的方法

《Python中判断对象是否为空的方法》在Python开发中,判断对象是否为“空”是高频操作,但看似简单的需求却暗藏玄机,从None到空容器,从零值到自定义对象的“假值”状态,不同场景下的“空”需要精... 目录一、python中的“空”值体系二、精准判定方法对比三、常见误区解析四、进阶处理技巧五、性能优化

Java实现检查多个时间段是否有重合

《Java实现检查多个时间段是否有重合》这篇文章主要为大家详细介绍了如何使用Java实现检查多个时间段是否有重合,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 目录流程概述步骤详解China编程步骤1:定义时间段类步骤2:添加时间段步骤3:检查时间段是否有重合步骤4:输出结果示例代码结语作

Java判断多个时间段是否重合的方法小结

《Java判断多个时间段是否重合的方法小结》这篇文章主要为大家详细介绍了Java中判断多个时间段是否重合的方法,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 目录判断多个时间段是否有间隔判断时间段集合是否与某时间段重合判断多个时间段是否有间隔实体类内容public class D

C#比较两个List集合内容是否相同的几种方法

《C#比较两个List集合内容是否相同的几种方法》本文详细介绍了在C#中比较两个List集合内容是否相同的方法,包括非自定义类和自定义类的元素比较,对于非自定义类,可以使用SequenceEqual、... 目录 一、非自定义类的元素比较1. 使用 SequenceEqual 方法(顺序和内容都相等)2.