11月29日,英伟达在2024财年第三季度售出了大量用于人工智能和高性能计算的H100 GPU,收入达145亿美元。Omdia表示,英伟达售出了近50万块A100和H100 GPU,需求如此之高,以至于基于H100的服务器的交货时间为36至52周。
市场跟踪公司Omdia认为,Meta和微软是Nvidia H100 GPU的大买家,采购了多达150,000个H100 GPU,远多于其他公司。大多数服务器GPU供应给超大规模云服务提供商。Omdia预计,到2023年第四季度,英伟达 H100和A100计算GPU的销量将超过50万台,GPU服务器的交货时间长达52周。
同时,几乎所有大量购买Nvidia H100 GPU的公司也在开发用于AI、HPC和视频工作负载的定制芯片,未来可能转向自己的芯片。展望2027年,服务器市场价值预计将达到1956亿美元,由向具有多种协处理器的特定应用程序定制的服务器的转变推动。例如,亚马逊、谷歌和Meta都推出了专门用于特定任务的服务器。随着构建专用处理器的成本效益的实现,这种对定制、应用程序优化的服务器配置的倾向将成为常态。