字节今年向英伟达订购超10亿美元GPU

6月14日消息，据报道，今年春节后，拥有云计算业务的中国各互联网大公司都向英伟达下了大单。字节今年向英伟达订购了超过10亿美元的GPU，另一家大公司的订单也至少超过10亿元人民币。

一名云厂商人士称，字节、阿里等大公司主要是和英伟达原厂直接谈采购，代理商和二手市场难以满足他们的庞大需求。英伟达会按目录价，根据采购规模谈一个折扣。据英伟达官网，A100售价为1万美元/枚，H100售价为3.6万美元/枚；据了解，A800和H800售价略低于原版。

中国公司能否抢到卡，更多是看商业关系，比如以往是不是英伟达的大客户。“你是和中国英伟达谈，还是去美国找老黄（黄仁勋）直接谈，都有差别。” 一位云厂商人士说。

部分公司也会和英伟达进行 “业务合作”，在购买抢手的数据中心GPU时，也购买其它产品，以争取优先供应。这就像爱马仕的配货，如果你想买到热门的包，往往也得搭配几万元的衣服、鞋履。

综合行业信息，字节今年的新下单动作相对激进，超过10亿美元级别。一位接近英伟达的人士称，字节到货和没到货的A100与H800总计有10万块。其中H800今年3月才开始投产，这部分芯片应来自今年的加购。据了解，以现在的排产进度，部分H800要到今年底才能交货。

据了解，仅字节一家公司今年的订单可能已接近英伟达去年在中国销售的商用GPU总和。

GPU在中国大型互联网科技公司中主要有两个用途：一是对内支持业务和做一些前沿AI研究，二是把GPU放到云计算平台上对外售卖。

一名字节人士透露，2020年6月OpenAI发布GPT-3后，字节就曾训练了一个数十亿参数的生成式语言大模型，当时主要使用的GPU是A100前代产品V100。由于参数规模有限，这个模型生成能力一般，字节当时看不到它的商业化可能性，“ROI（投资回报率） 算不过来”，这次尝试不了了之。

阿里也曾在2018-2019年积极采购GPU。一位阿里云人士称，当时阿里的采购量至少达到上万块规模，购买的型号主要是V100和英伟达更早前发布的T4。不过这批GPU中只有约十分之一给到了达摩院用作AI技术研发。2021年发布万亿参数大模型M6后，达摩院曾披露训练M6使用了480块V100。

阿里当时购买的GPU，更多给到了阿里云用于对外租赁。但包括阿里云在内，一批中国云计算公司都高估了中国市场的AI需求。一位科技投资人称，大模型热潮之前，国内主要云厂商上的GPU算力不是紧缺，而是愁卖，云厂商甚至得降价卖资源。去年阿里云先后降价6次，GPU租用价下降超两成。