阿里、字节、腾讯等企业向英伟达订购50亿美元芯片
8月10日消息,据报道,多名知情人士表示,百度、字节跳动、腾讯和阿里巴巴已下价值10亿美元的订单,将从英伟达约10万颗A800处理器,这些处理器将于今年交付。
两位接近英伟达的人士表示,这些企业还购买了价值40亿美元的GPU处理器,将于2024年交付。据两位接近阿里巴巴的人士透露,阿里云还从英伟达收到了数千颗H800芯片,许多客户已经联系阿里,寻求获得由这些芯片驱动的云服务。
据多名中国科技公司的员工透露,今年早些时候,大众对人工智能的热情高涨之际,大多数互联网巨头的库存芯片都不到几千个,这些芯片可用于训练大型语言模型。从那时起,这些芯片的价格开始飙升。一位英伟达经销商表示:“经销商手中的A800价格上涨了50%以上。”
截自钛媒体
6月就有报道称,今年春节后,拥有云计算业务的中国各互联网大公司都向英伟达下了大单。其中,字节今年向英伟达订购了超过10亿美元的GPU,另一家大公司的订单也至少超过10亿元人民币。
一名云厂商人士称,字节、阿里等大公司主要是和英伟达原厂直接谈采购,代理商和二手市场难以满足他们的庞大需求。英伟达会按目录价,根据采购规模谈一个折扣。据英伟达官网,A100售价为1万美元/枚,H100售价为3.6万美元/枚;据了解,A800和H800售价略低于原版。
截自微博
据一名字节人士透露,2020年6月OpenAI发布GPT-3后,字节就曾训练了一个数十亿参数的生成式语言大模型,当时主要使用的GPU是A100前代产品V100。由于参数规模有限,这个模型生成能力一般,字节当时看不到它的商业化可能性,“ROI(投资回报率) 算不过来”,这次尝试不了了之。
阿里也曾在2018-2019年积极采购GPU。一位阿里云人士称,当时阿里的采购量至少达到上万块规模,购买的型号主要是V100和英伟达更早前发布的T4。不过这批GPU中只有约十分之一给到了达摩院用作AI技术研发。2021年发布万亿参数大模型M6后,达摩院曾披露训练M6使用了480块V100。
阿里当时购买的GPU,更多给到了阿里云用于对外租赁。但包括阿里云在内,一批中国云计算公司都高估了中国市场的AI需求。一位科技投资人称,大模型热潮之前,国内主要云厂商上的GPU算力不是紧缺,而是愁卖,云厂商甚至得降价卖资源。去年阿里云先后降价6次,GPU租用价下降超两成。
截自晚点LatePost公众号
2、电商号平台仅提供信息存储服务,如发现文章、图片等侵权行为,侵权责任由作者本人承担。
3、如对本稿件有异议或投诉,请联系:info@dsb.cn