阿里云王超:云计算将成为大模型必选算力底座

刘峰
2023-05-04 15:10

5月4日消息,在第六届数字中国建设峰会“人工智能分论坛”上,阿里云智能计算集群灵骏负责人、资深技术专家王超发表了题为《建设大规模绿色智算,护航人工智能产业可持续发展》的演讲。王超指出,大模型在推理和训练场景都需要大算力,云计算将成为大模型的必选算力底座。

format-jpg

阿里云智能计算集群灵骏负责人、资深技术专家 王超

图源:阿里云官微,下同

王超在演讲中表示,大模型训练通常需要数千张GPU卡,基于TB级别的数据,耗时几个月进行训练,然后其他用户在预训练大模型的基础上再进行强化学习,而这需要数百张GPU卡,耗时一两个月。

但这种现状存在很多问题:一方面,厂商投资数亿元建设的计算集群只用几个月极不经济;另外一方面,购买、规划和组建超大规模的算力集群也要耗时半年到一年的时间。此外,把算力集群的算力提供给全球各地的其他客户使用也有着很大的技术挑战。

format-jpg

王超透露,阿里云正在基于灵骏智算集群和机器学习平台PAI解决这些问题,希望未来帮助大模型厂商只需要花费一天的时间就能在云上建设一个数千张GPU卡规模的训练集群,在完成训练任务后,算力可以快速释放出来供其他客户使用。

王超介绍,目前,阿里云使用多年积累的技术,已经可以在云上打造一个“10万卡”体量的超大规模智算集群,并且解决了关键的网络、数据存储、算力的可观测、可调度和负载平衡等技术问题,构建了一个从集群IaaS到PaaS到MaaS全栈式的服务,方便各行各业的大模型厂商和企业客户使用。

format-jpg

在本次大会上,阿里云还集中展示了在绿色数据中心、双碳解决方案以及少年云助学计划等领域的最新产品和进展。

少年云助学计划2021年10月由阿里巴巴集团发起,目前在20个欠发达区域,让6万多个中小学生用上了自己的专属云电脑,除信息技术外,数学、语文、音乐、美术、劳动、沟通等43门特色课程被搬进了这个信息科技教学空间。

1、该内容为作者独立观点,不代表电商报观点或立场,文章为作者本人上传,版权归原作者所有,未经允许不得转载。
2、电商号平台仅提供信息存储服务,如发现文章、图片等侵权行为,侵权责任由作者本人承担。
3、如对本稿件有异议或投诉,请联系:info@dsb.cn
相关阅读
阿里首创并推动的智能数据湖解决方案因“引领业界技术上创新”入选第六届数字中国建设峰会的“十大硬核科技”,这也是历届峰会中首次有数据湖产品入选。
第六届数字中国建设峰会数字经济分论坛上,阿里智能副总裁霍嘉发表了自己的观点。
第六届数字中国建设峰会“工业互联网产业生态大会”上,阿里智能副总裁、解决方案研发部总经理曾震宇发表演讲。
4月27日消息,在第六届数字中国建设峰会上,阿里巴巴董事会主席兼CEO、阿里智能集团CEO张勇透露:阿里工程师正在实验将千问大模型接入工业机器人,在钉钉对话框输入一句人类语言,即可远程指挥机器人工作。据阿里工程师介绍,大模型在机器人开发和应用阶段均可发挥重要作用。
第六届数字中国建设峰会期间,京东集团与中国电子信息产业集团有限公司签署合作协议。
第六届数字中国建设峰会期间,华为无线网络产品线总裁曹明发表了题为“5G引领产业、5.5G开创未来,构筑数字经济新高度”的主题演讲。
4月28日消息,在第六届数字中国建设峰会期间,京东集团与中国电子信息产业集团有限公司 签署合作协议,双方将充分发挥各自信息技术服务品牌、技术研发、产品和解决方案、产业生态等优势,共建国产化与数字化联合实验室,全面服务政府、央国企、金融行业等合作伙伴的国产化、数智化“两化”转型。
快手联合创始人杨远熙出席第六届数字中国建设峰会,并于分论坛发表主题演讲。
第六届数字中国建设峰会“人工智能”分论坛上,华为昇腾计算业务总裁张迪煊发表了《昇腾AI,构筑绿色智能根基》的主题演讲。
万里汇在第六届数字中国建设峰会上披露,今年一季度万里汇商家销售额整体增长53%。