阿里达摩院成功研发新型架构芯片

12月3日消息，今日，阿里达摩院宣布成功研发新型架构芯片。这是全球首款基于DRAM的3D键合堆叠存算一体芯片。它可突破冯·诺依曼架构的性能瓶颈，满足人工智能等场景对高带宽、高容量内存和极致算力的需求。在特定AI场景中，该芯片性能提升10倍以上，效能比提升高达300倍。

随着人工智能应用场景的爆发，现有的计算机系统架构的短板逐渐显露，例如功耗墙、性能墙、内存墙等问题。存算一体芯片是目前解决以上问题的最佳途径——它类似于人脑，将数据存储单元和计算单元融合为一体，大幅减少数据搬运，从而极大提高计算并行度和能效。

但受限于技术的复杂度、高昂的设计成本以及应用场景的匮乏，过去几十年业界对存算一体芯片的研究进展缓慢。如今，达摩院希望通过自研创新技术解决算力瓶颈这一业界难题。

此外，存算一体芯片在终端、边缘端以及云端都有广阔的应用前景。例如VR/AR、无人驾驶、天文数据计算、遥感影像数据分析等场景中，存算一体芯片都可以发挥高带宽、低功耗的优势。

为了拉近计算资源和存储资源的距离，达摩院计算技术实验室创新性采用混合键合（Hybrid Bonding）的3D堆叠技术进行芯片封装——将计算芯片和存储芯片face-to-face地用特定金属材质和工艺进行互联。

此外，内存单元采用异质集成嵌入式DRAM ，拥有超大内存容量和超大带宽优势。同时在计算芯片方面，达摩院研发设计了流式的定制化加速器架构，对推荐系统进行“端到端”加速，包括匹配、粗排序、神经网络计算、细排序等任务。

这种近存架构有效解决了带宽受限的问题，最终内存、算法以及计算模块的完美融合，大幅提升带宽的同时还实现了超低功耗，展示了近存计算在数据中心场景的潜力。从长远来看，存算一体技术还将成为类脑计算的关键技术。

得益于技术的创新性，该芯片的研究成果已被芯片领域顶级会议ISSCC 2022收录。未来，达摩院希望能进一步攻克存内计算技术，并逐步优化典型应用、生态系统等方面。

值得一提的是，日前，阿里巴巴达摩院深度语言模型体系AliceMind发布中文社区首个表格预训练模型SDCUP，该模型在全球权威表格数据集WikiSQL、SQuALL上取得了业界最优效果，且模型和训练代码均已对外开源。目前，该技术完成了产品化，已通过阿里云智能客服为政务、金融、零售等行业客户提供表格问答和数据库自然交互服务。