阿里创新神经网络硬件架构,论文入选国际顶会ISCA 2022

访客1年前AI生活99

6月23日,国际体系结构领域顶会ISCA 2022刚刚落下帷幕,阿里达摩院在图神经网络计算领域的论文被大会收录,文章开创性地提出了一种全新的硬件架构,可大幅提升图神经网络处理效率,降低一半硬件成本。

ISCA、MICRO、HPCA并称为体系结构领域三大顶级会议,ISCA创办于1973年,见证了诸多突破性成果的首次亮相,包括谷歌、英特尔、英伟达等企业在半导体领域的多项技术创新。官方信息显示,ISCA论文录取率常年低于20%。近两年,阿里巴巴已有多个成果在该会议亮相,是ISCA历史上论文入选最多的中国企业。

本次入选的达摩院论文,致力于解决图神经网络硬件的问题。图神经网络是人工智能领域的热门技术之一,可应用于蛋白质结构预测、分子制药、推荐系统、金融风控等领域。大规模图神经网络的处理,对存储规模、通信时延的要求更高,如果仅靠传统硬件处理,效率低下。

阿里创新神经网络硬件架构,论文入选国际顶会ISCA 2022

在该论文中,达摩院提出了一种新的硬件架构,可硬件卸载远端内存访问,提升并行度、减小延时。该架构以玄铁906处理器为控制核心,并辅以本地访存加速器Access Engine(AxE)以及远端访存加速器Memory-Over-Fabric(MoF)。该硬件系统高效地分担了传统CPU的部分任务,大幅减小访存延时,并增加了带宽利用率。

达摩院基于此架构实现了单机四卡FPGA的原型系统,并通过AliGraph软件部署到云端,根据测试,相比购买CPU服务,使用该原型系统的云上FPGA性价比提升约 2倍。

阿里创新神经网络硬件架构,论文入选国际顶会ISCA 2022

达摩院研究人员表示:“大规模图神经网络的应用越来越广阔,但业界主流加速方案多数仍局限于图数据量较小的场景,我们研发的硬件架构可有效解决大规模分布式图神经网络的硬件瓶颈。”

据介绍,2020年,阿里巴巴三篇论文入选ISCA,创造国内企业纪录,相关论文研究包括玄铁910处理器、存算一体芯片以及AI硬件基准测试等。

本站部分文章来自互联网,文章版权归原作者所有。如有疑问请联系QQ:362580117!

相关文章

天猫精灵回应大模型内测:眼镜、APP、AIoT将陆续覆盖可用

天猫精灵回应大模型内测:眼镜、APP、AIoT将陆续覆盖可用

7月5日,天猫精灵启动首个大模型全面驱动的终端操作系统内测。这也是业内首个通过固件升级到应用端的大模型,相关负责人回复记者:技术架构上大模型已...

重庆大学的最新研究成果上了《nature》期刊!该研究结果是材料科学领域的一大重要进展!

重庆大学的最新研究成果上了《nature》期刊!该研究结果是材料科学领域的一大重要进展!

近日,重庆大学的最新研究成果上了《nature》期刊。 2 月 24 日,重庆大学材料学院黄晓旭教授团队与北京高压科学研究中心...

Python使用技巧:一行代码可减少一半的内存占用!

Python使用技巧:一行代码可减少一半的内存占用!

我想与大家分享一些我和我的团队在一个项目中经历的一些问题。在这个项目中,我们必须要存储和处理一个相当大的动态列表。测试人员在测试过程中,抱怨...

由于头条搜索 APP 的诞生,国内既定搜索引擎格局从此多了一个“搅局者”!

由于头条搜索 APP 的诞生,国内既定搜索引擎格局从此多了一个“搅局者”!

头一条就是你想搜的。  2020 年 2 月 28 日,字节跳动旗下“头条搜索” 独立 APP 上线各大安卓应用商城,其 Sl...

OpenAI 最强对话模型 ChatGPT: 用户已破百万,落地将有几何

OpenAI 最强对话模型 ChatGPT: 用户已破百万,落地将有几何

上周三,OpenAI 发布了对话语言模型 ChatGPT,并开放了免费试用。据 OpenAI 的 CEO Sam Altman 称,在短短...

新冠状病毒肺炎疫情之战中的 AI 安防队!

新冠状病毒肺炎疫情之战中的 AI 安防队!

2020年初,世界正经历着众多的不平凡,神州大地,疫情肆虐。在疫情仍在蔓延之时,越来越多的科技企业正从技术层面为抑制疫情贡献属于这个...

发表评论    

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。