Top
首页 > 正文

登上达摩院2023十大科技趋势榜的【存算一体】究竟是什么?

发布时间:2023-01-13 09:19        来源:赛迪网        作者:hyan

1月11日,阿里达摩院发布了2023十大科技趋势,包括:多模态预训练大模型、Chiplet模块化设计封装、存算一体、云原生安全、软硬融合云计算体系架构、端网融合的可预期网络、双引擎智能决策、计算光学成像、大规模城市数字孪生以及生成式AI。

《达摩院2023十大科技趋势报告》认为,资本和产业双轮驱动,存算一体芯片将在垂直细分领域迎来规模化商用。

报告指出,存算一体旨在计算单元与存储单元融合,在实现数据存储的同时直接进行计算,以消除数据搬移带来的开销,极大提升运算效率,实现计算存储的高效节能。存算一体非常符合高访存、高并行的人工智能场景计算需求。在产业和资本的驱动下,基于SRAM,DRAM,Flash存储介质的产品进入验证期,将优先在低功耗、小算力的端侧如智能家居、可穿戴设备、泛机器人、智能安防等计算场景落地。未来,随着存算一体在面向云端推理的大算力场景落地,可能将带来计算架构的一场革命性变化,推动传统的以计算为中心的架构转变为以数据为中心的架构,并对云计算、人工智能、物联网等产业产生重大影响。

存算一体是一种计算架构

在传统的冯·诺依曼架构中,处理与存储单元是分离的。由于存算分离,AI计算的数据搬运量非常大,会导致功耗大大增加,也就是存储墙。

此外,不管是传输还是计算工艺本身的限制,能效比已经接近极限。无论是20W, 75W, 150W的模组还是PCIe板卡,目前能支持的最高算力已经达到了天花板。以75W为例,不管是7nm工艺或将来会有的更高工艺,150TOPS到200TOPS已经基本封顶,这是存储墙带来的能耗墙导致的。

存储墙还导致了另一个问题——编译墙(生态墙),也可以说是可编程性。由于存算分离,数据搬运容易发生拥塞,尤其是在动态环境下,对数据进行调度和管理其实非常复杂,所以编译器无法在静态可预测的情况下对算子、函数、程序或者网络做整体的优化,只能手动、一个个或者一层层对程序进行优化,包括层与层之间的适配等,耗费了大量时间。

随着人工智能相关的高度数据中心化应用迎来爆发性增长,由传统的冯·诺依曼架构带来的这“三堵墙”弊端愈发凸显。这就要求人们寻找非冯·诺依曼的计算方法,于是就提出了存算一体架构。

华夏芯(北京)通用处理器技术有限公司董事长李科奕表示:“存算一体一直是高能效计算的重要技术之一。近年来,万物互联和人工智能的发展加速了存算一体的技术产品化进程,产业界对于存算一体最终的产品形态也在持续探索。未来存内计算产品将以单芯片和 Chiplet 两种形式共存。应用场景的多样性也将从物联网边缘端设备向大算力通用计算领域不断拓展,有望成为 AI 时代主流的计算架构。

基于不同存储介质的存算一体芯片可实现不同大小的算力

根据存储器介质的不同,目前存算一体芯片的主流研发集中在传统易失性存储器,如SRAM, DRAM, 以及新型非易失性存储器,如RRAM(ReRAM), PCM, MRAM与闪存等。应用于存算一体,对于不同应用场景,Flash, SRAM和以ReRAM为代表的新型存储介质各有特长。

Flash是最早被采用的介质,国外的Mythic,国内的知存科技等企业最早将Flash用于存算一体。该技术和工艺等各方面最成熟,比较适合中小算力存算一体设计。但相比其它介质,性能有数量级的差距,而且工艺上难以突破40nm,用于大算力芯片会面临许多挑战。

SRAM的性能优异,而且容易实现DIY自主设计,常被学者采用,企业则有国内的苹芯科技。但SRAM密度较低、功耗较高,特别是工程实现难,尤其可靠性存在挑战,较适合中小算力存算一体芯片设计,所以苹芯科技最初也是从端侧开始布局存算一体市场。

ReRAM新型存储介质在密度、性能、功耗和工程实现等方面,综合来说比较平衡,没有短板,比较适合大、中、小各类存算一体芯片,尤其是大算力芯片。国内的亿铸科技就专注于研发基于ReRAM的全数字化存算一体AI大算力芯片。放眼全球,这种结合与尝试都是非常新的,但其选择不无道理。

相比MRAM和PCRAM等其它新型存储介质,ReRAM在密度和可靠性等方面更有优势。比如密度高到一定程度之后,MRAM和PCRAM都会存在相邻单元被“磁”或“热”干扰的微缩性天花板问题。ReRAM不存在这类问题,可以完全兼容先进CMOS工艺。

目前看来, ReRAM已经做好了准备。英飞凌和台积电正将ReRAM 引入英飞凌的下一代 AURIX ™微控制器; 2021年也被称为“ReRAM技术元年”;在2021年台积电的年报中,以ReRAM为代表的新型存储介质市场份额在持续提升。

更重要的是,AI市场的驱动会直接带来ReRAM在存算一体这一方向的爆发。技术的发展是由应用驱动的,应用促进了市场的发展,市场的发展又会反哺底层的foundry不断提升相应的工艺制程。在存算一体这个赛道上,随着人工智能市场规模不断扩大,属于ReRAM的市场爆发很快就会到来。

专题访谈

合作站点
stat