摩尔芯闻 > 行业新闻 > 半导体 > 存储器在AI发展中的重要性

存储器在AI发展中的重要性

慧聪电子网 ·2019-03-28 14:24·慧聪电子网
阅读:977

选择存储器并将它们构建到系统中变得更加困难。

边缘计算性能的提升给存储器的设计,类型的选择和配置都带来挑战,这也导致在不同的应用市场中需要进行更复杂的权衡。

芯片架构正在与新市场一起发展,但数据在芯片、设备之间以及系统之间如何移动并不总是很清楚。汽车和 AI 应用的数据正变得越来越多和复杂,但芯片架构在处理时有时不清楚如何优先处理数据。这让芯片设计人员面临抉择,是选择共用内存降低成本,还是增加不同类型内存提高性能和降低功耗。

所有这些都是以安全为前提,并且不同的市场设计的要求也不一样。比如,汽车中的各种类型的图像传感器(如激光雷达和摄像头)的大量数据需要在本地处理。AI芯片则希望性能能够提升100倍。

解决内存问题有一些方法,其中一种是片上存储器,也就是将存储器分散地集成在运算单元旁,最大程度减少数据搬移,这种方法的目标是通过减少负载和存储的数量来突破内存瓶颈,也能降低功耗。

“存算一体(In-memory computing)可能是模拟的、数字的,或两者都有。” Cadence Digital&Signoff Group的高级首席产品经理Dave Pursley说,“虽然在内存中进行计算的想法可能是日益增长的趋势,但在这种计算中实际发生的情况似乎大不相同。”

SRAM和DRAM仍是主流

尽管市场出现了新的变化,但片上SRAM和片外DRAM仍是主流。已经有专家预测DRAM多年后将“死亡”,但它仍然是最经济和可靠的选择。DRAM具有高密度、架构简单、低延迟和高性能的特性,兼具耐用和低功耗的特性。

DRAM密度的增速正在放缓,但HBM2等新架构允许通过堆叠模块的方式而不是使用DIMM来垂直增加密度,这种方法还让DRAM更靠近处理单元。

另外,SRAM价格昂贵且密度有限,但其高速性能多年来已被验证。片上存储器的挑战是采用分布还是共用的方式,在某些情况下,为保证安全性需要增加冗余。

“所有这些要求都会影响存储器的类型和数量的选择,还涉及片上和片外存储器之间的权衡,以及访问每个存储器互连的复杂性。”Arm高级物联网架构师Ryan Lim表示。

低功耗存储器是关键

存储器的一个关键问题是功耗,其中存储器类型和配置等多种因素都会影响功耗。例如,在7nm的存储器中进行数据的存取可能消耗更多功耗,这是因为线路中的RC延迟。当然,这也会产生热量,有可能会破坏输入输出存储器的信号的完整性。

不过,较慢的片外数据使用高带宽内存可以节省功耗,并且可以与高速GDDR6一样快。如何做出这些决定取决有多种因素,包括设备的平均售价和选择的存储器类型。

还有针对手持移动设备的极低功耗的存储器,包括越来越多使用电池的边缘设备。

“这些存储器具有极高的效能,可在一定程度上提升电池供电设备的功耗和数据速率。” Rambus杰出的院士Steven Woo说。“它们也可以在多种模式下工作,当处于待机状态时,可以消耗很少的能量满足手机和平板电脑等产品的需求,并在需要进行处理时快速切换到更高性能/更高功率的模式。 ”

低功耗存储器还支持多种封装方式,允许它们与手机处理器堆叠在一起,满足智能手机的轻薄需求,也能集成在PCB上支持平板电脑和其他消费类设备高容量内存配置的需求。

毫无疑问,开发低功耗存储器是一项挑战。“当设计低功耗存储器时,它们支持的速率范围很广,相对低功耗存储器而言,这些数据速率往往是相当高的。”Woo说。“这通常是由一两个主要应用市场驱动,所以它必须面向一个市场很大的行业,拥有足够大市场的行业才能催生新的存储器。从历史上看,手机市场是成功的例子。如果与不同的手机制造商交谈,他们都希望获得性能和电源效率更高的存储器,因为他们希望能够延长电池寿命。对于其他想要使用低功耗存储器的公司,他们会很庆幸其他人正在帮他们实现。“

通常,这些合格的存储器可能在几种不同的数据速率下运行,但速率很接近。“这些存储器可能有一个是每秒4.2千兆比特的速率,另一个是3.2千兆比特。”他解释道,“这可以让内存制造商在生产所有这些存储器时,进行所谓的分级。当某些部件没有全速运行时会发生这种情况,但制造商依旧会出售这些内存,因为有些客户需要以更便宜的价格购买性能较低的存储器。Binning(数据合并)允许这种情况。这些产品的性能在一定的范围内,都属于合格品。“

分享到:
微信 新浪微博 QQ空间 LinkedIn

上一篇:LED企业鸿利智汇聘任副总裁

下一篇:七彩虹联合Realtek发布粉色固态硬盘

打开摩尔直播,更多新闻内容
半导体大咖直播分享高清观看
立即下载