端侧AI时代,存算一体化渐成"标配",倒逼存储"芯"革命
作者:李宁远物联网智库 原创
目前AI技术正与终端产品快速融合,推动了以消费电子代表的诸多终端硬件产品的创新。2024年极具代表性的AI Phone、AI PC等创新端侧AI产品也的确激发了新的市场,以更智能的功能刺激了消费需求,给我们日常生活带来智能化改变的同时,也带动了上下游产业链加速创新。
苹果在2024年将Apple Intelligence引入iPhone ,虽然近期交易平台SellCell的一份报告显示绝大多数用户认为Apple Intelligence功能目前并未带来明显的价值提升,但这并不影响智能设备的未来方向——减少云端依赖,重点发展端侧AI。
为了提升端侧AI竞争力,强大的硬件性能支持是前提,对于芯片侧的要求会聚焦在算力、内存、功耗、工艺、面积、散热等方面,其中存储芯片是极为关键的一环。
为了进一步提高iPhone的端侧AI性能,根据韩媒报道,三星应苹果公司的要求,开始研究新的低功耗双倍数据速率LPDDR DRAM封装方式。
此前苹果的LPDDR DRAM堆叠在整个SoC上,体积紧凑,便于降低功耗与延迟,是板上空间受限的消费电子设备常用的封装方式。苹果希望通过分开封装DRAM和SoC,增加I/O引脚数量提高数据传输速率和并行数据通道,提高内存带宽以增强 iPhone的端侧AI能力。
此前亦有报道称三星还可能尝试为iPhone DRAM 应用专为设备端AI设计的LPDDR6-PIM(内存内置处理器)技术。
AI技术应用场景从云端扩展到端侧设备,给存储市场带来了新市场需求,同时也推动了存储芯片在端侧的持续创新。
从云到端,AI催生存储“芯”需求
在云端,AI依赖于大规模的数据中心和高效庞大的存储系统来存储、传输并处理数据。数据中心有着大规模集群式的存储硬件来应对海量数据,而在端侧,AI需要在计算资源、存储资源受限的设备上实现实时、低功耗的数据处理,这对存储芯片的容量、速度和能效提出了全新的要求,也推动了存储技术革新。
根据国际知名调研机构TechInsights发布的《2025存储器市场展望》,存储器市场包括DRAM和NAND,预计在2025年将实现显著增长,这主要得益于人工智能(AI)及相关技术的加速采用。报告中同样表示随着边缘AI变得更加普及,将推动对适合这些新功能的内存解决方案的需求。
来源:TechInsights
从今年的几个市场来看,CFM闪存市场数据,2024年手机存储需求同比去年增长4%,PC市场存储需求同比增长8%,而且端侧AI已经开始推动这些领域的终端设备内存储芯片的更新换代。
AI手机领域,16G的DRAM可以说已经是AI手机最低的基本配置,AI PC领域同样,更快的数据传输速度、更大的存储容量和带宽需求也带动了主流LPDDR5x和LPDDR5T产品的需求。如微软发布的AI PC求内存容量最低为16GB,搭载新处理器的AI PC已普遍将内存提升至了32GB,为AI模型的部署升级留下充足空间。
AI智能眼镜、AI TWS耳机今年也是纷纷上新,AI TWS耳机中功能更多,为了存储更多固件和代码程序,就需要外扩串行NOR Flash。当前几款已发布的AI耳机中NOR Flash容量较之普通TWS耳机也有了比较大的提升,基本上实现了翻倍来支持内置的AI新功能。
对端侧AI设备来说,算力和数据的加持实现了各种智能功能,而这些数据存放在哪里,如何高效读写这些数据,需要更强大的存储芯片为其提供助力。
科技产品的创新往往是牵一发而动全身,为实现某一功能,需要整个终端配置协同更新。最终体现在消费者面前的可能仅仅是某一个具体的简单好用的功能点,而在其背后是软硬件先进技术数年不断迭代。端侧AI设备功能实现背后存储器技术革新是贴切的写照,存储器更大容量更高读写速度更低功耗背后亦是整个半导体产业链制程技术迭代的体现。
存储芯片与端侧AI设备协同演变
存储产品在我们日常生活中随处可见,其主要功能包括数据的存储、读取、写入和擦除,而其分类则根据存储介质的不同,又有随机存取存储器(RAM)、只读存储器(ROM)、闪存(Flash Memory)等多种类型。目前各类智能终端中应用的存储芯片主要有如下几种。
DRAM
动态随机存取存储器,是最常见的系统内存类型,用于存储临时数据和正在处理的数据,是最大规模的单品市场。在AI智能手机、AI PC等智能终端中,DRAM用于提供快速的数据访问和处理能力,前文已提到AI终端已经开始换上更大容量更高读写速度的DRAM,随着AI应用的发展,对高性能DRAM的需求仍在不断增长。
NAND Flash
NAND Flash闪存是一种非易失性存储器,用于长期数据存储。在智能终端如AI手机、AI PC、AI Pad中,NAND Flash用作内部存储,存储操作系统、应用程序和用户数据。未来端侧设备操作系统肯定会搭载大模型以及其他AI应用程序,端侧设备会需要更高的NAND Flash容量用于长期存储。
NOR Flash
NOR Flash也是一种非易失性存储器,常用于存储启动代码和固件。它在需要快速启动和执行的设备中尤为重要,上文提到的AI TWS耳机就是典型的应用。市场上各类AI硬件对NOR Flash容量需求增加已经是确定性的趋势,尤其是中大容量NOR Flash。
UFS
高性能的通用闪存存储方案,在高端移动设备中应用。UFS4.0版本,其最高读取速度已经达到了4200MB/s,写入速度也能达到2800MB/s。端侧AI性能的发挥离不开高效的数据流转,UFS 4.0存储技术正好能够为之提供支持。随着端侧AI软件层面的持续优化以及UFS 技术向更多端侧设备普及,端侧AI设备将拥有更强大的学习能力和更快的响应速度。引用铠侠对UFS前景描述的原话,“现代手机正进入一个由端侧AI(On-Device AI)与先进存储技术协同发展的新时代”。
LPDDR
一种低功耗版本的DRAM,即低功耗双倍数据速率,是为移动设备设计以减少能耗的方案。LPDDR5和LPDDR5x提供了更高的数据传输速率和更低的功耗,LPDDR6也敲定在即,将全面适配AI计算需求,用更高频率更高带宽支持端侧AI设备。
HBM
HBM的火热程度想必都有所耳闻,它本质上是一种高性能的3D堆叠DRAM,拥有极高的带宽和存储密度,适用于需要处理大量数据的AI和高性能计算应用,主要用于服务器和数据中心等高性能计算领域。
为什么在端侧设备存储中仍旧将其列了出来呢?因为端侧设备开始搭载HBM已经在内存大厂的推进日程中。此前就有报道SK海力士正在将HBM导入汽车领域,在移动端侧设备领域,三星与海力士同样在做端侧HBM产品研发,初步估计2026年能实现商业化。
大大小小各类存储芯片在端侧AI设备纷纷落地的推动下,迎来了新的市场需求,同时也在不断升级以适配端侧AI设备对存储的新要求。目前看来存储产品在端侧AI设备的协同演进上主要在这几方面做了提升。
数据处理速度与内存带宽
端侧AI应用对即时数据处理和快速响应的需求是明确的,这依赖于存储芯片有着极高的数据读写速度,这样才能体验端侧AI实时的特点。同样,随着端侧大模型引入,对内存带宽的需求也随之增长,要求存储芯片能够在短时间内完成大量数据的读写操作,并支持高并发的数据访问请求,解决内存墙问题实现在受限的资源下释放端侧大模型性能。还需要通过优化存储结构和算法,提高存储空间的利用率和数据的读写效率。
能效管理与小型化
在端侧AI与存储芯片的协同优化中,能效管理与芯片小型化是匹配端侧智能设备高效运行的关键。端侧AI设备存储目标是以最高效的方式将AI模型从存储加载到内存中。为此,需要在不增加功耗的前提下,获得尽可能高的吞吐量。如何降低功耗、节省空间是每家原厂都在琢磨的。如美光科技针对AI PC开发的LPDDR5X与传统SODIMM产品相比就将功耗降低了58%,空间节省了64%。
落地端侧,存储探索更多可能
端侧AI设备的快速发展,倒逼了存储芯片整体性能的革新,新型存储技术也在新趋势下加速发展。
如MRAM磁阻随机存取存储器,它是一种基于隧穿磁阻效应的存储器,具有读写次数无限、写入速度快、功耗低特点,兼具非易失性和高速读写的特性,非常契合需要快速响应和持久保存数据的端侧本地存储。
MRAM与逻辑芯片集成度高的特点也能在设备小型化上提供助力,在端侧设备深入应用的未来,MRAM有望能匹配传统存储器的应用需求,与其他存储器结合,为端侧AI设备存储上性能、容量和成本的平衡。
另一个随着AI应用普及开始被重视的方向,则是存算一体化,根据不同侧重还能细分到近存计算、存内处理和存内计算。对数据处理速度和存储效率的要求不断提高,传统与计算分离的存储解决方案日后或许承载不了端侧AI对实时性和能效的需求。
在内存内核中集成NPU等AI引擎来处理一些计算、处理功能,避免了传统架构中数据在存储器和处理器之间频繁传输所产生的延迟,可以实现更快的数据访问速度和更低的能耗,这对于需要本地实时响应的端侧应用场景尤为重要。对算力、功耗和实时性有较高要求的众多移动端侧AI设备,如AI手机、AI PC、AI可穿戴设备、AI智能家居日后都可能选择该技术路线。
写在最后
端侧AI给存储芯片市场带来了新的发展机遇和挑战,端侧AI功能不断扩展和深化,对存储的性能和功耗要求将越来越高,整个产业链上下游全力推进技术革新保持竞争力;另一方面,随着新型存储技术的不断涌现以及端侧AI设备存储芯片需求打开,市场竞争将更加激烈,这对于国内存储芯片厂商也是一个崛起机会。
回到文章开头的故事,虽然目前端侧AI设备还并没有做到真正的智能,但有一句话是这样说的,“人们总是高估短期,而低估长期科技能力”,未来具有真正意义上设备端AI功能的产品功能会让人意想不到。而随着端侧AI设备功能的不断成熟和应用场景的拓展,存储芯片将迎来新的前景和机遇。
原文标题 : 端侧AI时代,存算一体化渐成"标配",倒逼存储"芯"革命
最新活动更多
-
1月8日火热报名中>> Allegro助力汽车电气化和底盘解决方案优化在线研讨会
-
即日-1.16立即报名>>> 【在线会议】ImSym 开启全流程成像仿真时代
-
即日-1.24立即参与>>> 【限时免费】安森美:Treo 平台带来出色的精密模拟
-
2月28日火热报名中>> 【免费试用】东集技术年终福利——免费试用活动
-
4日10日立即报名>> OFweek 2025(第十四届)中国机器人产业大会
-
7.30-8.1火热报名中>> 全数会2025(第六届)机器人及智能工厂展
推荐专题
-
10 一颗光谱芯片的AI辉光
发表评论
请输入评论内容...
请输入评论/评论长度6~500个字
暂无评论
暂无评论