
飞象原创(魏德龄/文)随着内存的价格上涨,以及预测显示此轮上涨至2027年底可能都不会有好转,从而引发了很多消费者在当下时间点进行消费电子产品选购时的内存焦虑。
无论是手机或电脑,此前内存的预设配置基本处在了一个相对稳定的状态,但与内存价格上涨的原因相同,人工智能需求的产生,拉动了端侧AI在运算时同样需要更多内存进行保障,更大的内存就意味着能够运行更大参数量的模型,从而拥有了更聪明的端侧AI表现。
而在如今内存可能比CPU都贵的市场行情下,更大内存的开销又是一个可观的数字。但如果客观分析来看,围绕内存的过渡焦虑大可不必,一方面端侧模型的能力正在增长,另一方面,过大的内存在综合成本考量上,也并不合理。
稳定在12-16GB的手机
如果观察AI浪潮之下智能手机的RAM变化,其实快速飞涨的仅有以往RAM调度策略十分优秀的苹果iOS阵营,Android阵营早在多年前便已经进入了旗舰机型标配12-16GB的状态,原因在于需要应对权限相对复杂的软件生态。
而iOS阵营在近年来端侧AI的功能压力下,才开始了快速提升机身RAM的步伐,受Apple Intelligence对本地大模型算力的需求驱动,自2024年开始,苹果开始在iPhone 16系列中标配8GB RAM,2025年将iPhone 17 Pro系列的RAM提升至12GB。iPad自去年下半年开始逐步提升12GB RAM。显然,苹果认为12GB将能够更好胜任当前端侧AI的需求。
早在2025年3月,高通技术公司高级副总裁马德嘉曾在采访中表示,“我认为随着模型规模不断地下降,日后10亿―20亿参数规模的模型将会占用更少的运行内存,更好地适配8-12GB内存设置的终端。”同时,现在旗舰智能手机运行内存配置一般在12GB或以上,已经足够支持很多模型的高效运行。
以4月刚刚发布的Gemma 4系列模型为例,E2B与E4B作为专为移动端和物联网设备设计的模型,在很多用户实际测试,可以流畅地在拥有12GB内存的智能手机上运行。甚至在笔记本设备上也能带来不错的本地AI能力。
笔记本PC的甜蜜点:35B
在不久前一场英特尔智能体PC的发布会上,又出现了一个端侧模型的甜蜜点答案。“我们目前认为在端侧运行模型的最优解是35B上下,再往上成本过高,往下则能力受限,35B是一个甜蜜点。”英特尔中国区技术部总经理高宇表示。
与这一参数量模型相对应的是目前高端笔记本产品的主流内存容量32GB,或是增加开销不用过多的64GB。
同时,业界也正在提供一系列内存优化方案,例如英特尔平台的统一内存架构以及灵活可调显存技术,最高可以把92%以上内存分配给显存,以一个32G的系统为例,可以分配27G左右的显存,全量载入35B的模型,实现128K以上的上下文窗口。
另外,针对16GB或12GB内存的用户,除了支持在端侧运行一些中小尺寸模型外,英特尔还提供了AI SSD技术的支持,实现对MoE模型的一些关键数据层的卸载。通过该技术,也能让16GB内存的笔记本流畅运行35B模型。
混合专家模型MoE能够让内存不是过于富裕的机型,拥有流畅运行更多参数量模型的能力。Gemma 26B MoE在推理时仅激活约38亿参数,兼顾速度与性能,更加适合需要低延迟的智能体场景。
当不少消费者在选购电子设备,已习惯往高一档看内存,以期多用几年的时候,不妨也思考下处理器对于端侧AI运算能力的提升,同样每年正在以突飞猛进的速度升级,但这又是无法预购的未来。在AI浪潮之下,对于个人消费者而言,思考当下或许也是一个不错的经济性选择,更何况无论设备老旧,同样快速升级的云端AI依旧长期向我们敞开怀抱,以及以旧换新服务的普及。
来源:飞象网