有模型厂商CPU需求提高5倍!计算设备迎来非人类用户:智能体

智能体需要什么样的硬件?这是硬件行业近期思考最多的问题之一。记者近日参加的一场行业论坛上,一名物联网公司技术负责人说,智能硬件正迎来人类之外的第二类用户,即智能体。

智能体需要什么样的硬件?这是硬件行业近期思考最多的问题之一。

第一财经记者近日参加的一场行业论坛上,一名物联网公司技术负责人说,智能硬件正迎来人类之外的第二类用户,即智能体。

此前常被定位为GPU霸主的英伟达已看到这一趋势,准备在秋季拿出一款为智能体设计的个人电脑芯片。而在数据中心,智能体带来的冲击已经开始,CPU成为承接智能体计算的主要平台,逐渐站回数据中心“C”位。

业界展望,给智能体“使用”的计算设备,可能会与人用的设备截然不同。为抢夺新的用户,处理器厂商开始了新一轮竞速。

CPU需求井喷

很多业内人士近期开始讨论,数据中心CPU的数量相比GPU,要如何从1:8向1:1演进。

近日一场采访中,英特尔数据中心集团副总裁兼中国区总经理陈葆立谈到CPU需求增大,称业内CPU需求短期存在供应紧张,英特尔已在尽量提升产能,但市场非常火爆,需求是所有供应商都无法快速满足的。他表示,国内某家大模型厂商反馈,从去年至今,该公司的CPU需求提高了5倍。

智能体应用爆发是CPU需求迎来拐点的原因。Arm边缘AI事业部执行副总裁Chris Bergey告诉记者,很多智能体依托专属CPU驱动,还有大量与AI工作负载相关的数据库操作用于管理上下文及整个运行过程,同样是高度依赖CPU的计算密集型任务。

而据腾讯云计算产品运营总监周驰观察,涌入云平台的很多自动化任务用于处理日常琐事,不需要很多GPU,更需要CPU的调度、高并发执行大量小脚本能力。

一些业界人士认为CPU需求会倍数增长。Arm CEO Rene Haas近日表示,按出货量计算,CPU需求增长比原本预想的更快,他无法预计增长倍数是4、6还是8,但数字在变大。陈葆立认为,目前还难以定论未来CPU和GPU的比例是不是1:1,但基本逻辑是给AI更多任务,多数任务执行者是CPU。

数据中心的“C位”也在悄然变化。资本市场上,英伟达的股价自2022年底ChatGPT面世后经历了暴涨。CPU厂商AMD、英特尔以及与CPU关系密切的IP设计厂商Arm,股价迅猛提拉的时间点则在年内,这三家厂商年内股价都翻倍增长。

业界近期判断,以CPU需求增长为代表的数据中心计算硬件变迁只是开始,智能体将更加彻底地改变硬件的运行方式乃至形态。

Chris Bergey告诉记者,为支撑AI产业变革,芯片硬件层面配套算力与存储组件的设计复杂度、研发成本大幅攀升,同时产品还要面临严苛的功耗限制。随着AI成为核心工作负载,系统内每一类计算单元,都要尽可能强化AI任务的运行能力。因此,市场将会出现全新的计算硬件。

智能体呼唤什么样的硬件?

一些业界人士认为,面向智能体,CPU将变得与以往截然不同,新的工作负载对CPU的效率、能力、核心数都提出新要求。

智能硬件基础设施厂商云尖信息副总裁张欢军表示,运行智能体时,要解决的核心痛点是“单颗CPU处理业务的能力”,即单台设备能否承载更多智能体、每个智能体的运行成本和效率是否足够好。

要承载更多智能体,一种方式是增加CPU的核数(一种计算单元),以增强并行计算能力。陈葆立认为,智能体需要更高的CPU核数,一些智能体适合使用核数极多、单核性能要求不太高的轻量核处理器。目前英特尔至强6+可以在单个CPU核心上同时运行3到4个用于处理简单日常工作的智能体。

上周Arm与英伟达合作推出的RTX Spark个人电脑芯片则搭载了20颗Arm处理器内核,是目前采用统一内存架构的PC类产品中CPU核心数最多的产品。“我们在云端和边缘侧都看到对更多CPU、对更高性能的强烈需求。大家真正需要的是更高的CPU密度,也就是更好的能效比 (performance per watt)。”Chris Bergey告诉记者。

智能体在边缘硬件运行还面临一个难以回避的挑战:内存空间有限。创通联达CTO黄小严在近日高通与极视角主办的端侧AI开发者技术开发日上表示,智能体开始成为硬件的核心用户,智能体场景涉及多轮对话,需要长时间记忆,但移动端的内存容量受成本约束,内存紧缺且有算力约束,容易导致上下文溢出,由此形成AI智力鸿沟。

芯片厂商已在探索更多方法,让边缘硬件的存储空间能被更好地利用。

英伟达与Arm合作开发的RTX Spark采用了Grace CPU、Blackwell RTX GPU及统一内存紧密耦合的方式。Chris Bergey告诉记者,行业迈入智能体阶段,用户需要高性能GPU与CPU之间的紧密结合,统一内存是为了让CPU和GPU能完整调用全部DRAM(动态随机存取存储器)及带宽资源,并让系统设计不再依赖PCIe或CXL等传统传输接口,提升CPU与GPU间的传输带宽。统一内存技术正在推动边缘计算变革。

应对显存和闪存资源紧缺,英特尔则采用QAT(快速辅助技术)和IAA(内存分析加速)技术。

陈葆立表示,AI运行时,海量KV Cache(一种大模型优化技术,通过缓存向量避免冗余计算)需要存,100万上下文约等于10G以上KV Cache,是一大笔闪存开销,而通过QAT技术可以让压缩比达到50%,节省闪存成本。多个智能体运行时,IAA则能实时性压缩内存数据以节省内存。

除了内存问题,黄小严还提到,智能体在移动计算设备上不停歇运行,设备需要在省电、高唤醒率之间找到平衡。传统物联网软件架构失效,设备必须重构,以便智能体理解和调用,智能体安全也需要新的保障。为解决这些问题,他所在的公司使用了高通开发工具链等,在软硬件和系统平台层面进行了设计,搭建了端侧智能体中间件运行平台等。

智能体专用硬件平台兴起

今年初,OpenClaw爆火带动了Mac Mini这类计算设备销售,人们买Mac Mini更多是为了让智能体在本地运行,而不是自己上手操控电脑。这是智能体专用设备的雏形。现在,真正为智能体设计的个人计算设备也开始出现了。

今年秋季将上市、搭载了RTX Spark芯片的笔记本和台式电脑,将由联想、华硕、Microsoft Surface等厂商推出。对这款芯片,英伟达CEO黄仁勋形容为“重新发明了个人电脑的工作方式”。

Arm也看到,个人电脑行业将发生巨大改变。“PC需求分化为两种,一种是电池好、随处可连接网络,就像一个大号手机加一个键盘,能用来工作;另一种需要有非常极致的性能,能运行智能体、模型或做开发工作。”Rene Haas上周表示。

Chris Bergey向记者进一步解释,以往的PC从入门级向高性能产品延伸演进,整体产品架构相对一致,高端机型靠提升主频、扩充核心数、选用更强性能内核来实现迭代。而随着智能体专用硬件平台兴起,现在对PC市场的区分已截然不同。

“用户对此类设备有明确需求:PC能7×24小时不间断运行智能体;设备依托高性能硬件,以高吞吐规格运行各类大模型;除了支出设备采购、供电及网络接入成本,不产生额外算力费用,模型本地运行,用户隐私数据留存本机。”Chris Bergey说,传统PC一天内只使用一小部分时间,新一代硬件作为本地token(词元)生成引擎,则要全时段输出算力。

Chris Bergey告诉记者,当下人们正在使用的传统PC还会继续迭代,整机趋于轻薄紧凑,主打便携属性。另一类可供智能体使用的设备便携性偏弱,可留在家中不间断运行。两种产品在外观、摆放结构等物理设计层面也有差异。

高通技术公司(中国)资深产品市场经理朱元以蛉衔鋈擞没褂AI的方式也会发生改变。以往人们以手机为核心使用AI,耳机、眼镜、手表等穿戴设备作为附属连接,未来将转向以AI和用户为中心的多终端体验,AI不再绑定某个具体的设备,而是通过多设备灵活协同服务用户。

来源:飞象网

相关推荐

  • 告别“铁公基”时代 “六张网”强力托举中国基建2.0

    当水网润泽沃野、电网点亮万家、算力驱动智能、通信连接万物、管网守护城市、物流畅通循环,以经年之功织就的“六张网”,必将托举起一个更智慧、更坚韧、更富活力的未来中国。

    2026-09-20
  • 华为汪涛:契合AI算力集群化发展需要 3D数据中心是新一代AIDC优秀实践

    9月15日,在2026 AIDC产业发展大会暨3D数据中心现场会在安徽芜湖隆重举行。华为技术有限公司副董事长、轮值董事长汪涛出席并致辞,分享了华为在人工智能与AI基础设施上的战略思考。

    2026-09-16
  • 2026中国算力大会发布“133N”成果体系

    9月11日至13日,以“共织算力网 智启新未来”为主题的2026中国算力大会在河北省廊坊市成功举行。本届大会立足全国算力产业发展全局,为全国一体化算力网络建设搭建高水平政产学研用交流平台,系统展示我国算力技术创新、基础设施建设和融合应用最新成果,推动跨区域算力调度和资源优化配置。大会期间发布的“133N”成果体系备受各方关注,该成果体系涵盖“1”个重磅发布、“3”组权威报告、“3”项创新成果,以及“N”项算力领域探索实践,全面展现了我国算力产业高质量发展的最新进展与坚实步伐。

    2026-09-14
  • 15项突破,硬核揭榜!中国算力大会“年度重大突破成果”揭晓

    9月11日至13日,2026中国算力大会在河北廊坊举行。大会主论坛上,中国算力大会“年度重大突破成果”正式揭晓,15项具有示范性意义的技术成果集中亮相,彰显了我国算力产业从技术攻关到生态构建的系统性创新能力。

    2026-09-14
  • 国家算力互联互通区域(河北)节点正式启用

    9月12日,在2026中国算力大会开幕式上,国家算力互联互通区域(河北)节点正式启用,成为全国率先启用的区域节点。

    2026-09-13
  • 2026中国算力大会在河北廊坊开幕

    9月12日,以“共织算力网 智启新未来”为主题的2026中国算力大会在河北省廊坊市开幕。河北省委副书记、省长王正谱出席开幕式,河北省副省长赵大春、工业和信息化部总工程师钟志红出席开幕式并致辞。

    2026-09-13
  • 《2026综合算力全景分析》发布 我国综合算力从“建得多”向“用得好、协同好”升级

    在2026中国算力大会开幕式上,《2026综合算力全景分析》发布。我国综合算力基础持续夯实,正从“建得多”加快转向“用得好、协同好”,智能算力已成为综合算力体系的重要支撑。截至2026年6月,全国在用标准机架达1556万架,在用智能算力规模达2185EFLOPS(FP16),存力规模突破2000EB,入算、算间、算内三级网络持续协同演进,为数字经济发展筑牢算力底座。

    2026-09-12
  • 中国移动发布全链条算力服务成果

    9月11日-13日,2026中国算力大会在河北省廊坊市举办。9月11日,以“算网强基 智能新空间”为主题的中国移动算力服务分论坛召开。论坛上,中国移动正式发布全新AIDC一体化运维管理平台、DORA NPO+方案及MoMA政企版等核心技术成果,贯通“技术架构-智算底座-模型平台-落地应用”完整算力服务链条,以全栈能力支撑智能服务高质量发展,为千行百业的数智化转型注入新动能。

    2026-09-11
  • 向智同行 连接算力新生态,2026中国联通合作伙伴大会集中展示AI创新成果

    9月9日,2026中国联通合作伙伴大会展览在上海世博中心举办。展览以“向智同行 连接算力新生态”为主题,聚焦“连接”“算力”“服务”“安全”四大核心赛道,集中展示中国联通AI创新成果和数字技术融合创新实践。

    2026-09-09
  • 工信部公布国家算力互联互通区域节点建设名单

    飞象网讯(致新/文)9月7日消息,工信部近日发文称,按照《工业和信息化部办公厅关于组织开展国家算力互联互通节点建设工作的通知》(工信厅信管函〔2026〕35号)要求,经各地公开申报、材料审查、专家评审等程序,确定北京等17个省(自治区、直辖市)入选为国家算力互联互通区域节点,现予以公布。

    2026-09-07