有模型厂商CPU需求提高5倍!计算设备迎来非人类用户:智能体

智能体需要什么样的硬件?这是硬件行业近期思考最多的问题之一。记者近日参加的一场行业论坛上,一名物联网公司技术负责人说,智能硬件正迎来人类之外的第二类用户,即智能体。

智能体需要什么样的硬件?这是硬件行业近期思考最多的问题之一。

第一财经记者近日参加的一场行业论坛上,一名物联网公司技术负责人说,智能硬件正迎来人类之外的第二类用户,即智能体。

此前常被定位为GPU霸主的英伟达已看到这一趋势,准备在秋季拿出一款为智能体设计的个人电脑芯片。而在数据中心,智能体带来的冲击已经开始,CPU成为承接智能体计算的主要平台,逐渐站回数据中心“C”位。

业界展望,给智能体“使用”的计算设备,可能会与人用的设备截然不同。为抢夺新的用户,处理器厂商开始了新一轮竞速。

CPU需求井喷

很多业内人士近期开始讨论,数据中心CPU的数量相比GPU,要如何从1:8向1:1演进。

近日一场采访中,英特尔数据中心集团副总裁兼中国区总经理陈葆立谈到CPU需求增大,称业内CPU需求短期存在供应紧张,英特尔已在尽量提升产能,但市场非常火爆,需求是所有供应商都无法快速满足的。他表示,国内某家大模型厂商反馈,从去年至今,该公司的CPU需求提高了5倍。

智能体应用爆发是CPU需求迎来拐点的原因。Arm边缘AI事业部执行副总裁Chris Bergey告诉记者,很多智能体依托专属CPU驱动,还有大量与AI工作负载相关的数据库操作用于管理上下文及整个运行过程,同样是高度依赖CPU的计算密集型任务。

而据腾讯云计算产品运营总监周驰观察,涌入云平台的很多自动化任务用于处理日常琐事,不需要很多GPU,更需要CPU的调度、高并发执行大量小脚本能力。

一些业界人士认为CPU需求会倍数增长。Arm CEO Rene Haas近日表示,按出货量计算,CPU需求增长比原本预想的更快,他无法预计增长倍数是4、6还是8,但数字在变大。陈葆立认为,目前还难以定论未来CPU和GPU的比例是不是1:1,但基本逻辑是给AI更多任务,多数任务执行者是CPU。

数据中心的“C位”也在悄然变化。资本市场上,英伟达的股价自2022年底ChatGPT面世后经历了暴涨。CPU厂商AMD、英特尔以及与CPU关系密切的IP设计厂商Arm,股价迅猛提拉的时间点则在年内,这三家厂商年内股价都翻倍增长。

业界近期判断,以CPU需求增长为代表的数据中心计算硬件变迁只是开始,智能体将更加彻底地改变硬件的运行方式乃至形态。

Chris Bergey告诉记者,为支撑AI产业变革,芯片硬件层面配套算力与存储组件的设计复杂度、研发成本大幅攀升,同时产品还要面临严苛的功耗限制。随着AI成为核心工作负载,系统内每一类计算单元,都要尽可能强化AI任务的运行能力。因此,市场将会出现全新的计算硬件。

智能体呼唤什么样的硬件?

一些业界人士认为,面向智能体,CPU将变得与以往截然不同,新的工作负载对CPU的效率、能力、核心数都提出新要求。

智能硬件基础设施厂商云尖信息副总裁张欢军表示,运行智能体时,要解决的核心痛点是“单颗CPU处理业务的能力”,即单台设备能否承载更多智能体、每个智能体的运行成本和效率是否足够好。

要承载更多智能体,一种方式是增加CPU的核数(一种计算单元),以增强并行计算能力。陈葆立认为,智能体需要更高的CPU核数,一些智能体适合使用核数极多、单核性能要求不太高的轻量核处理器。目前英特尔至强6+可以在单个CPU核心上同时运行3到4个用于处理简单日常工作的智能体。

上周Arm与英伟达合作推出的RTX Spark个人电脑芯片则搭载了20颗Arm处理器内核,是目前采用统一内存架构的PC类产品中CPU核心数最多的产品。“我们在云端和边缘侧都看到对更多CPU、对更高性能的强烈需求。大家真正需要的是更高的CPU密度,也就是更好的能效比 (performance per watt)。”Chris Bergey告诉记者。

智能体在边缘硬件运行还面临一个难以回避的挑战:内存空间有限。创通联达CTO黄小严在近日高通与极视角主办的端侧AI开发者技术开发日上表示,智能体开始成为硬件的核心用户,智能体场景涉及多轮对话,需要长时间记忆,但移动端的内存容量受成本约束,内存紧缺且有算力约束,容易导致上下文溢出,由此形成AI智力鸿沟。

芯片厂商已在探索更多方法,让边缘硬件的存储空间能被更好地利用。

英伟达与Arm合作开发的RTX Spark采用了Grace CPU、Blackwell RTX GPU及统一内存紧密耦合的方式。Chris Bergey告诉记者,行业迈入智能体阶段,用户需要高性能GPU与CPU之间的紧密结合,统一内存是为了让CPU和GPU能完整调用全部DRAM(动态随机存取存储器)及带宽资源,并让系统设计不再依赖PCIe或CXL等传统传输接口,提升CPU与GPU间的传输带宽。统一内存技术正在推动边缘计算变革。

应对显存和闪存资源紧缺,英特尔则采用QAT(快速辅助技术)和IAA(内存分析加速)技术。

陈葆立表示,AI运行时,海量KV Cache(一种大模型优化技术,通过缓存向量避免冗余计算)需要存,100万上下文约等于10G以上KV Cache,是一大笔闪存开销,而通过QAT技术可以让压缩比达到50%,节省闪存成本。多个智能体运行时,IAA则能实时性压缩内存数据以节省内存。

除了内存问题,黄小严还提到,智能体在移动计算设备上不停歇运行,设备需要在省电、高唤醒率之间找到平衡。传统物联网软件架构失效,设备必须重构,以便智能体理解和调用,智能体安全也需要新的保障。为解决这些问题,他所在的公司使用了高通开发工具链等,在软硬件和系统平台层面进行了设计,搭建了端侧智能体中间件运行平台等。

智能体专用硬件平台兴起

今年初,OpenClaw爆火带动了Mac Mini这类计算设备销售,人们买Mac Mini更多是为了让智能体在本地运行,而不是自己上手操控电脑。这是智能体专用设备的雏形。现在,真正为智能体设计的个人计算设备也开始出现了。

今年秋季将上市、搭载了RTX Spark芯片的笔记本和台式电脑,将由联想、华硕、Microsoft Surface等厂商推出。对这款芯片,英伟达CEO黄仁勋形容为“重新发明了个人电脑的工作方式”。

Arm也看到,个人电脑行业将发生巨大改变。“PC需求分化为两种,一种是电池好、随处可连接网络,就像一个大号手机加一个键盘,能用来工作;另一种需要有非常极致的性能,能运行智能体、模型或做开发工作。”Rene Haas上周表示。

Chris Bergey向记者进一步解释,以往的PC从入门级向高性能产品延伸演进,整体产品架构相对一致,高端机型靠提升主频、扩充核心数、选用更强性能内核来实现迭代。而随着智能体专用硬件平台兴起,现在对PC市场的区分已截然不同。

“用户对此类设备有明确需求:PC能7×24小时不间断运行智能体;设备依托高性能硬件,以高吞吐规格运行各类大模型;除了支出设备采购、供电及网络接入成本,不产生额外算力费用,模型本地运行,用户隐私数据留存本机。”Chris Bergey说,传统PC一天内只使用一小部分时间,新一代硬件作为本地token(词元)生成引擎,则要全时段输出算力。

Chris Bergey告诉记者,当下人们正在使用的传统PC还会继续迭代,整机趋于轻薄紧凑,主打便携属性。另一类可供智能体使用的设备便携性偏弱,可留在家中不间断运行。两种产品在外观、摆放结构等物理设计层面也有差异。

高通技术公司(中国)资深产品市场经理朱元以蛉衔鋈擞没褂AI的方式也会发生改变。以往人们以手机为核心使用AI,耳机、眼镜、手表等穿戴设备作为附属连接,未来将转向以AI和用户为中心的多终端体验,AI不再绑定某个具体的设备,而是通过多设备灵活协同服务用户。

来源:飞象网

相关推荐

  • 郑志明院士:现代工业需求正在逼近复杂性边界

    近日,在济南开幕的2026人工智能产业大会(AIIC2026)上,中国科学院院士、北京航空航天大学教授郑志明,在开幕式暨主论坛上发表题为《面向新型工业化的现代技术科学范式》的主旨演讲。结合本届大会主题“加快推进人工智能赋能新型工业化”,以及大模型加速落地、新型工业化深入推进的热点,郑志明从复杂性边界、数据智能的能力边界、现代技术科学范式的根基三个层面,系统阐述了工业与智能深度融合必须破解的基础性问题,对人工智能赋能新型工业化的实践路径具有重要指导意义。

    2026-11-01
  • 科华携内蒙古移动,以液冷CDU及电力方仓助力阿里AI算力部署

    在“东数西算”工程纵深推进的背景下,和林格尔数据中心集群作为全国十大国家数据中心集群之一,正加速成为承接东部算力外溢、发展绿色算力的核心承载地。内蒙古移动作为该集群算力基础设施的建设主力军,承担着大规模智算资源供给的重要使命。中国移动呼和浩特数据中心

    2026-10-30
  • 刚刚,谷歌 Genie 4 发布,120 秒的世界却让我看见 AI 的未来

    刚刚,Google DeepMind 正式发布新一代世界模型 Genie 4,AI 生成的虚拟世界,又向现实迈进了一大步。相比上一代,Genie 4 不仅让画面更加逼真,还能实时生成声音、模拟物理规律,甚至让用户直接走进 AI 创造的世界,随时改变天气、添加人物,与虚拟角色对话。

    2026-10-29
  • 科大讯飞以全国产算力破解AI三大难题

    “如何解决大模型安全性和极致性价比?”“如何让AI从数字世界进入物理世界?”“如何让AI从个人提效走向组织提效?”在2026科大讯飞全球1024开发者节开场时,科大讯飞董事长刘庆峰就抛出了这三个问题。当AI变得触手可及、能力日益强大时,上述问题也将受到业界越来越多的关注,并成为制约AI走向无处不在的三大难题。对此,科大讯飞在活动期间不仅通过一系列真实产品对这三个命题进行了诠释,还全部采用国产生态给出了自己的答案。

    2026-10-28
  • 中兴通讯:“连接+算力”驱动增长,前三季营收1,168亿,同比增16%,算力营收占比38%

    报告显示,2026年1-9月,公司实现营收1,168.4亿元,同比增长16.2%;实现归母净利润40.6亿元,扣非归母净利润28.1亿元,经营性现金流净额为正。

    2026-10-26
  • 2026年一键修图手机推荐,出片效率与本地算力怎么看

    把自己的修图习惯摊开同样重要:是只想调个肤色、换个风格,还是要挪走背景里的杂物、把几张照片剪成一段成片;是常在没网的地方处理照片,还是回家连着Wi-Fi慢慢来。前者看一键修图收进了哪些动作,后者看本地算力够不够。下面按直出、修图工具、成像底子、价格与综合

    2026-10-25
  • NVIDIA 推出面向安全 AI 智能体的 OpenShell 参考架构

    NVIDIA 今日宣布推出 NVIDIA OpenShell 参考架构,该架构能够在企业级基础设施和边缘系统上构建、隔离、观测和执行安全智能体。OpenShell 参考架构基于 NVIDIA OpenShell™ 安全运行时软件为基础进行构建,并将其扩展到用于智能体开发和运行的全栈式、工业级基础设施。

    2026-10-25
  • 国内MaaS平台推荐:企业如何选择高性价比大模型服务(2026年度榜单)

    一、引言2026年,国内大模型应用正从“参数竞赛”进入“规模化落地与效率竞争”阶段。IDC预计,2026年中国MaaS市场全年Token消耗量约40,000万亿次,按营收规模计算约186亿元人民币,较2025年呈现高速增长。与此同时,行业定价逻辑也在发生变化:一方面,部分厂商上调API

    2026-10-19
  • 英伟达联合京东举办RTX Spark新品首发体验会 京东11.11智能体电脑集中亮相

    告别云端依赖,AI算力直接装进笔记本。无需联网即可运行大模型的智能体电脑,正加速走进大众日常办公与创作生活。10月16日,英伟达联合京东在北京京东MALL双井店举办NVIDIA RTX Spark新品首发体验会,众多AI开发者、创作者到场体验,共同见证新一代智能体电脑的线下首秀

    2026-10-17
  • 后摩尔时代话芯途,量超智融合成果闪耀2026湾芯展

    10月14日,2026湾区集成电路科学技术大会在深圳福田会展中心开幕。本届大会是2026湾区半导体产业生态博览会(湾芯展)的主题论坛,定位“学术+产业”双主场。湾芯展汇聚1000余家海内外半导体企业,同期举办40余场垂直论坛,覆盖晶圆制造、先进封装、AI算力等赛道。

    2026-10-15