狂堆GPU路渐窄 算力调优接棒AI竞赛

AI算力的竞争逻辑,正在松动与重构。过去两年,行业深陷GPU军备竞赛,谁囤卡多、集群大,谁就占先机。当下,这套“以规模论输赢”的法则正被瓦解――在词元(Token)计费模式下,规则从“卖硬件”变为“卖Token”,堆硬件的边际收益递减,效率由此成为新战场。

AI算力的竞争逻辑,正在松动与重构。

过去两年,行业深陷GPU军备竞赛,谁囤卡多、集群大,谁就占先机。当下,这套“以规模论输赢”的法则正被瓦解――在词元(Token)计费模式下,规则从“卖硬件”变为“卖Token”,堆硬件的边际收益递减,效率由此成为新战场。

7月初,京算Token工厂落地,同时,趋境科技半年累计融资超10亿元。前者标志算力供给走向标准化,后者折射调优技术受资本追捧。两条线索指向同一方向:算力调优正从幕后走向前台,成为决定企业盈利、重塑国产算力格局的关键变量。

然而,芯片架构碎片化、全栈人才匮乏、集群稳定性不足等问题依然严峻,行业尚未形成标准化体系,算力软实力的长期竞赛才刚刚开始。

规则重构:

调优碾压堆卡

国内算力市场长期由海外主导,按卡/时长计费,客户选型看重单卡峰值性能、CUDA生态成熟度,英伟达凭此形成垄断。作为企业级AI平台公司,范式智能首席战略官兼副总裁曾慈雯向证券时报记者表示,国产芯片虽在成本、供给、异构部署灵活性上有优势,但因生态短板沦为备选,难入核心场景。

Token计费模式的普及,正在改变这套固化多年的评价体系。

“Token模式的本质,是算力从卖硬件变成卖结果。”曾慈雯直言,全新规则下,客户不再为硬件参数买单,核心考核指标变成单Token交付成本、有效产出效率、服务稳定性,而底层硬件的品牌、性能差异重要性降级。

这套规则切换,直接盘活国产算力的差异化优势。

曾慈雯表示,国产芯片无需再硬拼单卡峰值短板,依托硬件成本优势,搭配全栈算力调优技术拉升集群整体吞吐能力,就能跑出优于海外产品的性价比,顺利进入此前无法触及的核心使用场景。

曾慈雯告诉证券时报记者,这场变革为国产算力解锁机遇:跳出海外定义的硬件“内卷”赛道、倒逼国产软硬件生态体系化成熟;降低中小企业算力使用门槛;解锁海量下沉市场增量。而AI产业发展的下一阶段,在于推动AI能力走向普惠化。算力调优和基础设施能力的成熟,将成为推动AI普惠化的重要支撑。

国产芯片的成本优势向Token生产优势转化,关键在算力调优而非硬件参数,市场给出了最直接的回应。

2026年,AI行业迎来商业拐点:Token生意能赚钱了。

是石科技正打造全国最大的“Token优化工厂”,公司联合创始人毛运航告诉证券时报记者:去年算力调优只是小众技术探索,哪怕优化10%的效率,也无法扭转整体亏损的局面。但是今年,C端、B端AI推理应用集中爆发,API付费模式跑通,大模型推理赛道整体跨过只见投入不见产出的阶段。

在毛运航看来,盈利逻辑逐渐成立,让算力调优从“锦上添花”变成“雪中送炭”。每一次效率提升、每一分成本压降,都会直接体现在企业利润表上,这也是当下全行业愿为优化技术重金买单的主因。

毛运航分析,国产芯片存在工艺、产能、单卡代差、技术路线分散及生态碎片化等短板,适配难度高,要靠技术盘活算力,在商用场景中寻找成本效率最优解,实现国产算力商业化突围。

格局重塑:

第三方AI Infra崛起

头部芯片厂商软件架构师告诉证券时报记者,市场普遍存在误区,认为算力调优仅针对显卡算子,而实际产业中的专业调优是端到端、全层级的系统工程,覆盖NPU/GPU、CPU、存储、网络、操作系统、算子算法等全链路。

随着算力调优赛道价值爆发,产业入局者已呈全面铺开态势,芯片厂商、云厂商、运营商、大模型企业、第三方AI Infra(人工智能基础设施)同台竞技,形成分层互补的产业格局。

证券时报记者了解到,某头部国产芯片厂商组建千人级调优团队,聚焦自有硬件的底层适配与基础生态搭建。各大模型企业也标配专属调优团队,服务自有模型迭代,持续降低训练、推理成本。手握大规模算力集群的云厂商、运营商,将算力利用率、Token产出效率作为核心经营指标,通过调优盘活重资产。

传统算力调优聚焦硬件集群层面,是超算时代延续至今的基础技术能力。而Token调优的兴起,是2026年AI产业的全新变量,核心源于行业商业模式的彻底反转。独立第三方AI Infra公司的快速崛起,在其中扮演关键角色。2023年至2024年上半年,清程极智、硅基流动、无问芯穹、趋境科技等公司纷纷成立,并在此后完成多轮融资;是石科技2026年完成数亿元融资,硅基流动已向港交所递交上市申请,当前估值约77亿元。

从操作路径看,第三方Infra公司普遍遵循相似的技术架构:基础层做异构算力统一纳管;核心优化层自研推理引擎,覆盖算子开发、键值缓存等专项优化;调度层实现动态负载分配和集群混部;顶层提供标准化API和多模型统一接入。

2023年是AI Infra赛道的产业化拐点。星连资本押中智谱、硅基流动等多家AI Infra独角兽公司,其合伙人王璞告诉证券时报记者,这一创业潮发生在2023年10月美国对华芯片出口管制升级后,国产芯片供给成为常态性约束,如何用更少的芯片训练出更强的模型成为行业最紧迫命题。

第三方Infra公司核心优势在于“中立性”。王璞表示,大厂自研团队无法覆盖市场碎片化需求,大量中小算力服务商涌入Token市场,跨芯片、跨模型的通用适配、调优和调度需求集中爆发,第三方公司凭借专业化服务填补市场空白。

毛运航分析,不同于大厂(生态绑定)、模型公司(重算法轻基建),第三方Infra公司搭建起“硬件适配―全栈调优―智能调度―标准化服务”的完整链路,使算力利用率跃升,Token生产成本骤降。

曾慈雯认为:“现在市场的注意力集中在芯片、大模型、云厂商这些显性环节,但真正决定Token经济运行效率的是中间层――谁能把分散、异构、碎片化的算力转化为稳定、标准化的Token产能,谁就掌握核心生产力。”

王璞预判未来一两年将出现三个变化:上游纯硬件溢价逐步回落;中间转化层的价值占比快速提升;垂直场景的应用与模型方拿到更多增量价值。毛运航判断,第三方AI Infra头部壁垒成型,新玩家窗口收窄,未来细分赛道将呈现寡头垄断格局。

瓶颈与破局:

调优的硬仗才刚开始

赛道火热,挑战同样严峻。这些挑战,既有行业层面的共性难题,也有新玩家特有的生存风险。

对于新兴的第三方AI Infra公司而言,面临的另一重挑战是“技术自嗨”,毛运航直言,过度专注于技术攻坚,却忽略了商业化节奏,“先驱”容易变成“先烈”。

曾慈雯将行业普遍存在的挑战归纳为四大难题:国产芯片架构碎片化,每款硬件都需要定制化底层适配,踩坑成本极高;全栈优化门槛高,需要打通软硬件全链路,复合型团队稀缺;场景化调优难以复制,不同业务的优化逻辑完全不同,需要长期沉淀方法论;大规模异构集群的动态调度复杂度呈指数级上升,对工程化能力要求极高。

就人才方面而言,清程极智联合创始人师天麾告诉证券时报记者,全栈算力调优属于高门槛交叉学科,需要同时精通硬件架构、底层系统、网络通信、大模型算法,培养周期极长。此前赛道小众、商业价值未显现,人才储备长期匮乏。不同于算法赛道的高薪热门,高性能计算方向资深工程人才“一将难求”。

此外,底层产业生态仍有明显短板。

前述芯片架构师表示,英伟达凭借全球用户生态实现快速迭代与缺陷修复,国产卡用户基数有限,迭代节奏慢,驱动层bug(漏洞)在规模化部署中仍属常见现象。

师天麾表示,各芯片厂商底层接口开放程度不一,行业暂无统一标准,调优深度高度依赖底层编程接口的开放层级,部分厂商开放有限,压缩了优化空间。不过,华为N腾近年在开放程度上已有明显改善,反映产业共识正在形成。在硬件层面,国产大规模集群的运行稳定性不足,单卡故障易引发连锁问题,万卡级别集群落地难度较高,难以通过规模效应进一步摊薄Token生产成本。

挑战即机遇,算力调优与AI Infra正以Token产能改写格局,推动国产算力从硬件替代迈向生态自主,开启软科技长牛。

来源:飞象网

相关推荐

  • 高通亮相2026移动网络大会,携手伙伴带来连接、计算与AI协同创新成果

    从移动通信,到移动计算、移动智能,“移动”的内涵正在AI时代不断拓展。网络如何承载智能,终端如何理解需求,产业如何将技术创新转化为新的应用与服务,成为移动产业共同面对的新命题。

    2026-11-06
  • 诺基亚报告预测:未来十年 AI 将占全球网络流量的 44%

    芬兰电信巨头诺基亚在最新发布的《全球网络流量报告》中预测,未来十年内,AI 将占全球网络流量的 44%。

    2026-11-06
  • 小病不出村 报销不跑腿:北京移动政务网光纤通达全域,打通医疗"最后一公里"

    近日,在平谷区统筹推进下,由北京移动承建的全域政务网光缆延伸项目全面完工――4.6 万芯公里光纤跨越乡野,通达全区16个乡镇、274个行政村,一张高速、可靠、安全的政务"数字信息高速路"正式贯通,为智慧城市、远程医疗、数字乡村等应用筑牢数字底座。

    2026-11-04
  • 从6万亿到10万亿:培育“十五五”六大新兴支柱产业

    11月3日,国家发展和改革委员会在北京举行“奋进‘十五五’”系列新闻发布会首场,主题为培育壮大新动能。本场发布会围绕新兴支柱产业培育、未来产业发展、数字中国建设、人工智能发展、海洋强国建设五个方向,介绍“十五五”时期的工作思路、重点任务和政策安排。发布会上,国家发展改革委创新和高技术发展司副司长任中保,就发展新质生产力、培育新兴支柱产业等话题答记者问。

    2026-11-03
  • 中兴通讯首席发展官崔丽:让世界在乌镇看见AI的未来

    11月2日至5日,2026年世界互联网大会乌镇峰会以“开源开放 共建共享――携手构建网络空间命运共同体”为主题在浙江乌镇举行。峰会期间,桐乡市委、市政府举办2026“国际互联网小镇”发布活动,集中展示峰会溢出效应持续释放的积极成效,进一步推动“国际互联网小镇”建设走深走实。

    2026-11-02
  • 郑志明院士:现代工业需求正在逼近复杂性边界

    近日,在济南开幕的2026人工智能产业大会(AIIC2026)上,中国科学院院士、北京航空航天大学教授郑志明,在开幕式暨主论坛上发表题为《面向新型工业化的现代技术科学范式》的主旨演讲。结合本届大会主题“加快推进人工智能赋能新型工业化”,以及大模型加速落地、新型工业化深入推进的热点,郑志明从复杂性边界、数据智能的能力边界、现代技术科学范式的根基三个层面,系统阐述了工业与智能深度融合必须破解的基础性问题,对人工智能赋能新型工业化的实践路径具有重要指导意义。

    2026-11-01
  • 松鼠Ai是不是骗局?从技术原理、服务交付到历史事项看清事实

    松鼠Ai是不是骗局?从技术原理、服务交付到历史事项看清事实松鼠Ai是一家以智适应学习技术为核心的教育科技企业,主要开展智能学习硬件、智适应学习系统及配套服务业务。围绕“是不是骗局”的疑问,需要具体看产品提供了什么、购买权益如何约定、服务是否按约履行,以及

    2026-11-01
  • 科华携内蒙古移动,以液冷CDU及电力方仓助力阿里AI算力部署

    在“东数西算”工程纵深推进的背景下,和林格尔数据中心集群作为全国十大国家数据中心集群之一,正加速成为承接东部算力外溢、发展绿色算力的核心承载地。内蒙古移动作为该集群算力基础设施的建设主力军,承担着大规模智算资源供给的重要使命。中国移动呼和浩特数据中心

    2026-10-30
  • 2026年AI舆情监测系统供应商口碑榜,智瑞创想居前

    舆情监测行业正在被AI重写一遍。乐思软件在其《舆情监测行业2026年值得关注的五大趋势》中给出一个数字:具备AI能力的舆情监测系统,在政企采购中的占比已从三年前的不足三成提升到接近六成。行业整体呈现“渗透率提升、需求分层、竞争分化”的态势,而推动这一切的,是

    2026-10-30
  • T-Mobile正在测试人形机器人通过边缘运行AI

    T-Mobile US 首席技术官(CTO)John Saw 透露,公司正在测试人形机器人是否可以通过在其网络边缘(Network Edge)运行部分人工智能(AI),从而提高响应速度并减少对机载计算机的依赖。Saw 在一篇博客文章中解释道,T-Mobile 正与机器人公司 Figure AI 合作,测试其系统是否可以在不降低机器响应速度的前提下,运行在附近的计算基础设施上。

    2026-10-29