信通院李论:关于人工智能软硬件产品创新及生态构建的几点思考

人工智能快速迭代,大模型时期仅依靠算力堆叠已无法实现模型性能的同步线性提升,模型算法与底层硬件、软件栈、开发框架间的协同效果最终影响其训推效率与性能表现,人工智能软硬件生态重要性凸显。中国信息通信研究院人工智能研究所软硬件与创新生态部主任李论分享了人工智能软硬件产品创新及生态构建的几点思考,助力我国尽快构建起技术领先、良性发展的软硬件生态体系。

人工智能快速迭代,大模型时期仅依靠算力堆叠已无法实现模型性能的同步线性提升,模型算法与底层硬件、软件栈、开发框架间的协同效果最终影响其训推效率与性能表现,人工智能软硬件生态重要性凸显。中国信息通信研究院人工智能研究所软硬件与创新生态部主任李论分享了人工智能软硬件产品创新及生态构建的几点思考,助力我国尽快构建起技术领先、良性发展的软硬件生态体系。

一、大模型的创新迭代与软硬件系统深度耦合

大模型的升级迭代需要在庞大的软硬件系统上进行实验。模型的原始创新和应用迭代落地已非常依赖先进的软硬件协同技术生态体系,框架、芯片、集群、网络等与算法间的协同愈发紧密。当前以DeepSeek为代表的模型凭借工程化创新,实现性能的大幅度提升。特别是通过模型架构、硬件算力和互联通信等方面的极致优化和协同来提升训练和推理的效能。从全球范围看,Meta、字节等国内外头部企业也均在加快更大规模集群的软硬件协同优化,如创新集群网络架构、构建先进的运维工具、优化分布式并行策略等。我们预计,在下个阶段,软硬件协同和生态体系的构建会是全球大模型创新和算力设施建设的竞争焦点。

二、我国在软硬件协同和适配方面发展现状

模型和底层硬件的适配是硬件能力能否充分释放的关键。以业界典型的开源大模型DeepSeek为例,目前在国内主流厂商的软硬件产品上运行DeepSeek模型,仍然需要结合实际应用场景进行深度优化,从而满足精度、性能以及产品服务等延伸需求。

我们把软硬件适配分为三个阶段,第一阶段是完成软硬件产品的基础适配,保障模型在软硬件系统上运行无报错,达到“基本可用”状态。第二阶段是完成系统性能调优,如精度对齐,提升吞吐、延迟等指标表现,初步达到“好用”状态。第三阶段是和实际的场景结合,通过用户、业务提供商、供应商等多方协作,进一步提升落地应用效果。

在此背景下,中国信通院通过构建人工智能软硬件基准体系AISHPerf,推动国产化适配测试工作。我们发现大量国产软硬件系统已能支持DeepSeek运行,通过一系列的优化,能够在数天内实现“可用”,且部分厂商模型适配效果已与官方技术报告实现精度对齐,同时,短期内出现多种工具包及一体机、公有云服务等产品形态,模型易用性不断提升。

三、人工智能算力设施及软硬件产品发展路径

从整体发展来看,我们认为规模定律在未来几年仍将延续。业界主要有两种发展思路:一是扩大训练算力规模,增加模型尺寸,提升模型精度。二是聚焦参数一定范围内的模型改造与高效训练,特别在计算受限下,通过模型参数与训练数据有效配比和算法架构改造提升训练效能,是厂商技术比拼的关键。

在这样的发展路径下,有三个创新重点:一是聚焦系统性能、提升算力利用率。算力需求虽仍在大幅度增长,但当前大量集群的算力利用率仍不足50%,需要进行计算、存储、通信的软硬件深度协同,来实现系统性能提升。二是聚焦推理优化方面的创新。大模型推理成为落地应用的关键环节,通过硬件、软件一体化集成,及分布式并行推理等技术能有效提升推理效率,出现一体机、推理集群等新的产品服务形式。三是面向多样场景的适配是落地关键。DeepSeek等开源模型生态有望进一步促进行业应用需求增长,但各个场景性能指标存在差异,存在大量点对点适配问题,需深度适配优化。

四、我国需面向应用需求持续推动软硬件产品创新和生态建设

应用模型的高效部署和生态协同范式的建立是下阶段AI产品的创新关键。为了进一步凝聚产业共识,降低软硬件选型技术难度和开发门槛,依托工信部人工智能标准化技术委员会,中国信通院基于人工智能软硬件基准AISHPerf工作组已推进十余项标准制定工作,覆盖算子、计算设备、训推集群、框架工具、边端系统、智算的互联、网络等领域。此外,我们在北京亦庄建设了首个人工智能软硬件协同创新与适配验证中心,面向包括芯片、服务器、不同类型的计算设备、集群、开发框架及平台、一体机等在内的人工智能软硬件产品,去提供相应的实验验证、测试和产业培育等工作。下一步,我们将持续开展大模型软硬一体设备、框架软件与工具、大规模智算集群等系列测试验证工作,举办“兴智杯”全国人工智能创新应用大赛、大模型创新发展与软硬件协同生态论坛等大型赛会活动,希望能够有序引导人工智能模型和软硬件厂商间的协同创新,集聚各方力量尽快构建起技术领先、良性发展的产业生态体系。

来源:飞象网

相关推荐

  • 国家广电总局何飚:谋定“十五五” 推动广电视听高质量发展

    在由国新办召开的“开局起步‘十五五’” 系列之加快推动广播电视和网络视听高质量发展发布会上,国家广播电视总局副局长何飚,总体阐述了“十五五”期间广电视听发展的总思路,并就推动广电媒体全面进入互联网主战场、广电视听进入经济社会发展主战场,这“两个进军”进行系统说明。

    2026-09-18
  • 让老手艺适配AI新时代:匠心遇上科技,老树就能发新芽

    9月7日,国新办召开“推动历史经典产业高质量发展”新闻发布会。工信部、商务部、文旅部、市场监管总局相关负责人,解读国家首次出台的历史经典产业专项政策文件《关于推动历史经典产业高质量发展的意见》。发布会还公布产业两阶段发展目标,以及围绕传承创新、产业融合、品牌建设、人才培育、国际化等方面的重点任务。期间,工业和信息化部副部长谢远生阐述了如何推动历史经典产业数字化转型,以及如何运用人工智能赋能历史经典产业的相关问题,并就如何实现传统工艺与现代科技深度融合的话题答记者问。

    2026-09-08
  • 工业和信息化部发布《人工智能中小企业创业支持计划(2026―2028年)》 三年培育超万家科创中小企业

    为为加大人工智能领域创业创新支持力度,工业和信息化部近日印发《人工智能中小企业创业支持计划(2026―2028 年)》(以下简称《支持计划》)。

    2026-09-07
  • 南方电网P亮:六网融合、电碳算协同如何落地见效?

    2026中国国际大数据产业博览会期间,中国南方电网有限责任公司数字化部副总经理P亮,以“融通六网、价值共创”为主题发表演讲,阐释了六网协同的战略内涵,以及新型电网的枢纽定位,并分享了南方电网在电碳算协同领域从规划建设、智能调度到市场交易的全链条创新实践,为基础设施体系全局优化与价值共创提供了可借鉴的南网方案。

    2026-09-05
  • 工信部办公厅组织开展人工智能应用服务商培育专项行动

    9月2日消息,工信部近日发布《工信部办公厅关于开展人工智能应用服务商培育专项行动的通知》。该《通知》提出行动目标,以专项行动为牵引,建立服务商资源池,靶向提升服务商技术创新、集成交付、安全合规能力,锻造一批懂行业痛点、通技术机理、知安全风险、善交付运营的人工智能应用服务商队伍。到2026年底,全国服务商资源池内服务商数量突破2000家,形成结构合理、分工有序、协同创新的多层次梯队,复杂场景交付能力显著增强。到2027年底,全国服务商资源池内服务商数量不少于3000家,支撑形成全要素协同、全链条贯通、全场景覆盖的人工智能应用服务生态。

    2026-09-02
  • 商务部等7部门:智能网联汽车、人工智能终端等产品标准应用

    近日,商务部会同国家发展改革委、工业和信息化部、财政部、农业农村部、文化和旅游部、市场监管总局等部门印发《关于推动商品消费扩容升级的实施意见》(以下简称《实施意见》),提出加快智能网联汽车、智能家电家居、数码产品、人工智能终端等产品标准应用,加快制定智能家居互联互通标准,完善智能终端基础通信协议与数据接口国家标准。

    2026-09-02
  • 银河通用王鹤:期待具身智能与人形机器人的核心突破时刻

    在2026世界机器人大会的主题论坛上,银河通用机器人股份有限公司创始人、首席技术官王鹤就道出了大家的心声。他在题为“推动具身智能与人形机器人的核心突破时刻”的演讲中,既分享了具身智能的前沿科技进展,也阐释了具身智能行业从实验室迈向规模化商业闭环的关键路径。

    2026-08-29
  • 落实“十五五”规划部署,以新质生产力引领新型工业化建设

    国务院新闻办公室举行“开局起步‘十五五’”系列主题新闻发布会,由工业和信息化部规划司司长姚B介绍“十五五”期间,如何实施发展壮大工业新兴产业、推动新兴产业规模化发展、提升全球竞争力,培育形成新兴支柱产业的部署与措施,并答记者问。

    2026-08-27
  • 锚定“十五五”,加快构建以先进制造业为骨干的现代化产业体系

    国务院新闻办公室举行“开局起步‘十五五’”系列主题新闻发布会,由工业和信息化部副部长辛国斌介绍全力抓好“十五五”规划实施、加快推进新型工业化的有关情况,并答记者问。

    2026-08-26
  • 2026信创合规数据中台推荐:瓴羊Dataphin以原生大模型驱动,助力企业合规兼顾效能

    随着2027年国资背景企业关键系统国产化节点即将到来,2026年已演变为信创工作落地的重要阶段。各类组织的信创步伐正从底层软硬件替换,持续向核心数据资产的管理层拓展。当我们为企业推荐数据中台系统时,会发现数据治理平台作为链接全端数据、辅助上层决策的枢纽,其信

    2026-08-26