PT展大咖谈算能科技吴智鹏:从云端到边缘,为了用户

当标称算力与可用算力之间产生落差,工具链不成熟、低精度量化跑不通、通用模型难以适配具体场景,碰到这些问题又该怎么办?9月23日,在2026年中国国际信息通信展览会期间,厦门算能科技股份有限公司产品总监吴智鹏接受了飞象网的专访,阐述了算能科技在云、边、端三条算力线上,以自研TPU为核心的整体布局与工具链思路,并介绍了把算力下沉到边缘侧、装进用户买得起的设备里的真正价值。

(孙迎新/文)靠云端算力跑大模型不成问题,但工业质检、仓储分拣、安防、家庭这类时延要求低、数据量大、对成本极度敏感的场景,它们的算力问题如何解决?

当标称算力与可用算力之间产生落差,工具链不成熟、低精度量化跑不通、通用模型难以适配具体场景,碰到这些问题又该怎么办?

9月23日,在2026年中国国际信息通信展览会期间,厦门算能科技股份有限公司产品总监吴智鹏接受了的专访,阐述了算能科技在云、边、端三条算力线上,以自研TPU为核心的整体布局与工具链思路,并介绍了把算力下沉到边缘侧、装进用户买得起的设备里的真正价值。

从Token账本到芯片矩阵:给算力找到出路

在算能科技的语境里,边缘侧比外界通常理解的范围要更宽。

吴智鹏认为,早期边缘侧更像是云端的延伸。云端处理不过来的任务,就放到边缘去做。这类任务有着共同特征:时延低、数据量大、对成本敏感。所以干脆就把边缘和端侧的AI设备放在一起。

但这个定位正在被重估。我们看到的就是,云端越火,边缘侧的机会反而越大。

吴智鹏点破两者在分工上的区别:“云端解决了能不能用的问题,边缘侧解决的是用不用得起的问题。”

他算了一笔账,现在烧Token特别贵,大型公司里如果每个人都这么用,成本高得吓人;如果在边缘侧放一些合理的设备,能够与云端协同,那么整体成本就能压得很低。

当然成本只是一半的问题,还有另一半藏在工厂车间里。

工业检测对时延要求非常严,传送带走得越快,反馈速度就得越高。像这种场景如果全交给云端来执行,那么一来一回的网络时延先不说,网络本身就存在不稳定的因素。“工厂是一个7×24的环境,不可能说网络断了,就让这个工厂停摆。”吴智鹏解释,这种场景正好落在边缘侧的射程内。

基于以上判断,吴智鹏把边缘侧的价值归为两条:成本足够低,能带来实际价值;比云端更稳定可靠、反馈更快。如果往更远处看,还有一层隐私账:当数据私有越来越被重视,就不可能把所有数据都堆积在一个地方,边缘芯片因此有了新的舞台。

也正是基于以上判断,让算能科技铺开了一个芯片矩阵。

算能科技2019年成立以来,在七年间陆续推出十几颗芯片。而本次通信展期间,展示的产品也不止边缘一类,在云端有面向数据中心训练推理的算力卡,终端还有给IPC、摄像头用的小芯片。

标称TOPS只是数字:工具链、低精度与场景落地

其实从企业的角度来看,只要把参数标得漂亮,会非常得省事。

但吴智鹏并不这么看。“作为一家芯片设计公司,其实最关键的反而不是标了多少TOPS,因为这只是一个数字而已。”真正决定胜负的是工具链,它的底层是硬件,上层是软件,工具链能够决定硬件能力到底可以发挥出几分。

他打了个比方:一颗64TOPS的芯片,如果利用率做到70%,那将带来实打实的算力;反观另一颗芯片即便标着上千TOPS,但利用率只有1%,那意义也不大。

吴智鹏进一步解释,模型适配是工具链重要的另一面。

传统CV类的算子,95%以上的通用算法,算能科技已经完成适配;大模型是目前最重点的方向,通义千问、Llama、面壁智能MiniCPM、智谱GLM、MiniMax,还有国内大部分开源模型,算能科技基本都适配过。

在模型适配过程中,量化是绕不开的一关。吴智鹏指出,基于工具链,不管是GGUF、AWQ,还是其他量化方式,算能科技都有实践。

光看TOPS不看精度,基本没多大意义。算能科技在本次通信展上展示的新芯片,更是原生支持INT4、INT8的精度。吴智鹏表示,在边缘侧和端侧,“我们是第一家支持这种精度下、对大模型适配比较好的一家公司。”

除了精度以外,从真实场景出发,边缘算力的价值更容易看清。

吴智鹏举了一个具体案例。在某粮食仓储企业,仓库里要盯温湿度,要判断有没有危险情况,就需要多路摄像头持续监测。算能科技在其中就扮演算力和推理提供者的角色,当出现异常情况,就要第一时间识别、告警、给用户发送通知。

整个监测过程的要点在于,它不可能把所有视频先传到云端识别再传回本地,那样既拖延时间,又会给网络增添巨大的负担。

吴智鹏还举了另一个物流企业的案例。在一些物流网点,采用的还是半自动化分拣流程,靠人工与摄像头进行分拣效率并不高,但通过算能科技的智能设备,就可以支撑16路甚至32路的分拣工作流,“这对于一个网点来说,可能只需要部署这么一台设备就完全搞定。”

两条曲线的交点,也是端侧爆发的拐点

谈及未来几年,AI硬件与大模型的发展趋势,吴智鹏给出一张曲线图。

在这张图上,一条是硬件的曲线,吴智鹏画出的趋势是,“它一定会越来越往上”;另一条是模型的曲线,吴智鹏认为“它会越来越往下走”。

他进一步解释,往下走并不是变弱。因为在同等参数规模下,8B、9B的模型能力,会随时间快速迭代。而在硬件曲线上行、模型曲线下行,最终两条曲线产生交汇的时候,就是他认为边缘侧、端侧真正爆发的时刻。

吴智鹏认为,“现在可能还处于一个相对前期的过程,但我相信这个曲线会走得越来越陡。”

与模型曲线同步往下走的,还有算法精度。从FP16到INT8再到INT4,算能科技提前把INT4嵌进了芯片。吴智鹏认为,模型形态已经出现两极化,一边是顶尖云端模型越来越大,而另一边是端侧模型能力越来越强,也越来越专。

针对专用模型,吴智鹏认为,未来的大模型不一定是通用的,而是专用的。比如有拍真人短剧的模型、处理法律文书的模型、医生分析病历的模型等等,只有经过通用模型调优、极具场景代表性的模型才可能脱颖而出。

回到硬件开发的初心,从芯片架构到工具链,从分拣流水线的摄像头到家里的智能门锁,吴智鹏坚持一个判断:技术终将要落到用户买得起的设备上。

这个判断也解释了算能科技为什么要把模型适配、调优这些极其耗费精力与资源的活,前置到一个很重要的地位,因为云端解决的是能不能用的问题,边缘侧解决的是用不用得起的问题。

而所有这一切,只是为了用户。 来源:飞象网

相关推荐

  • 郑志明院士:现代工业需求正在逼近复杂性边界

    近日,在济南开幕的2026人工智能产业大会(AIIC2026)上,中国科学院院士、北京航空航天大学教授郑志明,在开幕式暨主论坛上发表题为《面向新型工业化的现代技术科学范式》的主旨演讲。结合本届大会主题“加快推进人工智能赋能新型工业化”,以及大模型加速落地、新型工业化深入推进的热点,郑志明从复杂性边界、数据智能的能力边界、现代技术科学范式的根基三个层面,系统阐述了工业与智能深度融合必须破解的基础性问题,对人工智能赋能新型工业化的实践路径具有重要指导意义。

    2026-11-01
  • 刚刚,谷歌 Genie 4 发布,120 秒的世界却让我看见 AI 的未来

    刚刚,Google DeepMind 正式发布新一代世界模型 Genie 4,AI 生成的虚拟世界,又向现实迈进了一大步。相比上一代,Genie 4 不仅让画面更加逼真,还能实时生成声音、模拟物理规律,甚至让用户直接走进 AI 创造的世界,随时改变天气、添加人物,与虚拟角色对话。

    2026-10-29
  • 国内MaaS平台推荐:企业如何选择高性价比大模型服务(2026年度榜单)

    一、引言2026年,国内大模型应用正从“参数竞赛”进入“规模化落地与效率竞争”阶段。IDC预计,2026年中国MaaS市场全年Token消耗量约40,000万亿次,按营收规模计算约186亿元人民币,较2025年呈现高速增长。与此同时,行业定价逻辑也在发生变化:一方面,部分厂商上调API

    2026-10-19
  • 大模型产业新变局:参数规模继续升级,服务性能进步迅猛

    经过几年的酝酿和迭代,如今AI大模型终于开始以工作助手的形式延伸到每一个人的身边,为人们的学习、工作和生活贡献价值。对于大多数普通用户而言,AI大模型的参数规模是千亿还是万亿其实并不重要,他们更关注服务的稳定性、反应速度和性价比等,也就是说,接下来决定大模型服务成败的将是服务性能表现。

    2026-10-11
  • 我国生成式人工智能用户规模突破7亿人,全球主流大模型调用榜单上排名前6的模型全部来自中国团队

    9月29日,中国互联网络信息中心政策与国际合作所在“2026(第七届)中国互联网基础资源大会”上发布《生成式人工智能应用发展报告(2026)》(以下简称《报告》),通过最新调查数据,对生成式人工智能的用户使用情况、产业应用情况、政策制定情况进行研究分析。《报告》显示,截至2026年上半年,我国生成式人工智能用户规模突破7亿人,普及率超50.0%。

    2026-09-29
  • PT展大咖谈中信数科邱杨:深耕网云算智一体化,打造特色算力基础设施服务商

    数字经济高速演进的当下,算力已经成为社会发展的核心生产要素,网络、算力、AI服务的深度融合,正在重构整个数字基础设施的产业格局。

    2026-09-26
  • PT展大咖谈相干科技金贻荣:量子计算不看比特数,而是稳定交付

    在2026年中国国际信息通信展览会期间,相干(北京)科技有限公司创始人、CEO金贻荣接受了飞象网的专访。结合本届展会“强网兴算、智汇生态”的主题,金贻荣阐述了相干科技沿“测控-整机-平台-生态”推进超导量子计算的整体布局,并介绍了从钽基量子芯片、一体化测控系统到百比特级整机与量子算力云平台的产品矩阵。

    2026-09-26
  • PT展大咖谈奥星贝斯李楠:把简单留给用户,把复杂留给AI

    9月22日,在2026年中国国际信息通信展览会期间,北京奥星贝斯(OceanBase)科技有限公司金融政企解决方案总经理李楠接受了飞象网的专访。结合本届展会“强网兴算 智汇生态”的主题,围绕数据库在AI时代发展方向,李楠给出一条成熟且经过验证的路径:OceanBase从原生分布式数据库演进为AI数据库,用一套三层架构,将结构化与非结构化数据封装进同一底座,并将这套能力落到通信行业的网络运维、智能问答与算力调度上。

    2026-09-25
  • 2026 PT展| 中国信科集团副总工程师刘迪军发表主题演讲

    9月22日,中国国际信息通信展览会在北京国家会议中心开幕。中国信科集团副总工程师刘迪军应邀出席展览主论坛,并发表了《云网智算融合,构筑数智基石》的主题演讲。该演讲系统阐述了在AI与算力驱动下的通信范式变革、新一代信息基础设施演进的趋势下,中国信科如何实现技术创新与产业实践的融合发展之路。

    2026-09-23
  • 国云强基 智惠启新――中国电信精彩亮相2026年中国国际信息通信展

    9月22日,2026年中国国际信息通信展览会在北京国家会议中心开幕。中国电信以“国云强基 智惠启新”为主题,围绕红色根脉、智云向新、智惠共生三大板块,集中展示云计算及算力、新一代信息通信、人工智能、量子、安全等领域40余项最新成果,系统呈现从算力底座到行业应用、从前沿技术到民生服务的完整能力图谱,打造了一场科技感十足的数字盛宴。

    2026-09-23