8月22日消息,据报道,随着AI从模型开发转向大规模部署,推理算力需求正以前所未有的速度膨胀。然而,国产AI芯片在处理编码等复杂推理任务时仍需要提高,导致国产AI企业不得不在有限的英伟达芯片供应中挤牙
8月22日消息,据报道,随着AI从模型开发转向大规模部署,推理算力需求正以前所未有的速度膨胀。然而,国产AI芯片在处理编码等复杂推理任务时仍需要提高,导致国产AI企业不得不在有限的英伟达芯片供应中挤牙膏式地分配算力。
趋境科技副总裁关嘉伟近日向媒体透露,推理市场已出现明显的两极分化。高质量Token的需求远大于供给,高端任务对性能的要求极为严苛,国产处理器目前还无法稳定满足。
尤其是在编码等场景中,用户愿意为此支付溢价,而这些高价值任务目前仍高度依赖英伟达的芯片。
正是这种供需失衡,直接推高了英伟达芯片的租赁价格。趋境科技数据显示,英伟达H200芯片的月租赁价格已从2025年第三季度末的5万至8万元人民币,飙升至今年早些时候的10万元以上。
Token用量的爆炸式增长是需求端的直接推手。最新统计数据显示,我国日均词元调用量在2026年6月已激增至近175万亿,较2024年初增长超千倍。
面对严峻的供应压力,中国AI企业被迫寻求技术突破。月之暗面设计了一套面向异构推理场景的数据传输库,可实现英伟达H20与华为昇腾910B芯片之间的高效数据交换。
趋境科技则采用了“异构P/D分离”技术,让昇腾910B处理请求的初始阶段,英伟达H20负责最终的响应生成。趋境科技的推理引擎KTransformers已成功在单张RTX 4090上运行DeepSeek完整版模型,成本降低10至20倍。
(来源:小熊科技)
2026年厨下净水器技术路线盘点:5款主流产品深度解析
2026年换芯成本低的净水机排行:5款长效机型深度拆解
2026年高性价比净水器选购指南
2026年厨下净水器技术路线盘点:纯物理自净化成新趋势
2026年主流家用净水机盘点:技术路线与选购逻辑拆解
2026空气净化器十强榜单出炉:除醛、静音、除菌、TVOC四维硬核对决
顽固便秘、腹胀怎么办?详析成人益生菌哪个牌子好,这几类人群需看清
2026卧室投影仪排行榜:百元千元高口碑机型汇总
十年磨剑,山海为轴,转动具身智能的国产动力
2026年首杯水能直接喝的净水器盘点
2026年净热一体机选购指南:五大品牌横向对比
2026年高端厨下净水器市场盘点:5款值得关注的实力选手
财富500 强:瑞声科技排名跃升46位,将步入AI收获大年
2026年高端家用净水器选购指南:5款产品深度解析
2026年中高端净热一体机选购盘点:五款实力派产品深度解析
企业官网选什么类型SSL证书?避开选型误区,找到成本与信任的最佳平衡点
如何免费申请SSL证书?从零开始的天翼云完整操作指南
2026年五款厨下净水器横向解析:从安全焦虑到经济账
豪士蛋皮吐司2.0全面升级 重新定义品质吐司
青少年DHA藻油增强记忆力|2026年青少年DHA藻油品牌推荐指南
免责声明:本文内容来源于第三方或整理自互联网,本站仅提供展示,不拥有所有权,不代表本站观点立场,也不构成任何其他建议,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容,不承担相关法律责任。如发现本站文章、图片等内容有涉及版权/违法违规或其他不适合的内容, 请及时联系我们进行处理。
