a16z 领投!Inferact 携1.5亿美金入场,开启 AI 推理成本压缩大战
a16z 领投!Inferact 携1.5亿美金入场,开启 AI 推理成本压缩大战
继学术界孵化出多个现象级 AI 引擎后,开源推理框架 vLLM 的核心成员正式宣布成立初创公司 Inferact。该公司以 8亿美元的投前估值,成功完成了高达 1.5亿美元的种子轮融资。
顶级资本加持,加速“推理”商业化本轮融资由 Andreessen Horowitz (a16z) 和 Lightspeed Venture Partners 共同领投。此举证实了市场此前关于 vLLM 商业化路径的猜测,也标志着 AI 行业的重心正从“模型训练”全面转向“应用推理”。
技术背景: Inferact 孵化自加州大学伯克利分校 Ion Stoica 教授(Databricks 联合创始人)的实验室。其核心技术 vLLM 通过创新的显存管理技术,能显著提升大模型运行速度并降低能耗。
市场地位: 首席执行官 Simon Mo 表示,vLLM 的开源版本已被亚马逊云服务(AWS)及亚马逊购物等巨头广泛采用。
推理赛道的“伯克利双雄”Inferact 的亮相紧随 RadixArk(由另一知名框架 SGLang 商业化而来)之后。后者近期刚获得由 Accel 领投、估值4亿美元的融资。两家公司均出自伯克利实验室,它们的接连获投反映出投资者正不惜重金,抢占更快速、更经济的 AI 部署技术高地。
(来源:小熊科技)免责声明:本文内容来源于第三方或整理自互联网,本站仅提供展示,不拥有所有权,不代表本站观点立场,也不构成任何其他建议,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容,不承担相关法律责任。如发现本站文章、图片等内容有涉及版权/违法违规或其他不适合的内容, 请及时联系我们进行处理。
