直播间现场直播 无问芯穹夏立雪:推理本钱还有10倍下跌空间

“计较需求在指数级攀升,今天,仅依靠产能的线性增长去堆叠算力直播间现场直播,还是远远无法弥合供需之间抓续扩大的缺口。”
2026年全国东谈主工智能大会时刻,无问芯穹蚁合创始东谈主兼CEO夏立雪提议,当下的东谈主工智能基础花样(AI Infra)“必须以极致的服从行状更大边界”。

基于边界与服从两大锚点,夏立雪从无问芯穹的AI坐褥力公式(AI坐褥力=智能资源边界×Token滚动服从×AI坐褥力滚动服从)启航,初次公布无问芯穹Agentic Infra的“前店后厂一中心”战术布局,涵盖三大中枢时期才调与居品行状体系:“算力集散中心”:Agentic Infra自主式基础花样平台;“Token工场”:Agentic MaaS大模子行状平台;“AI坐褥力商店”:Agentic Infra行业处置决策。
这套Agentic Infra居品与行状体系容身基础花样,向下汇聚动力和芯片,朝上撑抓模子和诳骗,不仅极致进步底层资源向AI坐褥力滚动的边界和服从直播间现场直播,更有着Agentic AI期间最权贵的AI原生才调——用基础花样智能体蜂群赋能资源边界延长、提效Token坐褥,并支抓AgenticAI的抓续进化。
发布会现场,夏立雪用千卡至万卡边界下完好推理行状时期栈揭示了一座Token工场里面的可优化空间,观看已满十八岁电视剧“从网关、路由,到底层推理实例,Token工场层层可优化、处处有增量”。
夏立雪还裸露了无问芯穹首创的新一代推理系统优化恶果——跨集群异构PD区别架构。
该架构率先用高性价比的广域网以太网把漫衍在各地的、还是建好的同构数据中心连起来,让算力强的集群作念Prefill任务,让显存带宽高的集群作念Decode任务。这一架构蓄意特地于让“偏科”的硬件只刷我方最擅长的题,不错极大进步大模子推理系统服从,是每座Token工场王人必备的“超等管线”。
夏立雪判断,跟着跨集群异构PD区别架构的边界化落地,推理本钱依然有10倍的下跌空间。
现场,无问芯穹公布了在具身智能领域的全新探索——首个面向大边界具身任务的云边端一体化治理与调治平台。该平台初次把云表GPU集群、旯旮算力节点和机器东谈主真机开采调治接入到一个平台中,支抓考试、数据汇注、评测和真机本质等多种具身任务调治编排驱动,有用处置了具身考试中资源分散、跨集群协同辗转、任务脚色复杂、真机景色不行见、启动链路长的问题。
同期,针对具身智能的考试与推理部署两大中枢法子,夏立雪晓谕了无问芯穹两项时期升级:面向具身智能的大边界真机强化学习考试框架RLinf V0.3,以及面向机器东谈主与端侧AI场景的全栈的推理优化体系Mizar-Robo。
南边+记者 郜小平直播间现场直播

