AI算力困局何解?无问芯穹Agentic Infra重构基础设施效率

0 阅读

随着人工智能技术从大语言模型向智能体(Agentic AI)演进,底层基础设施正面临前所未有的挑战。传统的线性算力堆叠模式已难以应对预训练、后训练以及推理时扩展带来的指数级增长需求。在这一关键转折点上,如何突破算力异质化、碎片化的瓶颈,实现效率与规模的双重飞跃,成为行业关注的焦点。无问芯穹提出的Agentic Infra理念,试图通过重新定义基础设施的架构与调度逻辑,为这一难题提供系统性解法。

无问芯穹夏立雪:基础设施的决胜点是AI原生Agentic Infra

算力集散的破局:从物理堆叠到逻辑聚合

无问芯穹夏立雪:基础设施的决胜点是AI原生Agentic Infra

算力资源的异构与分散是全球性难题。不同代际、不同厂商的芯片往往散落在各个数据中心,形成一个个“数据孤岛”。无问芯穹的核心策略在于构建一个“算力集散中心”,通过软件层面的深度优化,将物理上分散的算力在逻辑上统一汇聚。

无问芯穹夏立雪:基础设施的决胜点是AI原生Agentic Infra

这种跨域异构聚合并非简单的资源拼接,而是涉及计算、通信、调度三位一体的全栈协同。以超远距离聚合为例,无问芯穹联合中国电信完成了国内首例跨越4000公里的大模型跨域混训。在新疆哈密与广东深圳之间,通过计算通信重叠流水编排和自适应通信流调度,不仅打通了地理距离的限制,更实现了联合训练性能165%的提升。这证明了一件事:算力的价值不再局限于本地集群的规模,而在于全域资源的协同效率。

无问芯穹夏立雪:基础设施的决胜点是AI原生Agentic Infra

此外,针对多数据中心和混合云场景,该平台展现了极强的兼容性。在打通四个不同型号GPU集群的实践中,协同性能提升了41%,有效盘活了存量异构算力;而在混合云场景下,本地私有集群与公有云的安全互通混训使整体性能提升68%,解决了企业本地算力不足与云端资源闲置并存的结构性矛盾。目前,这套系统已在全国部署触达超过37,000P算力,覆盖16种主流芯片,为Agentic AI时代奠定了坚实的底座。

无问芯穹夏立雪:基础设施的决胜点是AI原生Agentic Infra

智能体扩展下的强化学习新挑战

无问芯穹夏立雪:基础设施的决胜点是AI原生Agentic Infra

当AI进入Agentic Scaling(智能体扩展)阶段,强化学习成为推动模型进化的核心动力。与传统的预训练不同,强化学习具有“多角色协同”的特性,对硬件种类的复杂度和规模量级提出了更高要求。

无问芯穹夏立雪:基础设施的决胜点是AI原生Agentic Infra

在这一场景下,跨集群强化学习成为新的锚点。它面临两大核心痛点:一是跨集群导致的不同角色间等待时间拉长,二是万卡级规模下硬件故障频发。显卡、服务器、网络乃至存储的故障将以小时级频率出现,而传统任务重拉起耗时数十分钟,严重阻碍了训练的连续性。

无问芯穹夏立雪:基础设施的决胜点是AI原生Agentic Infra

无问芯穹通过全链路深度优化,将跨域通信效率提升3-4倍,实现了通信开销的100%全掩盖。同时,搭建的故障无感训练机制,使得跨域强化学习能够连续一周0中断稳定运行。这意味着,大规模跨域强化学习不仅“跑得通”,更能“跑得快、跑得稳”。这一突破为未来支撑十万卡级以上的跨域计算资源,进而支持下一代Agentic AI的在线进化,提供了关键技术保障。

无问芯穹夏立雪:基础设施的决胜点是AI原生Agentic Infra

Token工厂:以极致效率重构推理成本

无问芯穹夏立雪:基础设施的决胜点是AI原生Agentic Infra

如果说算力集散中心解决了资源规模问题,那么“Token工厂”——Agentic MaaS大模型服务平台,则致力于解决Token的生产效率问题。在智能体交互场景中,上下文极长、交互轮次多、缓存命中率高的“三极”特征,对推理系统的吞吐和时延提出了严苛要求。

无问芯穹夏立雪:基础设施的决胜点是AI原生Agentic Infra

无问芯穹首创的跨集群异构PD分离架构(PDD),是这一“工厂”的核心引擎。传统同构集群往往存在“偏科”现象,有的擅长Prefill,有的擅长Decode。PDD架构通过高性价比的广域网以太网连接各地同构数据中心,让算力强的集群专攻Prefill,显存带宽高的集群专攻Decode。这种“让硬件做自己擅长的事”的设计,极大提升了系统整体效率。

无问芯穹夏立雪:基础设施的决胜点是AI原生Agentic Infra

为了解决跨集群传输中的带宽和延迟瓶颈,无问芯穹将Decode Radix Cache技术创新性地迁移至PDD架构,使跨集群KV Cache传输数据量降低一个数量级。同时,PDD将传统的P-D链路解构为P-RLD-MD三级架构,通过RelayDecode先行输出Token,掩盖了以太网传输的高延迟。实测数据显示,该架构使首Token延迟(TTFT)降低51.5%,单Token成本降低37.5%。

无问芯穹夏立雪:基础设施的决胜点是AI原生Agentic Infra

这一技术演进推动了推理成本的大幅下降。过去一年,无问芯穹Token工厂已通过原始技术创新实现推理成本10倍下降。随着PDD架构的规模化落地,未来仍有10倍的降本空间。目前,该平台单日Token调用量已实现40倍爆发增长,形成了“业务带技术、技术提效率、效率促增长”的正向飞轮。

无问芯穹夏立雪:基础设施的决胜点是AI原生Agentic Infra

AI原生能力:基础设施的自我进化

无问芯穹夏立雪:基础设施的决胜点是AI原生Agentic Infra

Agentic Infra的另一个显著特征是“AI原生”,即利用智能体赋能基础设施本身,形成自主迭代、自我优化的闭环。无问芯穹构建的“基础设施智能体蜂群”,涵盖了平台管家、集群运维和算子生成三大子系统。

无问芯穹夏立雪:基础设施的决胜点是AI原生Agentic Infra

photoLink

平台管家智能体通过自然语言交互,降低用户操作门槛,独立解决80%的日常资源运营与排障问题。集群运维智能体则充当7×24小时的“专家团”,实现从“人找问题”到“问题自己解决”的转变。验证数据显示,该系统使运维人效提升5倍以上,关键故障处理效率提升6倍。

无问芯穹夏立雪:基础设施的决胜点是AI原生Agentic Infra

在算子生成方面,KernelMind系统通过五步闭环工作流,持续自迭代并交付工业级高质量算子。在GLM5.2模型实测中,该系统在NVIDIA旗舰卡上实现7.3%的性能提升,在AMD旗舰卡上更是带来39%的性能跃升。这表明,基础设施不再是静态的资源池,而是具备感知、决策和执行能力的智能体集群。

无问芯穹夏立雪:基础设施的决胜点是AI原生Agentic Infra

迈向物理世界:具身智能的基础设施支撑

无问芯穹夏立雪:基础设施的决胜点是AI原生Agentic Infra

随着AI从数字世界延伸至物理世界,具身智能成为新的增长点。无问芯穹将Agentic Infra的理念延伸至具身智能领域,发布了首个面向大规模具身任务的云边端一体化管理与调度平台。

无问芯穹夏立雪:基础设施的决胜点是AI原生Agentic Infra

该平台统一接入云端GPU、边缘节点和机器人真机,支持训练、数据采集、评测和执行的全流程编排。针对具身智能大规模真机强化学习的痛点,RLinf V0.3版本支持跨域端云协同,实现了1000+次真机在线上下线训练0中断,并将近百家真机的专线需求降至2Gbps以下,大幅降低了规模化训练的成本门槛。

无问芯穹夏立雪:基础设施的决胜点是AI原生Agentic Infra

在端侧推理优化方面,Mizar-Robo体系通过四层协同优化,释放端侧硬件潜力。在与WALL-OSS模型的联合部署中,端侧推理时延从500ms压缩至70ms,性能提升7.14倍,保障了实时交互的流畅度与续航能力。

无问芯穹夏立雪:基础设施的决胜点是AI原生Agentic Infra

从算力集散到Token生产,再到基础设施的自我进化及具身智能的落地,无问芯穹通过Agentic Infra体系,正在重新定义AI基础设施的标准。在AGI时代,基础设施的竞争焦点已从单纯的产能规模转向了“规模与效率”的双重极致化。这不仅是对技术能力的考验,更是对行业生态整合能力的深度博弈。

无问芯穹夏立雪:基础设施的决胜点是AI原生Agentic Infra

无问芯穹夏立雪:基础设施的决胜点是AI原生Agentic Infra

无问芯穹夏立雪:基础设施的决胜点是AI原生Agentic Infra

photoLink

photoLink

photoLink

无问芯穹夏立雪:基础设施的决胜点是AI原生Agentic Infra