贾扬清新创Intent Lab:AI军团Fleet如何让GLM-5.2推理狂飙534%?

5 阅读

在人工智能浪潮席卷全球软件行业的当下,我们正站在一个关键的转折点上:AI的角色正在从单纯的“代码助手”向“自主工程师”演变。近期,知名AI专家、前阿里云副总裁贾扬清在离开英伟达后迅速启动二次创业,成立了Intent Lab,并发布了其核心产品——一支名为Fleet的自主AI团队。这一举动不仅引发了业界的广泛关注,更通过一系列令人瞩目的技术成果,展示了AI在复杂系统工程中的巨大潜力。

Intent Lab创始人Yangqing Jia发布的推文

Fleet并非传统的编程辅助工具,它被设计为一支具备完整工程能力的虚拟团队。与传统AI仅负责生成代码片段不同,Fleet能够承担从需求理解、架构设计、任务协调、代码实现、测试验证到上线后持续演进的全生命周期工作。这种模式的转变,标志着软件开发正在进入一个由AI主导系统级构建的新阶段。

Intent Lab公布的早期成果极具震撼力。首先,在性能优化方面,Fleet通过对英伟达TensorRT-LLM代码的重构,成功将GLM-5.2模型的推理速度提升了534%,达到每秒647个token的处理能力,刷新了该模型的最快推理记录。其次,在系统构建方面,Fleet仅凭一条指令,便从头构建了一个与SQLite外部行为完全兼容的数据库引擎,并通过了全部600万项验收测试,且在使用开源模型的情况下,成本控制在350美元左右。最后,在基础设施领域,Fleet打造的面向Agent的分布式文件系统AgentFS,在目录状态查询等关键指标上,性能达到了亚马逊EFS的626倍。

展示Stock TensorRT-LLM性能提升分解的条形图

这些成果背后,是Fleet独特的六环节工作流机制。整个开发过程始于对模糊意图的精准捕捉。Fleet会与用户交互,明确目标、约束条件及验收标准,确保后续工作有的放矢。随后,进入设计与协调阶段,Fleet会权衡多种技术方案,确定系统接口与架构,并管理多组件间的依赖关系。值得注意的是,Fleet具备动态调整能力,当开发过程中出现新信息时,它会同步更新架构与代码,保持设计与实现的一致性。

在构建与验证环节,Fleet展现了极高的严谨性。验证并非仅在最后进行,而是贯穿整个构建过程。通过形式化证明、集成测试以及运行时故障注入等手段,Fleet能够在代码变化中及时发现潜在问题。即使软件投入生产,Fleet的工作也未停止,它会持续监控系统表现,将性能、成本及使用反馈融入后续迭代,实现系统的自我演进。

以GLM-5.2推理加速为例,这是一个极具挑战性的任务。TensorRT-LLM本身已是高度优化的推理引擎,进一步提速难度极大。Fleet通过自主分析,识别出内核、运行时、通信和推测解码四个关键瓶颈。在内核层面,通过内核融合及生成高效的PTX、SASS代码,减少内核启动开销,提升性能24%;在运行时层面,利用H2D批处理实现零拷贝,提升16%;在通信层面,融合集合通信、残差相加和RMSNorm操作,提升18%。最为关键的是在推测解码环节,引入DSpark技术,一次性提出并验证多个候选token,使推理速度进一步提升约4倍。最终,端到端性能实现了534%的飞跃。

展示不同模型运行环境(Stock TensorRT-LLM、

另一个典型案例是数据库的重建。Intent Lab给出的指令极为简洁:“构建一个与SQLite兼容的SQL数据库引擎,使其能够通过全部sqllogictest测试用例,性能达到或超过SQLite。”面对这一任务,Fleet没有参考现有代码,而是将测试集作为唯一的验收标准。它将工作分解为决策、架构、编码、测试、审查等多个角色,各角色间紧密协作。整个过程产生了8720万个输出token,其中编码仅占38.6%,而测试、决策、架构设计及审查占据了大部分比例。这深刻揭示了一个事实:高质量的系统构建,核心不在于代码生成的数量,而在于严谨的设计决策与全面的验证保障。

展示AI智能体舰队输出预算分配的数据图表,包含编码、测试、决

在分布式文件系统AgentFS的开发中,Fleet针对Agent频繁创建沙箱、扫描目录及处理小文件的工作负载特点,进行了针对性优化。测试显示,在mdtest基准测试中,AgentFS的目录和文件创建速度是EFS的45倍,文件读取速度是30倍。而在Agent常用的状态查询操作中,优势更为显著,目录状态查询速度达到EFS的626倍。此外,在Git代码库的操作测试中,AgentFS在克隆、状态查询及删除操作上也表现出数倍至十几倍的性能优势。更重要的是,Fleet通过形式化模型检查,覆盖了约190万个可达状态,成功发现并修复了一处可能导致数据损坏的并发Bug,证明了其在系统正确性保障方面的能力。

一张对比不同Git仓库操作(如clone、stat、dele

从技术经济学的角度来看,Fleet的出现可能重塑软件开发的成本结构。在构建SQLite兼容数据库的案例中,使用顶级商业模型Opus 4.8的成本约为2000美元,而全部使用开源模型时,成本降至350美元。这意味着,随着开源模型能力的提升及推理成本的下降,企业利用AI自主构建复杂系统的门槛将大幅降低。这种低成本、高效率的开发模式,对于初创公司及需要快速迭代的大型企业而言,具有极大的吸引力。

然而,我们也必须清醒地认识到,目前展示的成果仍属于早期阶段。虽然Fleet在特定任务上表现出色,但面对更加复杂、需求多变且涉及多方利益的真实商业项目,其稳定性、安全性及长期维护能力仍需经过更多实践检验。此外,AI自主决策带来的责任归属、代码可解释性以及潜在的安全风险,也是行业需要共同面对的课题。

贾扬清的再次创业及其推出的Fleet团队,不仅仅是一个技术产品的发布,更是对未来软件工程形态的一次大胆探索。它预示着,未来的软件工程师可能不再仅仅是代码的编写者,而是AI工程团队的指挥者与监督者。人类负责定义问题、设定边界与伦理准则,而AI负责具体的实现、优化与验证。这种人机协作的新范式,有望极大地释放生产力,推动软件行业向更高阶的智能化方向发展。

随着算力成本的持续降低和大模型能力的不断突破,类似Fleet这样的自主AI工程团队有望成为基础设施的一部分。它们将像水电一样,随时响应开发者的意图,快速构建出高质量、高性能的软件系统。对于开发者而言,掌握如何与这类AI团队高效协作,如何精准表达意图,如何设定合理的验收标准,将成为新的核心竞争力。

总之,Intent Lab的尝试为我们描绘了一幅激动人心的未来图景。在这个图景中,软件开发的边界被无限拓展,创新的周期被大幅压缩。虽然前路仍有挑战,但方向已然清晰:AI正在从工具演变为伙伴,从执行者演变为创造者。这一变革,才刚刚开始。