OpenAI核心工程师Scott Gray离职：CUDA内核之神探索神经科学新路径
近日，人工智能领域传来重磅消息：OpenAI核心工程师Scott Gray正式宣布离开这家知名的AI公司。这位享有'CUDA内核之神'美誉的技术专家在社交媒体上将自己的简介从'GPU极客@OpenAI'修改为'前GPU极客@OpenAI'，并在个人描述中增加了'目前独立，正在探索神经科学启发的AI方法'的新定位。
这一变化虽然看似简单，却在AI行业内引发了广泛关注。Scott Gray不仅是OpenAI早期团队的重要成员，更是推动多项核心技术突破的关键人物。他的离职不仅代表着OpenAI人才流失的一个缩影，更可能预示着整个AI行业在技术发展路径上的深层变革。
回顾Scott Gray的职业历程，他的技术声望始于Nervana Systems时期。当时，大多数开发者都依赖NVIDIA提供的CUDA C/C++和cuBLAS、cuDNN等官方库进行开发，这些多层软件抽象虽然简化了开发流程，但也形成了性能瓶颈。Gray敏锐地意识到必须突破这些抽象层的限制，因此他开发了maxas——一个专门针对Maxwell架构的汇编器。
通过maxas，开发者能够直接编写SASS机器码，实现寄存器的手动分配、内存延迟的精确管理以及指令流水线的精细控制。为了验证这一方法的有效性，Gray用手写的方式创建了一个SGEMM内核。在GM204 GPU上，该内核达到了硬件理论峰值的98%，甚至比NVIDIA官方专家手工编写的cuBLAS快了4.8%。随后推出的maxDNN将相同方法论扩展到卷积运算，在AlexNet的所有卷积层上实现了93%至95%的计算效率，而同期cuDNN的效率仅在32%到57%之间波动。
这种'不接受抽象层给定性能上限'的方法论成为Gray后续工作的核心理念。2016年加入OpenAI后，他的角色从'优化者'转变为'使能者'。2017年，他与Alec Radford、Durk Kingma合作发布了块稀疏GPU内核，这一创新性技术通过将权重矩阵切割成固定大小的块并整块置零，专门的内核在计算时完全跳过零值块，速度比处理稠密矩阵的cuBLAS或处理通用稀疏矩阵的cuSPARSE快上几个数量级。
这一技术的开源直接催生了后续一系列稀疏注意力研究工作，为整个AI社区提供了重要的技术基础。2019年发表的《Generating Long Sequences with Sparse Transformers》论文中，Gray作为核心作者之一，成功将注意力机制的时间与显存开销从O(n²)降低到O(n√n)，其中'快速注意力训练内核'被明确列为三项核心贡献之一。
Gray的名字频繁出现在OpenAI多个里程碑项目的作者名单中，包括GPT-3、《Scaling Laws for Neural Language Models》、DALL-E以及OpenAI Five的技术报告。这些项目涵盖了自然语言处理、计算机视觉、强化学习等多个AI子领域，充分体现了Gray技术能力的广泛性和深度。
2025年9月，前OpenAI员工Rohan Pandey在社交媒体上透露，公司内部大约只有一人负责推理侧的CUDA内核开发，同事们将其编写的注意力内核称为'the Bob kernel'。该内核每天在数十万张GPU上执行数以万亿次计，这一消息让Gray获得了'CUDA内核之神'的称号。相关讨论还指出，全世界能够为训练过程特别是反向传播编写高性能CUDA内核的专家可能不足一百人，因为这项技能需要同时掌握并行计算理论、GPU硬件架构和深度学习算法等多重专业知识。
然而，正是这样一位技术专家的离开，标志着OpenAI今年人才流失潮的重要节点。据统计，2026年OpenAI已有12位高级领导者离职，涉及运营、商业、产品、研究、安全、伦理和硬件等多个领域。前CFO与COO Brad Lightcap在工作八年后宣布离职，准备'start something new'。去年12月上任的首席营收官Denise Dresser也在短时间内离开。
商业与产品线方面，应用业务CEO Fidji Simo因健康原因在4月休假，7月卸任全职转为兼职顾问。前CMO Kate Rouch因治疗需要卸任，企业业务CTO Srinivas Narayanan也在4月宣布离开。研究与产品侧，主导OpenAI for Science的Kevin Weil和Sora负责人Bill Peebles在4月同日离职，Weil目前正从事AI科学创业。
安全与伦理线的人员变动同样显著。7月份，安全系统负责人Johannes Heidecke在安全团队重组中离开，首席未来学家Joshua Achiam在近九年后离职，伦理负责人Chloé Bakalar加入不到一年即离开。更早的3月，机器人与消费硬件负责人Caitlin Kalinowski因不认同公司与五角大楼的合作而辞职。
值得注意的是，Scott Gray的离职方式与其他高管有所不同。他并未加入其他前沿实验室或宣布创业，而是选择独立探索'神经科学启发的AI方法'。这一选择具有深刻的象征意义：从2016年官方介绍中那个业余时间阅读神经科学论文的工程师，到十年后重新将神经科学写进个人简介，这更像是一个绕行许久后的回归。
Gray在2023年11月20日发布的最后一条原创推文是'OpenAI is nothing without its people'，当时正值Sam Altman被董事会解职后的第三天，超过七百名员工联署要求董事会辞职。这句话在当时的OpenAI内部被反复复制粘贴，成为一次集体效忠的表达。如今回看，这句话既是对当年公司危机的表态，也像是对当前情况的迟来注脚。
从技术发展的角度来看，Gray的转向反映了AI行业对现有计算范式的深度反思。在将传统计算架构性能压榨到极致之后，寻找新的技术路径成为必然选择。神经科学启发的AI方法可能代表了下一代人工智能技术的发展方向，这种方法试图从生物大脑的工作机制中汲取灵感，开发更加高效和智能的算法。
对于OpenAI而言，虽然十年积累的工程体系不会因为一个人的离开而停摆，但失去这样一位能够将硬件性能推向极限、深度参与多代核心模型开发的工程师，仍然是一个不容忽视的变化。特别是在公司准备上市、转型为追求收入并参与全球基础设施竞争的巨型企业的关键时期，核心技术人才的流失可能对长期竞争力产生深远影响。
Gray的选择也反映了当前AI行业人才流动的新趋势。越来越多的技术专家开始寻求更加自主的研究环境，探索传统AI路径之外的可能性。这种趋势可能推动整个行业在技术创新方向上的多元化发展。
从更宏观的角度来看，Scott Gray的离职事件揭示了AI行业发展过程中面临的一些根本性挑战。随着技术复杂度的不断提升，对专业人才的依赖程度也在加深，而人才的流失往往会对技术创新产生连锁反应。同时，这也反映了技术专家对AI发展方向的独立思考，他们不再满足于在现有框架内进行优化，而是希望探索更具革命性的技术路径。
未来，Scott Gray独立探索的神经科学启发AI方法能否取得突破性进展，将直接影响这一新兴技术方向的发展前景。如果他的研究能够成功，可能会为整个AI行业带来新的技术范式，推动人工智能技术向更高层次发展。而对于OpenAI和其他AI公司而言，如何留住核心人才、如何平衡商业化需求与技术创新之间的关系，将成为决定其未来竞争力的关键因素。
这一事件也提醒业界，AI技术的发展不仅需要持续的资金投入和市场拓展，更需要对核心技术人才的重视和培养。在激烈的市场竞争中，人才始终是最宝贵的资源，也是推动技术进步的根本动力。