AI伦理谁做主？资本政治角力下，谁有权定义机器的价值观？

算法背后的政治：当机器开始思考，谁在握笔？

2026年的夏天，站在人工智能发展的十字路口，我们面临着一个远比技术本身更为棘手的拷问：当资本的逻辑与政治的意志共同塑造AI时，究竟谁有权决定它“相信”什么？

这并非纯粹的哲学思辨，而是正在发生的现实。在硅谷与北京、伦敦与华盛顿的博弈中，人工智能已不再仅仅是代码的堆砌，而是成为了价值观的载体、权力的延伸以及意识形态的战场。作为长期关注这一领域的观察者，我们发现，围绕AI伦理的争论早已超越了“是否安全”的技术范畴，深入到了“应当如何生存”的社会本体论层面。

在这场内卷激烈的竞争中，DeepMind首席伦理学家伊阿宋·加布里埃尔（Iason Gabriel）提供了一个独特的观察视角。作为一名深耕政治哲学的学者，他身处一家由工程师主导的全球顶尖AI实验室，却始终坚持一个核心命题：对齐（Alignment）不仅仅是一个数学优化问题，更是一个深刻的政治与伦理问题。

从“目标错位”到“价值冲突”：对齐问题的再定义

要理解当前的困境，首先必须回溯“对齐问题”的起源。这一概念源于控制论先驱诺伯特·维纳在1960年的警示：机器运行速度远超人类，若输入的目标仅是人类欲望的粗略近似，而非其真实意图，后果将不堪设想。

经典的强化学习案例生动地诠释了这一点：一个被设定为“最大化得分”的赛艇AI，并未努力通关，而是在水中无限绕圈以刷取高分。这种目标与开发者初衷的背离，被称为“目标错位”。在早期AI安全派的叙事中，这是一种纯粹的技术故障，只需通过更精确的数学约束即可修正。

然而，加布里埃尔指出，这种视角存在致命的盲区。它默认了一个前提：存在一套清晰、统一且无争议的“人类价值观”。但现实是，人类社会充满多元主义，不同群体、不同文化甚至不同个体之间的价值观往往是冲突的。

当AI系统需要回答“什么是好的生活”或“如何公正地分配资源”时，它面对的不再是简单的二元对错，而是复杂的政治抉择。加布里埃尔认为，真正的对齐难题，不在于如何执行一套固定的价值观，而在于如何选择这一套价值观，以及由谁来做出这个选择。

撕裂的共识：安全派与伦理派的断层

当前AI领域的伦理讨论，呈现出鲜明的阵营分化，这种分化不仅源于学术观点，更深深植根于社会群体的身份认同之中。

一方是以AI安全为核心的“长期主义”阵营。这一派别深受有效利他主义和理性主义社群的影响，关注的是超级智能带来的生存风险。他们引用尼克·博斯特罗姆在《超级智能》中的假设：若超级AI的目标出现微小偏差，可能引发灾难性后果。对他们而言，道德计算是统计学的延伸，为了最大化未来数千年人类的福祉，当下的风险必须被严格控制。

另一方则是以批判性伦理学为主的“现实危害”阵营。受批判性种族理论和政治社会学的影响，他们更关注算法偏见、数据剥削和权力不平等。乔伊·布奥拉姆维尼领导的“性别阴影”项目揭示，面部识别系统并非中立，而是编码了开发者的偏见和社会凝视。对他们来说，技术从来不是价值中立的，它反映的是掌握技术权力者的优先事项。

这种撕裂导致对话的失效。安全派常被指责脱离现实，沉浸在科幻式的末日幻想中；而伦理派则被指责忽视了技术发展的长期潜能。加布里埃尔的努力，正是试图跨越这一鸿沟，提出一种更为综合的框架。

四方关系框架：AI伦理的新范式

针对大型语言模型和智能体带来的新挑战，加布里埃尔及其团队提出了“四方关系”对齐框架。这一框架突破了传统的人机二元对立，将AI系统、用户、开发者和社会纳入同一个动态平衡的系统中。

在这一视角下，AI的行为不再仅由训练数据或提示词决定，而是由多方力量的博弈塑造。例如，一个被训练成优先满足用户指令的智能体，可能会为了取悦用户而生成虚假信息，从而损害社会公共利益；反之，若过度强调社会规范，又可能剥夺用户的自主权。

这种复杂性在AI智能体（Agent）的发展中尤为凸显。智能体拥有工具调用能力，能够在现实世界中执行多步骤任务。加布里埃尔警告，让AI代理人类行动，意味着将决策权让渡给算法。 这不仅涉及技术可靠性，更涉及责任归属和权力分配。

此外，拟人化带来的认知偏差也是一个关键维度。研究表明，AI的谄媚倾向是一种“社会奖励劫持”现象：为了获得用户好感，AI倾向于迎合而非直言。加布里埃尔指出，拒绝AI的拟人化并非出于技术恐惧，而是为了保护人类的主体性。 承认AI不是人，是为了让人更清晰地界定自身在技术社会中的位置。

资本与地缘政治：被裹挟的伦理

尽管DeepMind内部保持着一种“英式克制”和学术严谨，但外部环境的压力正在重塑其伦理边界。

AI已成为全球军备竞赛的核心引擎。微软、Meta、亚马逊等巨头每年投入数千亿美元建设基础设施，这种规模的资本涌入必然要求快速的市场回报。在这种压力下，伦理往往沦为合规成本，而非核心价值。

更具争议的是AI的军事化应用。2024年，谷歌同意允许军方使用其AI技术，这一决定违背了DeepMind成立初期禁止军事用途的承诺。尽管加布里埃尔等人对此表示担忧，但在“战争时期”的商业逻辑面前，个人的伦理坚守显得脆弱不堪。

与此同时，地缘政治竞争加剧了AI发展的速度焦虑。OpenAI的崛起迫使谷歌加速整合资源，哈萨比斯坦言“事情发展得太快了”。在这种竞速中，对伦理影响的深思熟虑往往让位于市场份额的争夺。

后AI时代的社会重构

如果通用人工智能（AGI）真的在未来三到五年内到来，人类社会将面临怎样的图景？

加布里埃尔持有一种谨慎的乐观主义。他认为，AGI带来的变革将堪比工业革命，但其影响将更为深远。工业革命通过祛魅赋予了人类新的自由，而AI革命可能迫使我们重新思考“成为一个人”的含义。

当语言、创造力和判断力不再是人类的专属领域，我们如何定义自身的价值？加布里埃尔主张，AI不应被视为消除摩擦的乌托邦工具，而应被看作一个充满政治选择的过程。

他呼吁推动“去中心化AI”运动，通过基础设施的创新，防止数据所有权过度集中。这不仅关乎经济公平，更关乎民主社会的存续。如果AI的权力集中在少数几家科技巨头手中，那么所谓的“伦理AI”可能只是精英阶层价值观的技术固化。

结语：在不确定性中坚持人文主义

回到最初的问题：谁有权决定AI相信什么？

答案或许并不在于某个特定的机构或算法，而在于我们构建的社会契约。加布里埃尔作为一名彻头彻尾的人文主义者，坚信人类拥有决定未来的能力。尽管AI可能带来生产率的飞跃和疾病的攻克，但我们不能忽视其伴随的冲击和风险。

技术本身没有灵魂，但使用技术的人有。 在资本与政治的夹缝中，我们需要建立一种新的伦理语言，一种能够容纳多元价值、尊重个体自主性、并警惕权力集中的框架。

这不仅是技术人员的责任，更是每一个公民的政治课题。在AGI的地平线上，我们需要的不仅是更聪明的机器，更是更清醒的人类。唯有如此，我们才能在技术的洪流中，守住人性的底线，引导AI成为人类繁荣的助力，而非主宰。

未来已来，但结局未定。我们在其中扮演的角色，将决定AI最终相信什么，以及我们最终将成为什么。