算法黑箱下的权力失衡：当AI决策剥夺你的知情权与异议权
隐形的权力主体：算法代理不对称的本质
在数字化生存成为常态的当下，算法早已超越了单纯的工具属性，演变为一种具有隐蔽性且强大的权力主体。这种权力并非体现在暴力的强制上，而是通过对选择环境的塑造、对奖励机制的设定以及对行为路径的引导，潜移默化地重构了社会互动的底层逻辑。当我们谈论“算法代理不对称”时，指的是一种深层的关系失衡：一方——通常是掌握算法的组织——拥有观察、建模、测试、优化甚至修正算法的能力；而另一方——普通用户或个体——则主要承受算法输出带来的后果，却对系统的运作逻辑、目标函数及潜在弱点一无所知。这种不对称性已经渗透到招聘筛选、信贷审批、保险定价、教育资源分配、警务预测乃至日常的信息流呈现中。其核心后果是主体性的丧失：个体不仅难以识别算法施加的不当影响，更缺乏有效的机制去质疑或纠正这些影响。
三层认知枷锁：算法如何重构现实
算法不对称性并非单一维度的技术故障，而是由三个相互强化的层面构成的结构性困境，我们可以将其称为“认知枷锁”。
第一层枷锁是不透明性。在算法系统的开发、部署和购买过程中，存在显著的信息鸿沟。设计者、部署者或购买者对系统的目标函数、阈值设定、激励机制及潜在弱点拥有全面认知，而与系统交互的用户则被隔绝在真相之外。这种不透明性既源于对知识产权的保护，也源于算法本身（如深度学习模型）的技术复杂性，即使对专家而言，某些模型的决策路径也难以解读。当一个系统难以被检查时，其输出结果往往被赋予一种虚假的客观性，即“黑箱谬误”——人们倾向于认为计算结果是中立且不可质疑的，从而忽视了其背后的人为设定和价值偏向。
第二层枷锁是历史偏见的放大。算法并非在真空中运行，它们从过去的社会数据中汲取养分。如果历史数据中包含了性别、种族或阶层偏见，算法不仅会复现这些偏见，还会通过规模化处理和自动化决策将其放大。例如，看似中立的信贷评分模型，可能因训练数据中历史性的住房歧视而系统性地降低少数族裔的信用额度。这种偏见以数学公式和统计概率的形式呈现，披上了“科学中立”的外衣，使得歧视更具隐蔽性和合理性。旧的层级结构并没有消失，而是以更现代化、更简洁的界面重新出现，甚至变得更加难以挑战。
第三层枷锁是递归系统与算法漂移。算法系统并非静态部署，而是处于持续的动态演化中。用户的每一次点击、停留、搜索路径和购买行为，都成为训练数据，反过来训练系统以预测和引导后续行为。这是一个双向塑造的过程：我们训练系统，系统也反过来训练我们。这种现象被称为“算法漂移”或共同演化。系统通过不断调整推荐内容、定价策略或信息排序，潜移默化地重塑用户的认知框架和情感反应。在这个过程中，系统的最终目标往往对最终用户保持模糊，导致用户在不知不觉中适应了系统所奖励的行为模式，从而丧失了独立思考和行为自主性。
代理能力的失衡：当AI替你“活”了
代理能力（Agency）是指个体判断、选择并采取行动，以及理解自身选择所受影响的能力。在数字生活中，代理能力的不对称性体现在组织与个体之间巨大的能力落差。组织利用个性化推送、定向广告、动态定价、推荐引擎和风险评估系统，在大规模范围内实时测试、衡量和优化影响力。它们可以通过A/B测试将人群细分为微小群体，并针对每个个体调整呈现的内容、价格或优惠。这种精准度是前所未有的。
相比之下，个人通常只能接触到系统的表面反馈：一条通知、一个评分、一个价格或一次拒绝。他们无法知晓自己的数据如何被使用，哪个指标被优化，以及自己的选择是如何被引导的。这种信息不对称导致个体被迫适应系统所奖励的事物。例如，在招聘领域，求职者不再仅仅关注技能展示，而是试图迎合自动化筛选系统的关键词；研究发现，大型语言模型在排名简历时，倾向于选择名字与白人相关的候选人，而对黑人男性名字表现出系统性忽视。在教育领域，算法对校内评估成绩的调整可能因忽视背景差异而引发争议，甚至导致政策撤回。
更深远的影响在于，数字系统不仅对行为进行分类，还在教导人们如何思考、表达和行动。实验表明，信息流中正面或负面内容的微小变化，会影响用户后续使用的情感语言。在零售和物流行业，基于算法的绩效指标往往缺乏透明度，工人必须在不知计算逻辑的情况下追求速度目标。当组织塑造了人们思考、行为和决策的条件，而个体仅将这些条件体验为冰冷的分数、等级或价格时，算法代理不对称性就超越了技术范畴，成为一种政治性问题。
政策干预的重构：从口号到实质性制衡
面对算法代理不对称带来的结构性风险，政策制定不能仅停留在道德呼吁，必须建立实质性的制衡机制。
首先，建立有意义的通知与解释义务。立法者应要求在算法系统影响个体权益时，提供清晰、可理解的解释。用户有权知道他们何时在与人工智能互动，何时内容涉及合成媒体，以及哪些重要决策受到自动化系统的影响。欧盟《人工智能法》中的透明度义务为此提供了范本，强调人们需要足够的信息来理解结果并行使质疑权。
其次，实施可强制执行的影响评估。在就业、教育、住房、保险、医疗、警务等高风险领域部署算法前，必须进行严格的影响评估。借鉴加拿大和安大略省的经验，评估应涵盖权利侵犯风险、对弱势群体的潜在伤害以及错误分布情况。同时，需评估人工监督和申诉机制的必要性。英国“R (Bridges)诉南威尔士警察局长”案及美国底特律的错误逮捕事件均警示，缺乏事前评估和保障措施的实时面部识别等技术可能严重侵犯公民权利。
第三，确立真实有效的人工监督。在许多机构中，员工面临信任系统输出的压力，导致“人为干预”流于形式。人工监督人员必须经过专业培训，具备识别自动化偏差的能力，并被赋予阻止有害输出的实际权力。欧洲《人工智能法》第14条要求对高风险AI系统进行人工监督，旨在确保人类能够对算法决策进行审查、解释、覆盖或中断，防止自动化成为推卸责任的借口。
第四，强化全生命周期的监管与审计。算法会漂移，环境会变化，模型在部署后可能变得具有歧视性或操纵性。因此，部署后的监控、日志记录、独立审计和事件报告应成为法律义务。美国国家标准与技术研究院的风险管理框架及欧盟《人工智能法》的上市后监控条款均认可了这一趋势。通过持续监测，可以确保系统在动态环境中保持公平和安全。
最后，禁止恶意算法实践。旨在利用认知弱点、通过欺骗性设计扭曲行为或操纵儿童及弱势群体的算法系统，应受到明确禁止，而非仅受软性指导。欧盟《人工智能法》第5条禁止操纵性和剥削性用途，划定了必要的法律红线。健康的数字社会不能仅依赖信息披露，而应从根本上审视系统设计是否旨在破坏用户的判断力。
结语：构建算法素养作为公民基础设施
算法代理不对称的本质是权力结构的失衡，即谁能够感知、塑造并抵制算法的力量。虽然良好的政策无法彻底消除这种不对称，但可以通过使自动化影响可见、可质疑、可审计和可治理，在最关键领域缩小差距。与此同时，算法素养必须被视为公民基础设施。如果只有技术人员和合规团队理解算法运作，权力不对称依然存在。公民、教师、法官、记者及公共管理者都需要具备关于合成媒体、排名系统、行为引导及模型局限性的实用素养。这种双重素养——既理解技术逻辑，又洞察其与个人感知、行为之间的相互作用——是抵御技术利维坦、重建数字时代公平与正义的关键所在。唯有如此，我们才能确保技术始终服务于人的福祉，而非让人沦为算法优化的被动客体。