联合国在人工智能领域面临新的考验

古特雷斯警告 人工智能发展已超越全球治理能力

作者：艾哈迈德·法提 (Ahmed Fathi)

联合国总部，纽约: 当我向联合国秘书长提问，询问各国政府是否仍然掌控着足以影响选举和冲突走向的技术时，他的回答出乎意料地直率。他表示，联合国并不掌握真正的杠杆力量。联合国拥有机制、平台和程序，但并没有强制结果的权力。

这一刻的重要性不在于它有多么出人意料，而在于它的坦诚。它直白地说出了许多政府和机构私下承认的现实：人工智能发展的速度，已经超过了政治和法律体系对其进行有效监管的能力。

接下来的表态并不是对全面监管的呼吁，而是对现实边界的清醒描述。秘书长阐明了联合国在人工智能领域能够切实做到的事情：汇集专家，设立科学委员会，发布评估报告，并推动全球对话。这些努力本身具有分量，但并不等同于执法。它们更像是治理的框架，却缺乏制定和执行规则的权威。

这一落差正处在全球人工智能讨论的核心。联合国试图围绕人工智能建立共同认知和通用语言，而不是推出附带惩罚机制的强制性规则。这种选择更多反映的是政治现实，而非制度能力不足。各国在一个直接关系到国家安全、经济竞争力和战略力量的领域中，并不愿轻易放弃控制权。因此，联合国更多是在塑造讨论方向，而非决定最终结果。

在联合国近期关于人工智能的努力中，雄心与权力之间的差距尤为明显。相关声明和决议强调伦理、包容性与合作，却有意回避可能约束强国或大型科技公司的承诺。由此形成的体系，能够提示风险、塑造规范，却难以在最具影响力的参与者选择抵制时推动实质性改变。

当被追问“真正有效的安全护栏”应当是什么样子时，秘书长将焦点集中在一个核心原则上：人类主导权。他强调，人类必须始终掌握决策权，尤其是在涉及生命的问题上。他明确反对能够自行决定杀谁、在哪里杀、为何而杀的自主武器系统，这是他在新闻发布会上划出的最清晰的道德红线之一。

他关于科技公司权力不断扩大的回应同样耐人寻味，尽管语气更为克制。他指出，监管最终是各国政府的责任。现有的反垄断和竞争法律可能需要为数字时代作出调整，但执行不会来自联合国秘书处。如果真的发生改变，也只能来自各国首都。

这些问答背后，折射出一个更深层的趋势：权力本身正在发生变化。如今，权力不再只由领土、军事实力，甚至经济规模来衡量，而越来越取决于数据，以及谁掌控着收集、处理和运用数据的系统。这种转变正在持续地将影响力从公共机构转移到私营主体手中，其速度远远快于全球规则和制度的适应能力。

这不仅仅是监管层面的挑战，更涉及合法性问题。当塑造整个社会走向的决定，越来越多地由缺乏民主监督的算法作出时，传统的问责观念开始动摇。秘书长并未将此描述为阴谋或道德崩塌，而是将其视为一种结构性失衡，而现有机构尚未真正理解，更谈不上解决。

叠加在这一问题之上的，还有尚未解决的公平挑战。许多国家缺乏制定人工智能政策或充分分享其成果所需的资源和能力。如果没有对技能、基础设施和制度的持续投入，全球对话很可能被既有权力最集中的国家和主体主导。没有资源支撑的治理，并不会缩小差距，只会加剧不平等。

整体来看，这次交流清晰地勾勒出联合国在人工智能问题上的位置。它依然是一个点出风险、阐述价值、讨论规范的场所，但并非一个能够强制执行结果的机构。秘书长并未掩饰这一现实，他的坦率反而格外醒目。

悬而未决的问题在于，一个以召集、预警和建言为使命的体系，是否能够演变为真正影响行为的机制。就目前而言，联合国在人工智能问题上的路径，反映出全球秩序中的一个更大现实：权力的移动速度，正在快于法律和制度的反应速度。