郑乐锋 清华大学战略与安全研究中心博士生研究员，武汉大学国际法学博士研究生

编者按：

2026年9月23日至25日，习主席对美国进行国事访问。其间，两国元首就中美建设性战略稳定关系及重大国际地区问题深入交换意见，同意建立中美人工智能对话，交流人工智能相关风险和惠益。在此背景下，清华大学战略与安全研究中心人工智能与国际安全项目组成员围绕近期人工智能领域的热点议题，分别就中美人工智能竞争、人工智能安全风险与治理等问题展开探讨，交流对相关议题的认识与思考。

2026年9月12日，美国人工智能企业Anthropic首席执行官阿莫代伊（Dario Amodei）发表长文呼吁“放缓人工智能模型能力提升的速度”，并认为人工智能技术的发展速度“可能超越人类理解和控制的能力”。对此，美国总统特朗普予以驳斥，认为外界对人工智能风险的担忧被过度渲染，强调美国必须在人工智能领域保持对中国的领先优势，并称“谁赢得了人工智能，就赢得了未来。”由此可见，当前人工智能技术的突破性发展，或许已经使得美国再次陷入类似“斯普特尼克时刻”的焦虑状态。这种发展焦虑也会逐渐转化为安全焦虑，并进一步传导至其他国家，从而在全球范围内掀起新一轮的技术发展与竞争的狂潮。然而，在这一背景下，一个越来越值得国际社会警惕的问题就是，当前全球愈演愈烈的人工智能竞争是否可能滑向类似霍布斯所描述的“自然状态”，即在缺乏有效共同约束和安全保障的情况下，各行为体因相互猜疑和安全担忧而陷入持续竞争甚至冲突的状态？

一、全球人工智能竞争的“霍布斯化”趋势

霍布斯式“自然状态”意味着在缺乏共同权威的环境之中，各行为体基于不确定性与不信任采取实力增强的行为，从而形成竞争与冲突的循环。若将这一逻辑投射到当前全球人工智能领域的竞争态势，可以看到这种技术竞争正在呈现出某种值得警惕的“霍布斯化”的趋势。

首先，当前全球人工智能治理仍明显处于规则缺乏阶段。近些年来，国际社会已经围绕人工智能安全、伦理以及军事领域应用等议题开展了持续性磋商，并形成了一系列的原则、宣言、倡议和治理框架。但总体而言，这类国际共识性文件仍具有较强的软法属性，尚未形成具有国际法约束力的规则体系，并且在很大程度上更多依赖国家和企业的自愿遵守。与此同时，随着人工智能技术的快速迭代发展，全球人工智能治理的议程也正在发生变化。特别是自2025年巴黎人工智能行动峰会以来，全球人工智能治理议程的重心正在发生转移，由此前以安全为导向的治理焦点，逐步转向强调技术发展和产业竞争。这种转向本身并非意味着安全议题被边缘化，但却意味着不同国家对于人工智能治理目标、监管方式和技术发展层面的分歧进一步凸显。

▲2025年2月10日在法国巴黎大皇宫拍摄的人工智能行动峰会现场。（图源：新华社）

其次，人工智能技术加速主义正在不断加剧“安全困境”。霍布斯式“自然状态”的核心并不是所有行为体都具有侵略意图，而是由于不存在一个能够充分保证彼此安全的共同权威，即使各方都希望维持和平，也可能为了避免落后而不断增强自身能力。人工智能竞争所面临的恰恰是这种“安全困境”，当这种不信任不断累积之后，技术进步本身就可能成为“安全困境”的催化剂。一国在人工智能模型能力、算力或算法等方面取得突破，往往会被另一国视为潜在的安全威胁。阿莫代伊实际上也意识到了这一问题，虽呼吁“控制前沿发展节奏”，但并非主张停止人工智能技术发展，而是为安全评估、风险治理和国际协调争取必要的时间。同时，他也承认如果美国及其盟友大幅放缓人工智能发展，而竞争对手继续推进技术发展，就可能造成重大国家安全风险。

第三，人工智能竞争逐渐呈现出技术军备竞赛的趋势。当“避免落后”成为国家安全目标时，技术竞争本身就可能具有一种类似军备竞赛的性质。人工智能技术已经不再只是促进经济增长和产业升级的通用技术，而越来越被赋予国家实力和战略竞争的属性。当前越来越多的国家加快军事领域人工智能技术应用，不断拓展人工智能技术在情报分析、目标识别、指挥决策、无人作战以及网络攻防等方面的应用能力，已经成为国防军事能力竞争的重要组成部分。9月19日，美国总统特朗普更是官宣组建人工智能部队的计划，或将直接促使全球新一轮技术军备竞赛快速升温。然而，不同于传统军备竞赛的是，人工智能具有更强的军民两用属性和更快的技术迭代速度，因而技术竞争、产业竞争与军事竞争之间的边界更加模糊。一个国家扩大算力基础设施和模型能力研发，既可以被视为经济和科技发展的需要，也可能被其他国家理解为潜在军事能力的增强。这种能力与意图之间的模糊性，使人工智能竞争更加难以通过传统的军备控制和战略稳定机制进行有效的风险管控。

二、技术大国应为竞争设定安全边界

尽管全球人工智能竞争正在加剧，但历史经验表明，技术竞争并不必然导致失控，关键在于主要技术大国能否为竞争设置安全边界，从而将这种技术竞争控制在可管控风险的范围之内。冷战时期，美国与苏联在核武器领域处于高度对抗状态，但双方最终通过一系列军备控制协议和危机管理机制降低了冲突风险。虽然这些制度安排并未消除竞争，但却在核领域划定了不可逾越的红线。因此，问题的关键并不仅仅是“有没有规则”，而在于是否存在能够让各行为体相信其他行为体也会遵守规则的共同约束机制。

一是明确高风险领域限制人工智能应用范围。当前人工智能技术正加速向军事、网络、生物、化学等高风险领域渗透，其自主能力和不确定性，以及潜在的失控风险，都可能会进一步放大相关领域的安全风险，甚至催生出难以预见的新型风险。因此，需要中美等主要技术大国针对人工智能在高风险领域应用设立明确的安全边界，防止技术能力突破人类可控制的范围。2024年11月中美元首利马会晤时明确表示，应维持由人类控制核武器使用的决定，这为人工智能技术可能介入核指挥决策体系划定了重要的安全底线，也彰显出中美两国负责任的大国形象和国际担当。然而，类似的原则共识不应止于核领域，国际社会还应进一步明确人工智能技术应用可能涉及到的高风险领域，以及在相关领域划定“红线”和“底线”，不仅为技术创新保留合理空间，也能够防止在相互竞争和安全焦虑的驱动下突破风险边界，进而可能引发灾难性后果。

二是建立稳定的战略沟通渠道和危机管理机制。人工智能技术的快速发展不仅加剧了国家间的技术竞争，也增加了各国因信息不对称而造成误解误判甚至发生冲突的可能性。因此，在全球人工智能竞争加剧的背景下，建立稳定、畅通的战略沟通渠道和危机管理机制尤为重要。当前中美两国已经重启人工智能领域政府间对话机制，为大国协调管控人工智能技术风险搭建了基础性沟通平台。然而，由于彼此利益与安全关切存在差异，两国还需要重新校准具体议题事项。尤为重要的是，两国可以探索建立人工智能领域的风险通报、紧急磋商和危机管控机制，在出现人工智能系统失控或可能引发国际安全风险的事件时，为有关国家提供及时沟通和风险降级的渠道。

三是共同防止人工智能技术被恶意行为体滥用和误用。相较于核武器等传统战类武器较高的获取门槛，人工智能技术具有较强的商业化特征，极易被犯罪集团和恐怖组织等恶意行为体获取，其滥用人工智能技术可能对国际社会带来严重的安全威胁。因此，防止人工智能技术被恶意滥用是国际社会具有共同利益基础的领域，也是不同国家超越竞争开展安全合作的重要切入点。对此，各国尤其是主要技术大国应建立更加紧密的安全协作机制，加强人工智能安全风险监测和信息共享，不断提升对人工智能恶意滥用行为的识别和应对能力，共同打击利用人工智能实施的跨境犯罪活动。

三、推动构建人工智能“安检”体系

在为全球人工智能竞争设定安全边界的同时，国际社会还需要进一步探索更具操作性的治理规则和机制安排。其中，一个具有启发意义的思路，是借鉴国际民用航空领域的经验，构建类似航空安检体系的人工智能安全机制。国际民用航空体系之所以能够在高度开放的全球网络中保持整体安全，并不是因为消除了所有安全风险，而是通过建立国际公认的安全标准来降低风险。特别是国际民航组织（ICAO）的标准与建议措施（SARPs），为各国确保航空安全措施提供了统一框架。无论航班来自哪个国家，都需要遵守国际通用的最低安全标准，并接受必要的“安检”程序。正是这种普遍化的制度安排，使得国际民用航空体系能够在开放与安全之间保持平衡。人工智能作为一种高度跨境且易获取的技术，同样需要类似的制度逻辑。

▲2025年7月23日，美国总统特朗普在华盛顿特区安德鲁·梅隆礼堂举行的白宫人工智能峰会上发表讲话。

一是提升安全风险评估能力。人工智能技术具有高度复杂性和快速迭代的特点，传统针对单一产品或单一应用场景的风险评估方式已经难以完全适应前沿人工智能技术的发展。因此，需要建立类似“航空安检”的人工智能安全风险评估体系，并在模型开发、训练、部署和应用等不同阶段开展持续性风险评估，尤其是增强对潜在的网络安全、生物安全、信息安全以及自主决策等安全风险的。同时，还应进一步推动不同国家在风险分类、评估指标和测试方法等方面形成最低限度的共同标准，减少各国由于风险认知和评估方式不同而产生的监管落差。

二是不断加强模型安全测试。安全风险评估只是解决“风险有多大”的问题，而安全测试就像民航管理中的“适航认证”一样，需要进一步验证前沿人工智能模型在复杂场景下是否可靠和可控的问题。因此，必须让前沿人工智能模型在进入大规模应用之前通过必要的“安检”测试，才能在技术扩散与风险控制之间建立起一道必要的防线。对于达到特定能力水平、具有较高潜在风险的人工智能系统，可以考虑建立类似航空器适航认证的安全认证制度，在满足最低安全标准后方可进入特定高风险应用领域。与此同时，还应推动建立更加规范的第三方测试机制，引入独立专业机构对前沿人工智能模型开展红队测试、压力测试和极端场景测试。

三是建立突发事件报告机制。国际航空安全体系的重要经验之一，就是通过事故报告、信息共享和经验反馈不断提高整个系统的安全水平。人工智能治理同样可以建立类似的突发事故和重大风险事件报告制度。当人工智能系统出现严重失控、重大安全漏洞，或者被发现可能造成跨境安全影响时，有关企业和国家应及时进行报告，并在适当范围内共享相关风险信息。特别是对于可能影响其他国家和全球公共安全的重大人工智能安全事件，应当建立快速通报和风险预警机制，避免单个事件因信息不透明和处置迟缓而演变为更大范围的国际安全危机。

如果说霍布斯所描述的“自然状态”是一种由于安全焦虑而产生的持续竞争状态，那么人工智能时代真正需要建立的，恰恰就是一种能够降低这种不安全感的最低限度“护栏”。 归根结底，人工智能时代真正需要避免的，并不是竞争本身，而是没有“护栏”的竞争。真正需要防范的不是技术发展的速度，而是安全机制的建设长期滞后于技术能力的增长。而对于当前国际社会而言，真正值得警惕的风险，或许不仅仅在于人工智能技术可能走向失控，更在于各国在激烈的人工智能竞争中逐渐失去建立共同规则的意愿和能力。如果这一趋势持续下去，霍布斯式“自然状态”就可能不再只是政治哲学意义上的假设，而将会成为人工智能时代国家间必须面对的充满风险的“黑暗森林”。

本文2026年10月10日首发于“中美聚焦”