朱荣生：清华大学战略与安全研究中心特约专家
聂正楠：清华大学社会科学学院战略与安全研究中心博士后、助理研究员
国际社会日益关切如何在享受人工智能技术创新成果的同时，采取必要措施以降低相关道德伦理和安全风险，呼吁提高对人工智能全球治理议题的重视程度。尽管国际社会认识到推动这一全球治理议题的紧迫性，但是相关治理进程依然缓慢。
顺应全球科技发展趋势，中国加快人工智能技术创新发展，并且为人工智能全球治理注入至关重要的新能量。2023年10月，习近平主席在第三届“一带一路”国际合作高峰论坛开幕式上宣布，中方提出全球人工智能治理倡议，愿同各国加强交流和对话，共同促进全球人工智能健康有序安全发展；2023年11月，习近平主席向2023年世界互联网大会乌镇峰会开幕式发表视频致辞时强调，中方愿同各方携手落实《全球人工智能治理倡议》（以下简称《倡议》），促进人工智能安全发展。
《全球人工智能治理倡议》于2023年10月发布，提出11项倡议。
人工智能全球治理面临的挑战
根据经济合作与发展组织（OECD）的统计，有关国家和地区共发布关于人工智能治理的法律法规、行政指令、伦理规范达326项。这些治理文件不仅高度关注人工智能现实应用可能引发的传统安全风险，也关注其可能助长恐怖主义、增加社会不公平、冲击就业等非传统安全挑战。尽管国际社会积极推动人工智能全球治理进程，但这项新兴全球治理议题仍面临以下结构性挑战。
一是全球人工智能发展和治理权力不均衡。有一种声音认为，人工智能具有较强的“先行者优势”，率先取得技术领导权的国家将会持久地占据主导地位，而后发国家则很难撼动这一优势地位。从这一判断出发，在算力、算法、数据、人才、资本、基础设施等方面处于劣势的发展中国家，将在这一轮人工智能竞赛中被动地拉大与发达国家在技术实力和治理能力上的差距。因此，技术弱国不仅有沦为技术强国产品倾销地的风险，还不得不遵从由技术强国制定的市场规则、技术标准、监管规范等。换言之，发展中国家将面临“弱者难以追赶强者，弱者接受强者定法”的困境。
二是真正的多边主义和伪多边主义的道路抉择。当今世界正经历百年未有之大变局，全球治理面临两种多边主义的选择：一种是维护以联合国为核心的国际体系，支持并加强相应的多边治理体制，从而共同促进世界安全和繁荣的真正多边主义；另一种是抱持零和思维，树立“小院高墙”，打造“小集团”“小圈子”，将世界引向对立的伪多边主义。例如，美国在协调并利用七国集团（G7）、经济合作与发展组织等多边平台以确保由西方主导人工智能治理的同时，以构筑“科技民主联盟”为战略抓手，先后推出5G和数字经济联盟、跨大西洋量子技术联盟、半导体全球出口管制联盟，协调盟国对中国人工智能相关技术“规锁合围”。这种狭隘的地缘政治博弈思维正阻碍人工智能全球治理机制向真正的多边主义方向演进。
三是人工智能全球治理机制呈现碎片化特征。一方面，联合国是人工智能治理的重要国际治理平台。自2014年以来，联合国特定常规武器公约会谈机制已经就以致命性自主武器为代表的人工智能军事化议题展开讨论；2021年11月，联合国教科文组织颁布了经过三年筹备磋商的《人工智能伦理问题建议书》；2023年10月，联合国高级别人工智能咨询机构成立。另一方面，区域化的人工智能治理机制初现，使得人工智能全球治理机制呈现碎片化趋势。自2023年以来，荷兰、卢森堡、哥斯达黎加等组织国际论坛围绕人工智能、自主武器的军控和治理问题举办国际峰会，并且发布相关治理倡议或联合声明。尽管主要国家、国际组织正努力搭建国际治理平台，但是建立一个能有效凝聚共识的治理机制尚需国际领导力。
中国为人工智能全球治理提供重要的公共产品
作为负责任的人工智能大国，中国不断完善国内人工智能道德伦理规范和法律规章，推动人工智能技术发展安全、可靠、可控。同时，中国积极参与人工智能全球治理机制建设，提供了“综合统筹发展和安全”的全球治理新思路，发出了共商、共建人工智能全球治理以及共享治理成果的“中国倡议”。从某种程度而言，中国发布的《倡议》，为推动人工智能全球治理提供了理念建构、机制塑造、规则制定等方面的科学方案。
一是发展人工智能应坚持“以人为本”理念。《倡议》强调，人工智能发展应以增进人类共同福祉为目标，以保障社会安全、尊重人类权益为前提，确保人工智能始终朝着有利于人类文明进步的方向发展。因此，相关治理举措不仅要引导人工智能技术的健康发展，更要倡导技术进步有利于促进人类福祉。坚持“以人为本”理念需要奉行“伦理先行”原则。这在中国涉人工智能治理的主张中多次体现。例如，中共中央办公厅、国务院办公厅于2022年3月印发的《关于加强科技伦理治理的意见》提出“伦理先行”的要求，部署塑造科技向善的文化理念和保障机制，为增进人类福祉、推动构建人类命运共同体提供有力的科技支撑；2023年7月，中国在联合国安理会上提出坚持伦理先行、安全可控、公平普惠、开放包容、和平利用五条人工智能治理原则。其中，“伦理先行”原则强调，必须将“以人为本”“智能向善”作为基本准则，规范人工智能的发展方向，避免这一技术成为“脱缰的野马”。由此来看，中国致力于在人工智能领域积极倡导“以人为本”理念和“伦理先行”原则，从而推动人工智能技术更好增进全人类福祉。
二是建立开放、公正、有效的人工智能全球治理机制。当前，人工智能全球治理正面临伪多边主义的挑战，少数国家不惜抬高人工智能全球产业链风险搞“脱钩断链”，打造对抗对立却利己的国际治理机制。对此，《倡议》旗帜鲜明地反对以意识形态划线或构建排他性集团，反对利用技术垄断和单边强制措施制造发展壁垒。近年来，中国积极推进联合国教科文组织制定《人工智能伦理问题建议书》的进程，全程参与联合国特定常规武器公约关于治理致命性自主武器的多轮国际磋商，支持联合国高级别人工智能咨询机构的建设工作。客观而言，人工智能全球治理机制建设难以一蹴而就，凝聚治理共识更需要国际社会的广泛参与和持久讨论。面对这项道阻且长的制度设计工作，中国支持联合国发挥重要的机制建设作用，有助于保障人工智能全球治理的开放性和包容性，确保国家无论大小、强弱以及社会制度差异，都能有平等发展和利用人工智能的权利。
三是国际规则的制定需要有弥合智能鸿沟和治理能力差距的取向。人工智能引发的全球性挑战难以依靠个别强国解决，而是需要发展中国家的共同参与。因此，在制定国际规则的进程中，需要提升发展中国家的治理能力和治理话语权。《倡议》强调，增强发展中国家在人工智能全球治理中的代表性和发言权，确保各国人工智能发展与治理的权利平等、机会平等、规则平等。同时，《倡议》还提出要开展面向发展中国家的国际合作与援助，不断弥合智能鸿沟和治理能力差距。从实际角度出发，这需要在基础设施建设、技术研发能力、人才教育培训等方面加强对发展中国家的支持。考虑到人工智能技术潜在的“颠覆性创新”效应，它在激发科技创新和产业升级的过程中，将对发展中国家的经济结构带来更大的冲击效应。因此，国际规则制定在对技术实力和治理能力较弱的国家予以更多关注的同时，也应相应提高发展中国家的全球治理能力和发言权。
践行《倡议》的有效路径
一是推动中美人工智能对话，探索达成两国治理共识。2023年11月，习近平主席在美国旧金山斐洛里庄园同美国总统拜登举行会晤，达成建立中美人工智能政府间对话机制的共识。这为维护两国战略关系稳定释放了积极信号。围绕人工智能治理，中美之间的谈判议题和潜在共识将是政策研究的重要方向。《倡议》提出，反对利用人工智能技术优势操纵舆论、传播虚假信息，干涉他国内政、社会制度及社会秩序，危害他国主权；推动建立风险等级测试评估体系；逐步建立健全法律和规章制度，保障人工智能研发和应用中的个人隐私与数据安全，反对窃取、篡改、泄露和其他非法收集利用个人信息的行为。2023年10月，美国白宫发布拜登签署的《关于安全、可靠和可信的AI行政命令》，将为人工智能生成内容制定“内容认证和水印指南”，并制定网络安全计划，使人工智能工具有助于识别关键软件中的漏洞；评估人工智能系统是否违反知识产权法，解决人工智能培训中版权作品的使用问题。从上述两个文件看，中美在数据安全、隐私保护、政治安全、版权保护领域具有较大的合作潜力。
二是夯实东亚区域制度合作，探索提出东亚数字合作方案。2018年5月，在第七次中日韩领导人会议上，三国领导人一致同意开展“中日韩+X”合作，带动本地区可持续发展。这个“X”可以是人工智能。2023年11月，中日韩三国外长表示，要以开放的姿态积极推动“中日韩+X”合作，造福更多国家和地区。中共中央政治局委员、外交部部长王毅强调，要坚持深化科技创新，加强大数据和区块链、人工智能等前沿科技领域合作，共同维护产供链稳定畅通并优化升级，提升区域生产网络韧性。从深化东亚合作的角度而言，中日韩应该抓住这一机遇，共同推动关于数字经济和人工智能的区域合作。在欧盟等其他区域加快人工智能发展和治理进程的当下，东亚国家可以探索提出符合东亚一体化需求的人工智能发展规划和治理原则，甚至更新《区域全面经济伙伴关系协定》（RCEP），将相关议题纳入其中。
三是完善“一带一路”国际合作机制，凝聚人工智能治理共识。2023年10月，第三届“一带一路”国际合作高峰论坛形成多边合作成果文件达89项，涉及数字技术、绿色投资、食品安全、知识产权保护、文化艺术等广泛领域。人工智能技术具有泛在性特点，赋能人类社会生产和发展的诸多领域。人工智能可以嵌入已有的合作框架，使既有多边协议取得更高质量的合作成果。就完善“一带一路”国际合作机制而言，可探索邀请沿线国家的政策研究者、人工智能企业家和科学家，围绕推动建立和完善人工智能全球治理体系展开讨论，从而建立交流网络。例如，探讨如何建立对发展中国家友好的全球人工智能治理生态；建立何种国际制度以保护发展中国家公平参与市场竞争以及平等参与规则制定的权利。
本文首发于《中国网信》2024年第2期
