谈谈“人工智能向善”的未来--傅莹在“人工智能、安全、国际合作”线上讨论会的发言

2021-07-10

 2021年7月9日,外交部前副部长、清华大学战略与安全研究中心主任傅莹应邀出席在上海举办的2021世界人工智能大会时,在“人工智能、安全、国际合作”线上讨论会上发言。

傅莹说:我想先分享中国如何探索人工智能技术应用的管理问题。人工智能(AI)在中国正在引领新一轮技术革命,重塑和赋能几乎每个行业。然而,任何事物都有两面性,人工智能在道德、治理和安全方面也提出了挑战。

习近平主席强调“要加强人工智能发展的潜在风险研判和防范,维护人民利益和国家安全,确保人工智能安全、可靠、可控。”[1]

2017年中国国务院印发的《新一代人工智能发展规划》提出,到2025年初步建立人工智能法律法规、伦理规范和政策体系,形成安全评估和管控能力;到2030年建成更加完善的人工智能法律法规、伦理规范和政策体系。相关要求正在得到逐步落实,重点是保障人民的权益。中国2018年颁布的《电子商务法》第二十五条和2020年颁布的《民法典》第六章中,都对保护个人隐私做出规定,要求不得泄露、出售或非法向他人提供个人信息等。2019年国家互联网信息办公室颁布了《儿童个人信息网络保护规定》。

35d3a0484267c6f60de7900312571fd.png


参观“2021世界人工智能大会展览”令我印象深刻的是,与两年前相比,企业对数据安全问题更加敏感,在信息的采集和使用上实施的规则相当严谨。中国在人工智能的应用和管理方面,有许多可以与世界其他国家分享的经验,也有许多需要学习的地方。

傅莹说,我想谈的第二点是中美关系紧张对人工智能国际治理的影响。今年4月基辛格博士接受采访时谈到,中美应该在不寻求摧毁对手的同时保持自己的价值观和目标,双方都需要让共存的考虑优先于追求世界主导地位的目标。[2]

我不认为中国有争夺世界主导地位的考虑,但美国肯定是要将中国视为世界领导地位的竞争对手,华盛顿关于技术脱钩和竞争的言论甚嚣尘上。展望未来,中美两国是要成为合作伙伴共同应对人工智能技术进步带来的挑战?抑或两国各自利用新技术削弱和伤害对方?这个选择将把我们带入截然不同的21世纪。

美国人工智能国家安全委员会2021年发布的《最终报告》中提出,要在产业链技术领域与中国“脱钩”,主张与中国的战略竞争要优先于技术合作。这一声明让高科技领域的许多人感到担忧,因为它揭示了一个分裂世界的前景。在当今世界面临多重挑战、经济全球化深度调整的背景下,技术分叉会给构建以新技术为基础的国际治理带来巨大阻碍。而且,这可能会让其他国家陷入两难境地,被迫在由中国或美国领导的两种相互对抗的独立技术体系中做选择。那些被称为“第三方力量”的其他国家,更希望中美两国承担起责任,以理性的方式解决分歧。

eae21141820342f40f5aa60481c8204.png

我所带领的清华大学战略与安全研究中心的中方专家与美国布鲁金斯学会主席约翰·艾伦带领的美方专家,围绕如何应对人工智能赋能武器可能带来的挑战举办了多轮二轨对话会,在形成的研究结论中提到诸多挑战性问题。例如: 人工智能内在的技术缺陷使得攻击者难以限制打击的损害范围,容易造成过大连带伤害,从而导致冲突升级;基于大数据训练的算法和训练数据集有可能将偏见带入真实应用系统,因此不能排除人工智能给决策者提供错误建议的可能性;人机协同的不足将放大发生战场冲突的风险, 甚至刺激国际危机的螺旋上升,等等。对话中专家们对挑战的风险有共同认识,并认为提出负责任的共同解决方案非常重要。建议之一是在人工智能系统中纳入国际公认的有关军事活动的法律和规范。

这个讨论让我们进一步认识到,中美之间当务之急是共同面对复杂的全球性挑战和问题。我们处在一个技术发展将人类带入联系日益紧密的世界大家庭的时代,当人类迈向命运共同体的未来之际,比任何时候都更需要伙伴关系与合作。我们应该聚焦让各国团结起来的因素,而不是纠缠于导致分裂的因素,如果有竞争,也应该是看谁能做得更好,带来一个“人工智能向善”的未来。(完)

(傅莹是中国外交部前副部长、清华大学战略与安全研究中心主任)

[1]http://media.people.com.cn/n1/2019/0712/c40606-31229228.html?from=timeline&isappinstalled=0  

[2]https://wilkinsonknaggs.com/2021/04/25/henry-kissinger-interview-on-post-pandemic-politics-china-europe/

上一篇:CISS战略问题研究组暑期调研活动开启

下一篇:第九届世界和平论坛 “人工智能与国际安全”圆桌会议顺利举行