中美在人工智能治理上需要开展合作——傅莹出席慕安会人工智能分论坛

2020-02-15

2020年2月15日下午,第56届慕尼黑安全论坛举办人工智能分论坛。清华大学战略与安全研究中心主任傅莹和美国人工智能国家安全委员会主席、谷歌前CEO埃里克·施密特(Eric Schmidt)应邀作为嘉宾进行对话,爱沙尼亚总统卡留莱德(Kersti Kaljulaid)主持,美国布鲁金斯学会会长约翰·艾伦(John Allen)就对话进行了评论。人工智能分论坛由美国人工智能国家安全委员会承办,主要就人工智能的发展及其对就业、个人隐私、价值观等方面的挑战进行探讨。

、.jpg

施密特在发言中表示,人工智能可以协助人类完成工作。例如在医疗上,人工智能可以辅助医生的诊断和手术治疗。他认为,研发和使用人工智能的目的并不是要让机器替代人类。虽然有些人担心人工智能有一天可能获得自我意识,甚至出现电影“终结者”里面机器奴役人类的场景,但是,从目前技术发展的程度来看,那还太过遥远,人类还无法做到赋予人工智能以意识。他担心的并不是很快会出现“奇点”,而是现阶段人工智能出现错误会导致的不良后果。

傅莹在发言中表示,中国有幸在经济获得较长时期的高速发展和科学技术乃至制造业都有了较好基础之际,迎来新一轮科技进步带来的人工智能技术应用的大好时机,从而获得许多发展的机会和收益。人工智能技术的应用给经济和工业的影响是深远的,可以提高生产力和效率,但也会带来各种影响,例如对就业模式的冲击。清华大学战略与安全研究中心关于青年视角下的人工智能风险调查的结果显示,超过50%的青年人关注的首先是失业风险,担心自己学成进入社会时所学无用。如同以往的技术革命,人工智能将取代大量程式化的工作岗位,但是也会创造出新型岗位和就业机会。对于各国政府来说,需要考虑如何构建有效调整体系,以适应就业结构变化带来的新的需求。

2a.png

施密特认为可以采取加大教育投入和培训的方式来应对自动化带来的就业冲击。人工智能对于人口老龄化趋势日趋严峻的中国来说极其重要,因为自动化可以代替人类做更多的体力劳动,提高生产的效率,以缓解青年人口下降带来的社会生产压力。

两位嘉宾均认为保护个人隐私和使用新技术并不矛盾。谈到人工智能给立法工作带来新挑战时,傅莹说,人工智能技术迭代快,建立规则和制定法律的周期必然要比传统模式短。有时可能等不到社会共识的形成,挑战就已出现甚至严峻了,而且变化也会很快,然而,规则制定太早太前瞻也会制约技术的发展。所以,围绕人工智能技术的立法立规是现代治理难题。目前各国政府和工业界都在通过实践积极探索。傅莹分享了她在上海和深圳调研时了解到的情况,例如,健康类企业愿意承诺采取“数据脱敏”的方法确保客户的个人隐私不被侵犯。对于企业来说,重要的是获取尽量多的数据进行算法模型训练,而不是去获取隐私。总体印象是,企业欢迎有规可循。

施密特则从技术角度谈到,算法模型的训练并不需要地球上所有人的数据。可以收集一定数量的数据,建立模型,并将之“迁移”到应用于其他场景。他认为,应确保使用人工智能产品时保护人们的隐私,这需要更多的国际合作,中美两国在这方面合作空间很大。

在回答听众关于中国与西方价值观存在差异是否会影响人工智能的应用问题时,傅莹表示,在关系到技术的应用和国际交往的一些基本理念上,普通中国人同西方人并没有很大差异,都认同和平、繁荣、人权、隐私等基本价值。但是在对价值观的具体解读和内容的描述上,往往有很多不同。她举例谈到中国在2019年9月推出了《儿童个人信息网络保护规定》。施密特强调,确保人类的有效控制是守卫人类价值观的重要一环,因为在数据收集中存在数据偏见的问题,这将导致人工智能在实际应用中可能会触犯人类的基本价值观。要加强对技术人员的教育,加深政府和科学家以及工程师之间的合作纽带,继续加大对人工智能伦理的研究以及落实道德理念。

布鲁金斯学会会长约翰·艾伦围绕人工智能的军事应用和伦理进行了评论。他说,人工智能应用于战场的好处包括提高军事效率,较少人员伤亡,加快战略决策。在肯定新技术带来的战略优势的同时,如何保持人类的有效控制就成为一个难题。在人工智能的设计和使用中应该加入道德伦理的监管,反映和保护美国的价值观。

2c.jpg

分论坛承办方美国人工智能国家安全委员会于2019年成立,是近年来美国国会与政府围绕人工智能开展的一系列体制建设的重要组成部分,它的设立显示美国将人工智能上升到国家安全层级,从顶层统筹指引全美人工智能领域发展,进一步完善人工智能监管链条,为聚合各方之力加速推进人工智能发展奠定重要基础。

撰稿:朱荣生


上一篇:傅莹:人工智能的治理和国际机制的关键要素

下一篇:“中美人工智能安全对话”第二轮会议在慕尼黑举行