孙成昊 清华大学战略与安全研究中心副研究员

9月25日，BBC Newshour栏目播出探讨中美两国人工智能发展与治理的节目。清华大学战略与安全研究中心副研究员孙成昊接受采访，就中国公众对人工智能的态度、中国的治理实践，以及中美如何共同管控人工智能风险回答了主持人提问。

对于中国公众为何比美国公众更乐观看待人工智能，孙成昊表示，首先，许多中国人仍将技术变革与经济发展、生活改善紧密联系在一起。过去几十年，从移动支付、电子商务到高铁，人们切身感受到新技术带来的便利。其次，中国有关人工智能的公共讨论往往围绕医疗、教育、交通等具体应用展开。人们首先会问人工智能能够做什么、如何改善生活，而不一定从它是否构成生存性威胁谈起。再次，公众对于问题出现后政府能够介入处理，也具有一定信心。

孙成昊强调，对人工智能抱有积极期待，并不意味着希望它不受约束。中国已经制定涉及算法和生成式人工智能的监管规定。社会普遍期待创新继续向前，同时由政府管理发展过程中出现的风险。

在谈到中美人工智能监管的差异时，孙成昊表示，中国较早开始规范人工智能生态中的特定环节，逐步形成了覆盖不同应用的多层次监管框架。现有规则涉及推荐算法、深度合成技术及生成式人工智能服务，关注训练数据、个人信息和内容安全等问题。中国还要求对人工智能生成内容进行显式和隐式标识。近期，针对人工智能服务可能带来的情感操纵、过度依赖、未成年人保护及心理风险，也出现了更具体的规范要求。他认为，针对具体应用场景和具体风险制定规则，是中国治理实践的一个特点。

主持人随后问及，激烈竞争是否会妨碍中美共同做好人工智能安全治理。孙成昊表示，两国之间确实存在激烈竞争，但也面临一些共同风险，因此仍有合作空间。他提出了三个值得推进的方向：

第一个方向是重大人工智能事件的沟通。两国正讨论相关事件的联络渠道，以便在人工智能系统引发严重国家安全事件时及时沟通。例如，如果自主智能体发动大规模网络攻击，双方需要在事态升级前尽可能查清：事件是否由国家指使，是否由非国家行为体实施，还是源于人工智能系统的意外行为。及时厘清事件性质，有助于防止技术事件演变为地缘政治危机。

第二个方向是形成共同的风险语言。孙成昊表示，双方都会使用“失控”“有意义的人类控制”等概念，但未必赋予它们完全相同的含义。如果缺乏一些共同定义，就很难进一步建立能够实际运作的合作机制。

第三个方向是逐步建立讨论军事人工智能风险管控的议程。中美两国在2024年已就人类应保留对核武器使用决定的控制达成一项重要共识。这表明双方在相关问题上已有进展，但要将原则落实为更具体的安排，今后仍有大量工作要做。

来源：https://www.bbc.co.uk/programmes/w1730bn70knfyqp