孙成昊带队赴英国调研人工智能安全治理

2025-08-18

习近平总书记在二十届中共中央政治局第二十次集体学习时指出:“面对新一代人工智能技术快速演进的新形势,要充分发挥新型举国体制优势,坚持自立自强,突出应用导向,推动我国人工智能朝着有益、安全、公平方向健康有序发展。”当前,人工智能技术取得重大突破,对经济发展、社会进步、国际政治经济格局等方面产生重大而深远的影响,已成为国际竞争、大国博弈的新焦点和经济发展的新引擎。

针对人工智能(AI)安全治理这一议题,清华大学电子系“智汇英伦(AInspire UK)”赴英国调研人工智能(AI)安全治理社会实践支队,于2025年8月2日至8月10日赴英开展为期8天的海外调研实践,总计举行13场座谈和一系列街头调研。支队由清华大学战略与安全研究中心副研究员孙成昊带队,多数成员来自电子系,也有来自日新书院、中国农业大学的同学共同参加。

面对生成式 AI 技术日新月异的发展,以及全球对人工智能伦理与安全治理的迫切需求,我们结合电子工程、国际关系、人文学科等多领域知识,试图回答以下问题:AI 安全治理于国际发展而言究竟有怎样的影响?青年科技人才可以为构建安全、可信、可控的人工智能未来作出怎样的贡献?

此次实践,我们聚焦英国在 AI 政策、伦理框架与产业应用等方面的经验,走访政府机构、智库、企业、中外媒体、知名高校等相关主体,探究技术进步与社会责任的平衡,深入了解技术变革与人类福祉、国家战略的交织,以此增进对 AI 安全治理多元视角的理解,携手共创负责任的智能时代。

拜会「 政府机构 

梳理 AI 治理国家体系

2025年8月4日,支队带队老师CISS副研究员孙成昊和部分支队成员与英国外交、联邦和发展事务部(FCDO)官员会面,共同讨论全球人工智能治理问题。讨论聚焦于三个关键领域:开源人工智能的应用与风险;人工智能全球治理机制;平衡创新与安全的政策方法。此次交流有助于加强对全球人工智能治理框架以及中英双边合作的理解。

f609cd645037073132bd831d4931940a.png

支队带队老师和部分支队成员与英国外交、联邦和发展事务部(FCDO)官员会面

调研「 智库·企业 」

探寻 AI 治理科技前沿

在针对智库、企业调研之旅中,支队走访了英国皇家联合军种国防研究所(RUSI,Royal United Services Institute)、查塔姆研究所(Chatham House)、伦敦安全人工智能倡议组织(LISA,London Initiative for Safe AI)以及伦敦金融城等,开展会议座谈等活动。在座谈过程中,支队成员深入了解智库、企业在人工智能治理领域的探索与布局。从前沿技术研发到行业治理标准,从伦理规范制定到跨界协作模式,我们不仅见证了科技与治理的深度融合,也感受到产业界与智库在推动安全、可持续 AI 发展方面所展现出的创新思路与责任担当。1. RUSI:中英合作与军事 AI 伦理

在 RUSI 的座谈中,支队成员与智库代表围绕 AI 技术发展、军事 AI 伦理及中英合作进行讨论。支队带队老师孙成昊介绍了中国在开源 AI 领域的投入以及在 AI 全球治理领域的贡献。然而,由于英美之间的“特殊关系”,美国在技术层面对盟友的压力仍将成为中英未来合作的障碍之一。英方认为全球南方推广开源 AI 虽有助于国际合作,但仍需在部署前充分评估安全风险。此外,数据与技术安全也是重要议题。中国智慧城市的数据管理技术在英国仍存一定争议,而跨国数据安全规则可能影响医疗与公共卫生等领域的合作。

9251fd92eecdd1a6eb41291f2eadde57.jpg

支队参访英国皇家联合军种国防研究所(RUSI)

2. LISA:国际对话与多层风险管控

在 LISA 的交流中,相关负责人介绍了 AI 安全国际对话(IDAIS)的发展与成果,涵盖前沿安全政策、AI 研发风险、自治 AI 防护措施及技术安全领域国际合作的可能性。英方嘉宾从欧盟视角解析了 AI 治理核心——通过标准、法规与国际合作检测和化解风险,基础在于数据、算法与算力,并遵循辅助性与比例原则、价值导向、预测性与战略自主。另一位嘉宾强调,AI 安全实质是“压制风险”,风险来源于系统能力与习性,分为即时风险与系统性风险,提出“瑞士奶酪模型”进行多层检测。还有两位嘉宾分享了思维链(CoT)可监测性与审计卡(Audit Cards)研究成果,为国际标准与治理提供参考。

f2b71e3aafac5ef5880d8097a1614067.jpg

支队参访伦敦安全人工智能倡议组织(LISA)

3. 伦敦金融城:

金融与法律领域的AI应用与治理

支队在伦敦金融城的交流围绕 AI 在金融和法律领域的应用及治理展开。伦敦金融城作为英国重要经济中心,贡献约10%的国内生产总值,但仅占全国劳动力的2%,人口密度是纽约的四倍,同时也是全球最大的航运服务中心之一。该地区多元文化突出,约40%人口出生于英国以外,使用340种语言,自由人制度对海外人士开放,使其具有国际化特色。

支队与前市长 Michael Mainelli 开展座谈,探讨 AI 在金融领域的发展与挑战,包括数据质量、算法透明度及监管问题,特别是在高频交易和投资建议中的风险。为应对这些问题,伦敦金融城积极推广国际标准 ISO 42001,已有超过20000人和1000家组织参与相关课程。同时,金融城管理全球约13%的资产,其中中国资产占比高,是中国资产国际管理的重要合作伙伴。

4931359360bc932e8009b6a602c9fa2f.jpg

支队参观伦敦金融城与金融城前市长 Michael Mainelli 合影支队还前往知名律所 Mishcon de Reya 参访,在与金融城律所从业人士的交流中,支队了解律所如何利用 AI 提升内部运营效率与客户服务。律所最初开发与 OpenAI 连接的基础 AI 工具,随后推出更成熟的 Deray,支持政策咨询、快速总结和专家查找。近期,律所还与 Legora 合作,通过创建专业数据库、深度查询和分析、表格审查及自动化工作流等功能,大幅提升工作效率。会议还强调 AI 的主要挑战,包括模型的“幻觉”问题和潜在法律责任,律所通过选择成熟模型和设置提示词防护来降低风险。展望未来,律所计划继续推广 AI 工具使用,并探索定制化应用场景,同时关注技术伦理和员工技能提升。

探访「 中外媒体 」

了解 AI 治理全球态度

在实践调研中,支队成员走访了三家具有代表性的新闻媒体机构——新华社、中国日报(China Daily)与《金融时报》(Financial Times),旨在了解中英媒体在人工智能应用、新闻生产与治理规范方面的实践与态度,并探讨中英媒体在 AI 应用上的异同与国际传播策略。

  1. 中国媒体视角>>>

支队先后走访了中国日报(China Daily)和新华社,了解中国媒体在 AI 应用与国际传播方面的实践。

中国日报欧洲分社社长杨春亚社长介绍表示,中国日报自1981年创立以来,肩负“让中国了解世界,让世界知道中国”的使命,如今已形成覆盖纸媒、网站、社交媒体及海外APP的全媒体矩阵。内容策略兼顾本地化与文化传播:既报道海外重大事件,也关注中国非遗文化展览及政府部门的英文传播。新华社方面,伦敦分社副社长金晶表示,记者在新闻生产中也使用 AI 辅助素材收集,但稿件最终由人撰写和审核,以保证新闻的真实性和可信度。

ed76a963257f9292845ab8e79c201c15.jpg

支队参观新华社

两家媒体在 AI 应用上均秉持审慎原则:AI 仅用于图片处理、热词查询、摘要生成或标题构思等辅助环节,核心写作仍由人完成。通过人工审核、稿件评级等机制,确保新闻质量。同时,在海外传播中国故事时,媒体尝试利用非官方账号、网红及多元内容形式,突破西方对“国有媒体”的标签偏见。

杨社长还表示,全球AI发展存在差异:美国侧重创新研发,中国优势在于丰富应用场景,欧洲则更注重立法管控。总体而言,中国媒体在技术浪潮中坚持专业主义底线,以高质量新闻向海外传递中国声音。

2da4b6d3420b3cd32b338d2bed46638f.jpg

支队成员在 China Daily 座谈

  2. 英国媒体视角

在与《金融时报》(Financial Times)编辑和记者的交流中,嘉宾详细介绍了 AI 在新闻创作中的实验与应用。FT 使用 AI 辅助编辑思路与核查事实,但所有报道仍由人撰写和负责。AI 在写作中主要提供灵感、提示潜在争议点,或帮助处理海量监管文件、提取信息,但绝不会替代记者原创报道。

FT 为记者制定了正式的 AI 使用指导,强调职业判断和新闻标准比 AI 检测工具更重要。嘉宾还表示,AI 未来可能在低争议、批量化内容中发挥作用,如娱乐新闻、摘要生成等,但深度报道仍需人类主导,以保障品牌信誉和新闻质量。

295c6b11f0f70526d6ff0a4d5b073343.jpg

支队参访 Financial Times,在报社顶楼合影

  3. 中英媒体对AI态度的异同

通过与中英媒体的座谈调研,可以看出两国在 AI 应用策略上存在一些差异。中国媒体更注重 AI 在素材处理和效率提升中的辅助作用,同时严格控制核心内容必须由人工完成,并结合政策合规与国际传播策略进行管理;英国媒体则强调 AI 辅助的实验性和编辑灵活性,同时高度关注版权、法律风险以及品牌信誉的维护。

尽管在实践方式上有所不同,但两国媒体在核心原则上高度一致:所有深度报道和原创内容都必须由人类撰写,AI 仅作为辅助工具使用,辅助记者进行事实核查、灵感启发或信息筛选。

走进「 知名高校 」

倾听 AI 治理青年声音

青年是社会的未来,更是不同文化之间构建友谊之桥、实现共同合作进步的重要纽带。青年对话不仅仅是语言的交流,更是科技的发展与进步、文化的碰撞与融合。

1. 座谈情况在实践中,支队走访牛津大学中国政策研究实验室(OCPL)、伦敦政治经济学院(LSE)以及伦敦大学亚非学院(SOAS),围绕 AI 治理、技术应用与教育实践展开深入座谈。

在 OCPL,嘉宾介绍实验室的三大核心工作:自主研究、政策沟通与人才培养,尤其聚焦中美技术竞争与 AI 治理等议题。实验室通过剖析国家间关系与技术动态、向政策制定者传递研究成果,以及组织年度研究员项目,回应快速变化的技术与地缘政治挑战。同时,OCPL 强调技术应服务于人类需求,跨境与跨学科合作是应对全球 AI 发展差异的关键。

602ba2eb56354edbb5a56d5e20804396.jpg

支队参观牛津大学

在 LSE,嘉宾详细介绍学校在教育领域引入 AI 的实践经验。通过建立“人工智能与教育”工作组以及与教职工和学生的深度协作,LSE 探索 AI 在教学、学习与评估中的应用。重点包括 AI 辅助的课程开发、评估设计、生成式 AI 的道德使用、技术培训与国际合作项目。学校支持学生和教职工掌握 AI 技术并将其有效应用于教育实践,同时保持对伦理和法律责任的关注。

49525680cb8c8f139215f0d0133d78f2.jpg

支队参观伦敦政治经济学院(LSE)

在 SOAS,双方学生各自围绕政府、企业与国际机构在 AI 安全治理中的角色发表演讲并开展讨论。双方分析了政府在 AI 领域面临的社会、经济、安全及法律伦理风险,并对中英政策差异进行探讨。在企业方面,双方讨论数据泄露、偏见歧视等风险以及企业在 AI 政策中的作用。在国际机构方面,双方则关注 AI 安全的定义、治理结构性挑战及推动国际合作的可能方案,如创建安全测试空间和全球南方 AI 实验室。

82052e71722c4eb5911e30f1e122d7db.jpg

支队与英方师生在伦敦大学亚非学院(SOAS)合影

2. 青年交流

在整个调研实践过程中,支队走访牛津大学、剑桥大学、伦敦政治经济学院以及伦敦大学亚非学院等多所知名高等学府,深入校园内部,亲身体验学术氛围,并与在校学生开展面对面的交流与讨论。

调研过程中,支队成员采取多种形式与学生互动,包括街头采访、分发调查问卷、举办小型路演活动等,共计与超过100名学生进行了深入交流与访谈。在互动中,支队不仅了解英国青年在 AI 治理、人工智能伦理、技术发展与监管等方面的认知、态度和思考,还通过赠送中国结等富有中国特色的小礼物,向学生们介绍中国传统文化,讲述中国故事,增进跨文化理解与交流。

ba179037a93c21e549ac86433e61cbfc.jpg

支队带队老师孙成昊分享看法

支队带队老师孙成昊也利用此行访问机会向英方智库讲解其对中美关系、中欧关系以及人工智能全球治理的看法。

185d2bcfaf0a5a93d28c3742ab1f93a8.jpg

这些活动不仅使支队成员获得了英国青年的 AI 治理观点,也为中英青年在人工智能治理问题上的沟通搭建了桥梁,展现了文化交流与学术研究相结合的实践价值。

39712a537e881e948ba7557e246fd383.jpg

支队成员进行街采、问卷调查等交流活动

记录|“智汇英伦”实践支队  

文案|王伊涵 张家硕  

图片|黄于倢 伍若菲  

排版|王伊涵 张家硕  

审核|孙成昊 黄宗乐 吴昊宸  

邱   昊 康吉赢 吴雨澈  




下一篇:孙成昊赴瑞士人道主义对话中心短期访学