2026年7月25日至8月5日，在清华大学战略与安全研究中心（CISS）副研究员孙成昊的带领下，清华大学电子工程系“AIEE之城”赴英国社会实践支队开展海外调研实践。支队以“生成式人工智能背景下的AI Safety治理机制”为主题，立足人工智能在教育科研、社区生活、公共传播和政策运行等情景下的治理需求，走访英国政府部门、高校、智库、媒体与社区，开展13场座谈，观察不同主体如何识别风险、建立规范并参与治理。

围绕上述议题，支队将调研内容分为学术治理、社区治理、公共信息传播、治理规则支撑机制四个子主题：既关注高校与研究共同体如何形成可执行、可验证的学术规范，也关注普通社会成员如何安全使用新技术；既考察媒体与政府部门如何维护可信信息环境，也探究智库和战略研究机构如何为治理规则提供知识、评估与协调支撑。

学术治理：让技术应用有边界、规则落实可验证

高校既是生成式人工智能技术研发、知识生产和人才培养的重要场所，也是人工智能进入社会应用前率先暴露治理问题的关键场域。生成式人工智能被广泛用于资料检索、内容生成和科研辅助后，传统的学术诚信规范、课程考核方式和责任认定机制都面临新的挑战：学校不仅需要回答“哪些工具可以使用、可以使用到什么程度”，还需要确保规则能够被师生准确理解，并为违规识别、申诉救济和责任追究提供可操作的程序。

因此，学术治理是支队研究AI Safety微观治理机制的重要切口。支队通过Safe AI Forum的验证机制研讨、牛津大学China Policy Lab的问责研究和UCL的教育应用讨论，分别从规则边界、技术验证与制度可及性三个层面，观察抽象安全原则如何转化为科研和教育活动中的具体规范。

AI安全国际论坛（Safe AI Forum, SAIF）

Safe AI Forum是一家关注人工智能安全和国际合作的非营利组织，主要通过政策研究、专家研讨和国际对话讨论前沿人工智能风险，并推动不同国家和研究群体就人工智能安全问题建立沟通机制。

支队参加Safe AI Forum专题研讨，重点讨论人工智能治理中的“验证（Verification）”问题。英方专家认为，治理规则如果无法被检查和验证，就很难判断是否真正得到执行，因此需要建立第三方监督、独立审计和相应的技术验证机制。

英方专家还借鉴核安全领域的经验，讨论通过技术手段和国际组织建立信任的可能路径。其中，“样本重计算”等方法尝试抽取部分人工智能推理结果，在安全封闭环境中重新检查，从而判断结果是否正确或符合要求。

这一讨论将“人工智能安全”从原则层面的规范进一步落实到可检查、可验证的技术问题，也使支队看到，治理不仅需要规则本身，还需要能够证明规则是否被遵守的工具和机制。

支队成员与Safe AI Forum专家座谈后合影

牛津大学中国政策实验室（Oxford China Policy Lab）

牛津大学中国政策实验室是一个以牛津大学为基地的跨学科政策研究平台，关注中国政策、中外关系、人工智能和新兴技术等议题，并通过政策研究和圆桌讨论连接学术研究与现实政策问题。

支队来到牛津大学中国政策实验室参加圆桌讨论。支队学生代表以“问责机制的可行性与可及性”为题，从规则是否存在、使用者能否理解并遵守、权益受损后能否获得救济三个层面展开汇报。

前期调研发现，超过90%的受访学生使用过生成式人工智能，但仅约三分之一了解学校相关规定。由此，支队提出“规则存在不等于规则可用”的问题。双方还围绕人工智能生成虚假信息、人工智能代理带来的新型治理挑战等展开讨论。

交流中，孙成昊提出，在进一步讨论治理方式之前，需要先厘清双方对于关键概念的理解差异。这一点也成为之后多场交流中的共同认识：很多人工智能治理分歧，并不一定首先来自立场冲突，也可能源于对同一术语和问题边界的不同理解。

支队在牛津大学合影

伦敦大学学院（University College London, UCL）

实践期间，支队到访伦敦大学学院（UCL），与该校师生围绕人工智能在教育中的应用边界、学术评估体系改革及负责任创新等议题展开跨学科对话。UCL学者认为，当前人工智能安全研究主要由计算机科学背景者主导，容易出现“技术解决方案主义”倾向，建议同学们拓展人文社会科学视野，思考技术发展的多种可能性。交流使支队进一步认识到，教育场景中的AI治理不仅需要识别技术能力，更要同步审视评价制度、责任分配与人的主体性。

社区治理：技术越来越先进，普通人是否更安全？

人工智能安全最终仍要落实到普通人的实际生活中。随着生成图片、声音和文字的能力不断提高，公众识别虚假信息的难度随之增加。对于老年人等数字能力相对薄弱的群体而言，人工智能既可能带来便利，也可能增加诈骗、隐私泄露和错误信息传播的风险。

社区因此成为人工智能安全治理的重要基层场景。一方面，需要将专业的风险知识转化为公众容易理解、能够实际操作的方法；另一方面，也需要通过持续的数字教育，帮助不同群体建立基本的信息判断能力。

格拉斯哥永康老年人中心

格拉斯哥永康老年人中心长期服务当地华人老年群体，为老人提供社区活动、生活支持和交流空间。对于部分数字技能较弱的老人而言，社区也是学习使用智能设备、获取安全信息和寻求帮助的重要渠道。

支队来到格拉斯哥永康老年人中心，开展人工智能反诈骗科普工作坊。活动以“哪一张图片是AI生成？”的互动游戏开始，通过辨别真实图片与人工智能生成图片，让老人直观了解当前生成技术的发展水平。随后，支队成员演示人工智能生成图片、信息搜索、日常问答等功能，并帮助老人体验相关工具。

在手工活动和交流过程中，支队进一步讲解如何识别可疑信息、核验消息来源以及保护个人隐私。实践使同学们认识到，对于普通使用者而言，人工智能安全并不一定表现为复杂的技术风险，而更多体现在收到一条消息后能否判断真假、遇到可疑情况时是否知道如何核实和求助。

因此，数字包容本身也是人工智能安全的重要基础。只有让不同年龄、不同数字能力的人群都能理解和使用基本的安全方法，技术发展带来的便利才可能真正覆盖更广泛的群体。

公共信息传播：在技术提速中守住真实、责任与信任

生成式人工智能正在改变公共信息的生产、编辑和传播方式。它能够提高资料整理和内容处理效率，但也降低了虚假内容的制作成本，使信息来源、作者责任和真实性判断变得更加复杂。

对于媒体而言，人工智能可以辅助到什么程度，直接关系到新闻专业主义和公众信任；对于政府和国际交流机构而言，如何准确传递政策立场、减少概念误解，同样关系到公共沟通和国际治理的稳定性。围绕这些问题，支队走访英中协会、《经济学人》、英国人工智能安全研究所和英国外交、联邦和发展事务部等机构。

英中协会

英中协会（Great Britain-China Centre，GBCC）长期从事中英政策交流，通过对话、研究和专业项目连接两国政府、学术界及社会机构。在中英关系和新兴技术议题上，其工作重点之一是维持持续、稳定的沟通渠道。

支队到访英中协会后，双方围绕英国人工智能治理思路、人工智能对话以及世界人工智能合作组织（WAICO）等议题展开交流。英方介绍了英国“基于原则的灵活框架”等治理思路，中方则就相关国际合作问题提出关切。

交流表明，在人工智能这样快速变化且涉及国家利益的议题上，各方很难在短期内形成全面一致意见。但稳定的沟通机制可以帮助不同主体确认彼此关切、减少信息偏差，并避免概念分歧进一步演变为政策误判。

支队成员与英中协会及其邀请的英方专家合影

《经济学人》（The Economist）

《经济学人》创刊于1843年，是总部位于伦敦的国际时事媒体，长期关注政治、经济、科技和国际事务，其内容面向全球政策界、商界和知识界，在国际公共讨论中具有较强影响力。

支队到访《经济学人》编辑部。刊物编辑向同学们介绍，该刊禁止使用人工智能直接撰写文章正文，但允许将其用于头脑风暴、笔记管理和文献检索等辅助环节。

交流中，编辑还分享了一篇文章被发现存在人工智能生成内容后，编辑部如何处理作者责任和发表标准的问题。对于媒体而言，人工智能提高了部分工作效率，但采访、事实核查、判断和责任仍必须由记者和编辑承担。

这也说明，在公共信息传播领域，人工智能治理的核心不仅是判断内容是否由机器生成，更重要的是明确谁对最终信息负责，以及怎样通过编辑流程维持新闻的真实性和公信力。

英国外交、联邦和发展事务部

英国外交、联邦和发展事务部（FCDO）负责英国外交政策和国际事务。随着人工智能逐渐成为国际治理议题，其工作也更多涉及新兴技术规则、跨国协调和人工智能安全领域的政策沟通。

在英国外交、联邦和发展事务部，双方围绕WAICO、中英人工智能对话议题设置等交流。英方表示将继续基于对不同人工智能模型的独立评估与中方保持交流与合作。

双方认为，人工智能治理合作首先需要从基本术语和定义入手。对于国际治理而言，如果不同国家对“安全”“风险”“模型能力”等基本概念的理解不一致，后续政策讨论很容易出现偏差。因此，统一基础语言并不是形式问题，而是降低误判、建立长期沟通机制的重要前提。

英国人工智能安全研究所（AISI）

作为英国前沿AI安全技术研究的重要机构，AISI的主要职责并不是决定一个模型能否进入市场，而是研究模型能力、识别潜在风险，并为政策部门和第三方评估提供技术证据。

研究人员介绍，其评估范围涵盖网络攻击、化学与生物领域滥用、人类影响和自主运行等前沿风险，同时也研究模型防护措施能否在真实使用中发挥作用。我方关注到，能力增长并不均匀，因此追问评估如何捕捉高后果任务上的异常跃升，而不只是给模型一个整体分数。

以网络安全为例，一些在数月前还需要专业人员花费较长时间完成的模拟攻击任务，已经能被新模型逐步攻克。模型能力并非平均增长，而可能在某些任务上突然跃升。这种“能力尖峰”意味着，评估不能只看模型的整体表现，也要寻找那些可能造成高后果风险的特定能力。

交流中，对方认为，开放权重模型与闭源模型面对的基础风险并无本质不同，关键差异在于风险控制方式。闭源服务商可以设置使用防护、监测异常行为并及时更新系统；开放权重模型一旦发布，则可能被重新微调或绕过原有保护，发布后的控制空间更加有限。

这并不意味着“开源等于危险、闭源等于安全”。闭源系统同样可能被越狱或滥用，开放工具也可以支持更多研究者共同发现漏洞。真正需要判断的是：模型具有什么能力、由谁部署、使用者能否修改防护，以及出现风险后是否还有补救手段。

为提升第三方评估能力，AISI开放了模型评估工具Inspect及相关工程指南，希望让更多机构能够使用统一框架开展测试。随着AI从回答问题走向自主规划和执行任务，传统的封闭题库也可能无法覆盖真实环境中的复杂行为，评估需要逐步走向更接近实际场景的“开放世界”测试。

对于电子系同学而言，这场交流把“AI安全”落到了可测量、可验证的技术问题上。风险判断不能只依靠原则宣示，还要回答测试集如何设计、结果能否复现、防护是否有效、证据能否被第三方理解。工程技术不是治理讨论之外的背景知识，而是治理获得可信度的重要基础。

治理规则支撑机制：以研究、评估与协调推动规则落地

人工智能技术更新速度快，相关风险往往同时涉及网络安全、国防安全、科研创新、产业竞争和国际关系。单一政府部门很难独立完成所有技术判断和政策研究，因此，智库和战略研究机构在治理体系中承担着重要的支撑作用。

这些机构通常并不直接制定具体规则，而是通过风险评估、情景分析、政策研究和国际交流，为政府及其他治理主体提供参考。围绕这一问题，支队继续走访托尼·布莱尔全球变化研究所、英国皇家联合军种研究所和英国国际战略研究所。

托尼·布莱尔全球变革研究所

托尼·布莱尔全球变革研究所是一家国际政策智库，长期关注科技、经济、政府改革和全球治理等问题。人工智能及其对国家竞争力、公共服务和政策制定的影响，是其近年来的重要研究方向。

支队到访研究所后，英方介绍了英国作为人工智能领域“中等强国”的战略定位，认为英国不必简单追求独立建设全部基础模型，而可以更多利用开源技术和现有产业生态培养自主能力。

双方还围绕WAICO可能面临的挑战与其他合作路径展开交流。这一讨论表明，人工智能安全治理并不能脱离一国的技术基础、产业能力和国际位置单独讨论。安全规则如何设计，往往同时受到发展需求、资源条件和国际合作环境的影响。

部分支队成员在托尼·布莱尔全球变化研究所与英方专家合影

英国皇家联合军种国防研究所

英国皇家联合军种研究所（RUSI）创立于1831年，是英国历史悠久的国防与安全研究机构，长期关注军事安全、网络安全、国际安全和新兴技术风险。

在RUSI，双方围绕云主权、开源模型风险、全球南方网络安全攻击的归因等议题展开讨论。相较于此前教育和媒体场景中的人工智能应用，这里的讨论更多将人工智能置于网络安全、军事安全和技术供应链背景中考察。

交流表明，同一种人工智能技术在不同使用场景中可能产生完全不同的风险。开源模型在科研和产业中可能促进创新，但在军事和网络安全领域也可能降低部分能力的获取门槛。因此，人工智能安全治理很难依靠一套统一规则解决所有问题，更需要根据使用场景和风险等级进行具体判断。

英国国际战略研究所

英国国际战略研究所（IISS）长期研究国际安全、地缘政治和军事战略问题，也持续关注人工智能等新兴技术对大国关系、危机管理和国际秩序带来的影响。

最后，支队到访英国国际战略研究所。英方专家回顾了中英关系的发展变化，双方围绕人工智能术语定义、危机协调机制等问题进行了交流。

相比具体技术测试，这场讨论更关注国家之间如何理解彼此的行为。在军事和安全等高风险领域，如果缺少稳定沟通渠道，小范围的技术判断差异也可能被放大。因此，清晰的概念界定、持续的信息沟通和危机协调机制，同样是人工智能安全治理的重要组成部分。

支队成员在英国国际战略研究所合影

结语：从具体场景出发，理解人工智能安全治理

从格拉斯哥华人社区的反诈骗工作坊，到高校、国际论坛、媒体编辑部、政府部门和战略研究机构，支队在不同场景中观察人工智能风险如何被认识、讨论和处理。

调研表明，人工智能安全并不是单一的技术安全问题。在高校，它表现为学术规范和责任边界；在社区，它关系到普通人的信息判断和数字能力；在媒体，它涉及事实核查和作者责任；进入国家与国际层面后，又与模型验证、网络安全、国际沟通和危机管理密切相关。

支队也看到，中英双方在人工智能军事化、开源模型风险和部分治理理念上存在不同判断，但在教育规范、技术验证、风险通报和术语协调等问题上仍有进一步交流的空间。面对复杂的新兴技术治理，与其首先追求覆盖所有议题的统一答案，不如从具体问题出发，先明确概念、识别差异，再在能够实际推进的领域逐步建立合作。

对于电子工程专业的青年学生而言，理解人工智能不能只停留在算法、模型和性能指标上。技术进入社会之后如何被使用、由谁负责、风险如何被控制，同样是理解人工智能发展不可缺少的一部分。

此次英国实践使支队成员从技术学习者进一步走近人工智能治理的真实场景，也更加清楚地认识到：人工智能安全治理不是技术发展的附加问题，而是人工智能真正走向社会过程中必须面对的一项长期课题。

供稿：清华大学电子工程系“AIEE之城”赴英国社会实践支队