清华大学战略与安全研究中心 -人工智能与国际安全项目

2025-01-25 |

总第803期-CISS海外信息专报（2024年12月26-27日）

12月16日，美国卡内基国际和平基金会网站刊登了其高级研究员霍尔登·卡诺夫斯基（Holden Karnofsky）的文章《以与人工智能产品同等的雄心和紧迫性发展人工智能风险管理》。作者认为，当前人工智能（AI）风险管理仍处于“初级阶段”，面对国际安全潜在威胁，政策制定者面临提前规范可能阻碍技术进步与行动过慢可能容忍高风险的两难局面。

2025-01-09 |

人工智能与国际安全研究动态第12期 | 人工智能峰会前瞻

为推进人工智能与国际安全领域的相关研究，清华大学战略与安全研究中心（CISS）组织研究团队定期跟踪最新国际研究动态，重点关注人工智能应用对国际安全带来的风险挑战，并针对人工智能安全领域国际动态、智库报告、学术论文等资料进行分析。本文是CISS推出的人工智能与国际安全研究动态第12期，主要聚焦法国即将举办的“人工智能行动峰会”分析。

2025-01-08 |

总第799期-CISS海外信息专报（2024年12月12-13日）

12月9日，Bizclik Media《技术杂志》网站刊登该杂志副主编凯蒂·惠勒（Kitty Wheeler）的文章《为何波士顿咨询公司预测全球AI芯片市场将爆发式增长》。波士顿咨询公司（BCG）近期研究认为，全球AI芯片市场将迎来爆发式增长。文章分析，在地缘政治紧张、技术竞争激烈的背景下，中美两国在全球AI芯片供应链中占据核心地位。

2024-12-21 |

总第797期-CISS海外信息专报（2024年12月5-6日）

12月3日，美国科技政策新闻（Tech Policy Process）网站刊登拜罗伊特大学博士研究员安东·莱克特（Anton Leicht）的文章《早期人工智能政策的终结》。文章认为，当前人工智能政策在尝试制定安全规范时过于激进，导致政策成果有限、政治阻力加剧以及长期战略劣势。

2024-12-20 |

总第795期-CISS海外信息专报（2024年11月28-29日）

11月20日，美国兰德公司（RAND）网站刊登其政策研究员克里斯蒂娜·马尔西内克（Krystyna Marcinek）等的评论文章《基于风险的人工智能监管》。文章介绍，2024年8月生效的《欧盟人工智能法案》采用基于风险的监管方法，将人工智能系统分为不可接受风险、高风险、有限风险和最低风险四个等级，为人工智能系统建立了全面监管框架。

2024-12-09 |

总第793期-CISS海外信息专报（2024年11月21-22日）

11月14日，美国《法律事务》杂志网站刊登圣托马斯大学助理教授凯文·弗雷泽（Kevin Fraser）评论文章《避免“军事-人工智能”复合体》。文章认为，拜登政府《人工智能国家安全备忘录》将催生类似军工复合体的“军事-人工智能复合体”。首先，该备忘录将导致人工智能领域的垄断。备忘录的主要目标是支持人工智能发展。然而，先进人工智能领域有极高成本和技术壁垒，使得只有少数大公司可以参与竞争。

2024-12-05 |

鲁传颖：“十大议题”谋划全球人工智能治理的主要方向

全球人工智能治理研究报告》（以下简称《报告》）立足中国实践，放眼全球关切，不仅是中国在人工智能治理领域实践探索经验的总结，也是对未来全球层面规则建立的一种期待。《报告》首先定义了全球人工智能治理，指出“全球人工智能治理”是指国际组织、各国政府、科技公司、非政府组织等行为体为实现人工智能在全球的安全发展与和平利用而共同制定共同实施一系列原则、规范、标准、政策、法律和制度的协作过程。由此可见，人工智能治理是一个多利益攸关方共同努力的过程，其成果也有多个层次，多种内涵。

2024-12-02 |

中美人工智能对话应当谈什么？

当前，各国愈发重视人工智能技术的重要性，也逐渐认识到人工智能技术可能给人类带来安全挑战、伦理难题等诸多风险。令人欣慰的是，各国在人工智能技术治理与风险管控领域取得一些成果，一些针对人工智能安全的多边倡议和机制犹如雨后春笋，层出不穷。在技术和治理不断发展的大背景下，2024年5月，中美就人工智能问题展开第一轮政府间对话。由于美国对华科技打压丝毫未减，一些人士开始怀疑对话成果。但无论从应对人工智能可能带来的风险，还是从稳定两国关系、推动全球治理的角度看，两国就这一领域的对话都具有重要意义。

2024-11-22 |

总第789期-CISS海外信息专报（2024年11月7-8日）

11月1日，世界经济论坛（World Economic Forum）网站刊登文章《在人工智能时代平衡创新与治理》，解读世界经济论坛AI治理联盟提出的综合框架《生成式AI时代的治理：360度政策与监管韧性方法》。该框架围绕继往开来、构建当下和规划未来三个支柱展开，为应对数据隐私、算法偏见和透明性等复杂问题提供路线图。

2024-11-21 |

人工智能与国际安全研究动态第11期 | 人工智能安全研究所国际网络会议前瞻

为推进人工智能与国际安全领域的相关研究，清华大学战略与安全研究中心（CISS）组织研究团队定期跟踪最新国际研究动态，重点关注人工智能应用对国际安全带来的风险挑战，并针对人工智能安全领域国际动态、智库报告、学术论文等资料进行分析。本文是CISS推出的人工智能与国际安全研究动态第11期，主要分析美国举办的人工智能安全研究所国际网络会议。

2024-11-12 |

总第787期-CISS海外信息专报（2024年10月31-11月1日）

10月28日，美国《法律事务》杂志刊登南卡罗来纳大学法学院助理教授查理·特朗布尔（Charlie Trumbull）的评论文章《考虑制定具有法律约束力的自主武器文书》。文章认为，尽管现有国际人道法对自主武器系统有一定规制，但技术发展带来的复杂性急需新的法律框架。作者提出三种可能的路径以供讨论。

2024-11-12 |

总第786期-CISS海外信息专报（2024年10月28-30日）

10月22日，美国对外关系委员会(CFR)发布其气候与能源高级研究员戴维·哈特（David M. Hart）的简报《美国科技巨头能否兑现核电承诺？》。文章认为，科技公司正竞相构建人工智能领域竞争优势，而人工智能数据中心是电力密集型的，有预测显示人工智能数据中心在美国电力中的份额将从 2022 年的 1% 增加到 2027 年的 4%。与此同时，由多个机构管理的美国电网难以快速协调以满足激增需求。