《美国观察》51 | 人工智能在美国选举中的应用

2023-01-06

编者按

《美国观察》是清华大学战略与安全研究中心战略青年(CISS Youth)推出的专注于观察美国的栏目,既有围绕美国问题的基础研究也有针对美国问题的深度思考。投稿要求和联系方式详见:《美国观察》长期征稿启事

稿件一旦录用将提供有竞争力的稿费,并有机会参与CISS实习生项目和战略青年的后续活动。优秀稿件将推荐至具有影响力的媒体平台,目前已有部分稿件被“中美聚焦”、澎湃新闻等转载。

本文是《美国观察》栏目推出的第51篇文章,详细分析了三种人工智能在政治选举中的应用表现形式,并提出人工智能政治应用对美国代议制民主结构的影响、对政府和企业的启示。

1673062439899042538.jpg

本文作者:外交学院2022级外交学专业博士生 李阳(研究方向:政党政治)

人工智能是以人类知识为基础,在学习过程中不断完善,使之适应于每一个应用环境并且能够给使用者产生影响的计算机程序,并具有系统更新快、数据收集多、技术应用广等特点。2016年美国总统大选中人工智能开始被大量运用于选举过程,社交媒体的大数据个性化推送、网络“假新闻”的大量涌现成为舆论宣传工具以及各种人工智能机器用于预测选举结果。本文认为,在美国中期选举中,人工智能的选举应用已经成为趋势,相关各方应该采取措施,防止人工智能带来的负面影响。

一、人工智能的政治选举应用表现形式

(一)社交媒体大数据推送与第三方机构针对性操作影响选民投票倾向

作为全球具有影响力的社交媒体之一,脸书(Facebook)在2016年竞选期间利用其自身的产品设计,根据网民社交账户的浏览记录和发表过的言论,将选民划分为不同类别,并且根据不同类别的特点,采取不同的信息推送,从而影响选民的政治意见。脸书的做法被称为“个性化”。

具体来说,算法的设计者要对用户内容进行初步整理,排序则主要根据内容发布者是否为用户经常关注、发布时间是否靠前、内容的类型是否是用户平时喜欢的种类、好友互动程度是否频繁等来决定。[1]应当承认,社交媒体是互联网时代公众接受和发布消息的主要载体,因为在社交媒体上可以相对自由地发表自己的观点,某种程度来说是一种自由权利的表现。但社交媒体无法做到价值中立,因为其背后的资本是有价值取向的。

剑桥分析公司(Cambridge Analytica,现已破产)是有共和党背书的第三方数据分析机构。在2016年大选之前,该公司通过有偿问卷的形式吸引美国公众填写问卷,以此来收集个人信息。据此形成选举期间美国网民的心理档案,以便于精准投放政治内容。

剑桥分析公司的做法可总结为三步走。第一步为数据分析,根据问卷收集到的信息分析美国网民性格,尤其是美国网民的个人态度和偏好;第二步为大数据分析,根据上一步的工作建立用户性格心理档案,这一步是最为关键的一步,有着承上启下的作用;第三步为精准投放,在前两步的基础上,把美国网民分为三十余种不同的性格类型,在大选期间投放政治信息,而这种政治信息往往是经过精心设计的,所以选民在被“操控”下做出的政治选择也是符合这类信息的基本特点。剑桥分析公司的成就不能完全归功于2016年特朗普胜选,而是通过研究美国人对新闻反应等美国文化,利用选民已经存在的信念和不安全感。[2]

(二)机器学习制作“假新闻”,扰乱选民视听

前文说到,人工智能是适应于每一个应用环境并且能够给使用者产生影响的计算机程序。根据定义,在推特账号上社交账号机器人也是人工智能。

利用虚假新闻抹黑政治对手的方式早已有之。在2016年美国大选中,除了专门的假新闻写手,美国著名科技公司推特(twitter)中的社交机器人也需要为假新闻扰乱视听承担责任。社交账号机器人也被称为推特水军(twitter bots),其基本功能是模仿人类用户的活动并自动发布内容或参与讨论。这些机器人如同真人一样,可以进行转发和讨论操作,从而达到以改变网上对话创造热门话题的目的,通过点击流量来博得更多人的关注,一时间成为影响人们观点思维的强大宣传工具。

据当时美国的调查统计分析,总统大选辩论期间,由推特机器人所发送的推文约380万条,占总发文量19%,23%的美国人有意或者无意地分享了虚假的政治新闻,9%的美国人对假新闻的情况下进行线上分享和传播并不知情,甚至还有7%的人明知新闻为假还将其分享,[3]这一数据证明了推特机器人在参与大选活动。

其基本的运作方式为:首先,在虚假新闻传播的初期,机器人尤其活跃,它们会夸大毫无根据的新闻再将其传播开来。其次,机器人通过回复和提及功能来锁定有影响力的用户。最后,机器人可能会隐藏它们的地理位置,[4]而推特水军会在大选结束后自动注销,追究其法律责任也较为困难。

(三)人工智能机器用于预测选举结果

2016年大选期间,科技因素伴随整个大选全过程。人工智能技术被各方势力使用,服务于背后的政党,其中也包括对选举结果的预测。在众多人工智能预测系统中,印度公司Genic.ai开发的MogIA成功预测了特朗普的胜选,而Bing Predicts、Unanimous AI、UNO等则预测希拉里胜选,后三者主要的分析来源是以人为分析对象或是直接询问选民。Bing Predicts预测希拉里胜选的原因是受到了希拉里的资助。Unanimous A.I.的收集资料的来源是问卷访谈,而参加访谈的对象基本上都是民主党人,所以这种分析方法得出的大选结果也是倾向于民主党的。

预测成功的MogIA系统则不掺杂任何人为干预,只依靠机器的自主强化学习,把互联网及社交媒体节点数据做为分析样本,虽然特朗普用社交媒体与网民进行互动,但并不是所有网民都在支持特朗普,而 MogIA在抓取数据点时却不能完全将这些不喜欢特朗普的网民区分开来,所以,对特朗普的负面讨论话题也可能会被纳入预测算法的数据抓取范围内。从这个角度讲, MogIA在设计时存在缺陷,但也阴差阳错成为特朗普的助力。[5]

二、人工智能政治应用对美国的启示

(一)警惕“数字权力”冲击传统代议制民主结构

人工智能及其背后的科技公司反映出非政府行为体正日益参与到传统政治议程中。在“弱人工智能时代”下,政党政治的角色不仅包括政党,还包括社会组织、媒体、科技企业、公民个人等其他非政府行为体。

某种意义上说,人工智能打破美国传统政治精英的话语垄断,能够更好地把选民真实意见反映出来,是政治参与的一种创新。但是也需要警惕人工智能垄断形成“数字寡头”,逐步控制政治议程。一方面,传统代议制民主由选民选举的政党代为行使权力,资源充沛的一方有可能利用人工智能打击另一方,没有资金和技术优势的一方就会被排除在外。

另一方面,虽说人工智能可以较为准确地反映真实民意,反之,人工智能也可以压制民意。例如军事情报机构可以利用人工智能监控情绪和态度,并能更快地对情况做出反应。人工智能同样会给乌克兰和埃及等地的抗议者或利比亚反对派等反叛组织和革命运动提供一种能力,使他们能够更快、更容易地向世界各地同情他们的支持者传递信息。[6]这样的“民主”传递的不是公众的呼声,而是新时代的“寡头统治”。

(二)政府应该引导人工智能产业的良好发展

人工智能应被纳入立法范畴,出台相关法案,惩治不法行为。自2018年5月,欧盟《通用数据保护条例》(GDPR)颁布以来,印度、巴西、美国等国家也纷纷效仿,明确规范对数据处理者的个人数据收集和使用行为,促使人工智能行业进一步规范数据收集和使用行为。此外,各国出台的个人信息保护法案可以对违反规定的企业进行处罚,对相关企业产生威慑效应,2019年7月美国联邦贸易委员会(FCC)就对“脸书”公司进行了50亿美元的巨额罚款。

政府不仅要扮演执法者的角色,也要促进企业良性发展。企业、学界和政府的良性互动是保证未来人工智能发展的重要基础。科学家在新兴领域进行体系化学科建设和研究成果产出;企业家为市场回报率的学术成果投资,并为社会提供相关的产品和服务;政府进行相关立法,保护科学家的研究专利和企业家的权利,并加大对科学技术的投入。[7]同时,这种“三行为体互动”的模式仍然还要坚持“创新”与“独立自主”的原则。

(三)人工智能企业应把控算法风险

算法和大数据分析是人工智能最为重要的两个核心技术。算法用于分析数据并得出结论无可厚非,大数据分析可以帮助决策者得出最优解。应用于选举时,人工智能有很大的随机性,其核心算法应该处于可查询的状态,换句话说,就是保持算法的透明度。

但算法本身晦涩难懂,企业就要有义务以通俗化的语言指出在开发或者试用阶段出现的问题,并给出初步的解决方案,保证其算法真正用到实处。在产品研发成功后,还要模拟海量数据的处理、在测试阶段还要及时反馈信息,直至改善完毕并由政府层面验收通过后才能正式使用。企业也应建立信息与审核渠道机制,及时对信息进行有效审查,把风险出现的概率降到最低。

三、结语

自2008年奥巴马利用社交媒体获胜之后,社交媒体开始成为观察美国政治的窗口。而社交媒体往往是人工智能的重要载体,从这个角度来说,人工智能已经陪伴美国政治十余年之久。

笔者在查阅美国中期选举相关文献时,偶然在推特上看到显示“预计需要多天时间统计选票,因此一些选举预期获胜者可能尚未公布,这意味着你可能会遇到声称某位候选人已经胜选但未经证实的消息”,并且还出现了“了解邮寄选票为什么是安全可靠的?”的按钮。在笔者看来,这两条提示语有两层潜在含义:第一,未经证实的信息即为假新闻,推特作为重要的社交媒体载体,社交媒体机器人有可能散布假新闻,提醒选民要甄别信息。第二,邮寄选票是民主党惯用的手法,2020年民主党曾操纵选票系统“故障”采用邮寄选票的方式引起共和党的批判,也从侧面证明了传统的竞争游戏规则已经被打破,抹黑和采取极端手段打击对手成为常态。

从上述两点可以看出,美国科技企业已经逐渐重视社交媒体假新闻问题,呼吁公民要辨别是非。在中期选举中,共和党夺得众议院控制权,民主党守住参议院多数党地位,本次中期选举深刻反映出美国不断加剧的政治极化和民意撕裂。但是无论两党如何争斗,有一点是共同的:保持美国新技术“高边疆”优势,人工智能建设都在两党政治议程之内,依靠人工智能,发挥新技术优势,维持美国全球领先的地位。

鉴于人工智能在社会应用上还有分歧,我们必须继续跟进保护数据隐私方面的探索,鼓励制定关于人工智能和机器学习的标准法规和道德规范,提高对上述风险的立法意识,设立相关问题的责任底线。

虽然人工智能机器特点各异,但是有一点是相同的,即新技术是打着资本的烙印的。人工智能需要大量的资金投入,而美国两党的运作离不开背后资本集团的支持,那么两党背后各自资本集团利用旗下公司的人工智能系统为所支持的候选人服务也合乎情理。

美国总统大选的人工智能预测之战,无论输赢,其背后反映出的人工智能在数据和算法上存在难以避免的缺陷,导致结果的客观性大打折扣。

编:王叶湑

审:孙成昊

(本文仅代表作者个人观点,与清华大学战略与安全研究中心立场无关。引用、转载请注明出处。)

参考文献

[1] 韩鸿, 彭璟:《论智媒时代社交媒体的社会责任——对2016美国大选中Facebook 假新闻事件的反思》,《新闻界》2017年第5期,第87页。

[2] Hope Reese. The Cambridge Analytica whistleblower on how American voters are “primed to be exploited”, Vox,

https://www.vox.com/the-highlight/2019/10/28/20932790/chris-wylie-cambridge-analytica-facebook-trump- 2020/2022-11-3.

[3] https://www.journalism.org/2016/12/15/many-americans-believe-fake-news-is-sowing-confusion/pj2016-12-15fake-news_0-05/ 2022-11-3.

[4] Alessandro Bessi and Emilio Ferrara, “Social bots distort the 2016 U.S. Presidential election online discussion”,First Monday, Vol21, Nov 2016, pp5.

[5] 李阳:《人工智能对政治选举的影响——以2016年美国大选为例》,暨南大学硕士论文第37页,2020年。

[6] Miles Brundage, Shahar Avin, Jack Clark, Helen Toner, Peter Eckersley, Ben Garfinkel, Allan Dafoe, Paul Scharre, Thomas Zeitzoff, Bobby Filar, Hyrum Anderson, Heather Roff, Gregory C. Allen, Jacob Steinhardt, Carrick Flynn, Seán Ó hÉigeartaigh, Simon Beard, Haydn Belfield, Sebastian Farquhar, Clare Lyle, Rebecca

Crootof, Owain Evans, Michael Page, Joanna Bryson, Roman Yampolskiy, Dario Amodei, The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation, Cambridge: Centre for the Study of Existential Risk.No2(2018),pp.44.

[7] 张一飞:《冷战思维的新科技包装:〈人工智能如何重塑全球秩序〉评析》,《当代美国评论》2019年第1期,第94页。


上一篇:《美国观察》52 | 美国联盟体系与拜登任内的联盟新动向

下一篇:《美国观察》50 | 拜登政府消解韩国民间反美情绪的策略与效果