编者按
不知从何时开始，拿过一本新书，特别爱看的是序言和后记，尤其是一本科技方面的书，原因不外乎还是那些神乎其神（但很多并不完备）的数学公式们，有时常想：不用公式就能把话说清楚的书肯定不是耍“某某”吧！当朋友把马库斯的这本《如何创造可信的AI》刚寄给我，就发现没有公式，所以推荐给大伙一读！拿起书再仔细一翻，竟然也是批评当前人工智能科技的，而且还有理有据有节，更建议大家读一下了，或许未来新的人工智能趋势就隐藏于此吧！可惜的是序言没有拿到！（刘伟，CISS人工智能国际与安全项目组成员）
可信的AI，也就是基于推理、常识性价值和良好工程实践的人工智能，无论是出现在10年之后还是百年之后，有朝一日若真能实现，定会掀起一场巨大的变革。
在过去的20年间，我们已经见证了重大的技术进步。这些进步主要是以从零学起的“白板”机器学习的形式，在大数据集的基础之上，应用于语音识别、机器翻译、图像标注等领域。我们不认为这一趋势会停止发展。图像和视频标签的技术水平将继续进步；聊天机器人会变得更加优秀；机器人操纵和抓取物体的能力也将继续提高。我们将看到越来越多的对社会有益的新颖应用，例如使用深度学习来跟踪野生动物和预测余震。当然，在我们所呼吁的AI重启之路铺展开来之前，在广告、宣传、虚假新闻以及监控和军事应用等不那么善意的领域，人工智能也会取得进展。
但最终，所有这些都不过是开胃小菜而已。若干年后回望历史，真正的转折点不会是2012年深度学习的重生，而是通过常识和推理上的突破，人工智能获得对世界深刻理解的时刻。
这意味着什么？没有人知道，因为谁都无法假装自己有能力预测未来的所有分支。在1982年的电影《银翼杀手》中，世界上到处都是先进的人工智能复制人，他们看起来和人类几乎没有什么区别。然而在一个关键时刻，哈里森·福特（Harrion Ford）饰演的里克·狄卡（Rick Deckard）在一个公用电话前停下来打了个电话。3在现实世界中，用手机取代付费电话要比构建人类级别的人工智能容易得多，但电影摄制组中没有人预料到这个时代问题。在任何关于技术突飞猛进的预测中，无论是我们做出的还是别人做出的预测，都必然会存在一些非常明显的偏差。
但是，我们至少能以事实和推理为基础，做出一些有根据的猜测。
首先，由深度理解所驱动的人工智能，将是首款可以像孩子一样学习的人工智能，以轻松、强大而持续不断的方式扩展对世界的认识。通常情况下，它只需要接触一两个关于新概念或新情况的例子，就可以创建出一个有效的模型。同时，这个产品也将是首款可以真正理解小说、电影、报纸故事和视频的人工智能。具有深度理解能力的机器人，将能够安全地在现实世界中四处移动，实际操作各种物体和物质，识别物品的用途，并与人建立舒适而自由的互动。
计算机只要能对这个世界和我们所说的内容产生理解，就拥有了无限的可能性。首先，搜索会变得更加精准便捷。许多困扰当前技术的问题，比如“目前谁在最高法院任职”“谁是1980年最高法院年龄最大的法官”“《哈利·波特》里的魂器有哪些”，对机器来说就是小菜一碟。还有很多我们现在连做梦都不敢想的问题会得到完美解答，比如编剧可以对未来的搜索引擎说：“找一个短篇故事，其中讲到某国领导人成为另一个国家的特务，用于改编电影。”天文爱好者可以提问：“下一次木星的大红斑会在什么时间出现？”而答案则会考虑到当地天气预报和天文情况。你可以告诉视频游戏，你希望自己的化身是一头穿着扎染衬衫的犀牛，而不用从一堆预先设置的选项中进行选择。你还可以让电子阅读器对你阅读过的每一本书进行跟进，并根据不同的文学体裁和作者所在的大洲，对你花在每部作品上的阅读时间进行排序。
与此同时，数字助理将能够拥有与人类助理几乎同样的工作能力，而且更大众更普惠，让所有人都能用得起，而不仅仅是为富人服务。想为1000名员工策划一次集体活动吗？具备深度理解能力的数字助理，将会完成大部分的工作，既能搞清楚需要购买什么物品，也能想明白需要给谁打电话，发提醒，将谷歌Duplex希望做到的事情囊括进来，也就是给别人打电话并进行互动交流，但不只是用预先设定的脚本来预约理发师或餐厅座位，而是能够执行规模庞大的定制化操作，过程中可能涉及数十位员工和各行各业的分包商，从主厨到摄影师全部包括在内。你的数字助理将兼任协调人和项目经理两个职责，管理上百人日程表中的一部分内容，而不仅仅关注你自己这一份。
计算机也将变得更加容易使用，从此再也不需要仔细阅读帮助菜单，也无须记住键盘快捷键。如果你想要所有的外语词汇都变成斜体，就可以直接提要求，而不用自己一个字一个字地看一遍整篇文档。想从40个不同的网页上复制40种不同的食谱，自动将所有的英制单位转换为公制单位，并将食谱中的所有原料添加量都按照做4人份的比例进行调整？你需要做的，就是直接把要求提出来，用英语也好，用其他你想用的语言也罢，而不用再去特意寻找一款拥有上述功能的应用程序。从本质上讲，我们现在用电脑做的所有那些乏味无聊的事情，都可以自动完成，根本不用那么麻烦。互联网上充斥着有关“Chrome的烦恼”和“PowerPoint的烦恼”的网页，这些问题的细节虽小，但十分重要，而企业软件开发人员却未能预见这些意外事件的发生。这些让用户大为恼火的问题都将消失。随着时间的推移，从中获得的全新的自由，将像网络搜索一样彻底改变人们的生活。而其深远的影响力，甚至会超越网络搜索。
《星际迷航》的全息甲板也将成为现实。想在基拉韦厄火山喷发时飞越上方鸟瞰全景吗？想要陪伴佛罗多去末日火山吗？只要提出要求就能做到。在《头号玩家》（Ready Player One）的著作和电影中想象出来的令人炫目的虚拟现实世界，将成为所有人都能体验到的服务。我们已经知道如何让图像达到极致的逼真，而具有深度理解能力的人工智能，也将使丰富而复杂的类人角色成为可能。就这一点而言，具备复杂心理活动的外星人也将成为可能，他们的身体构造和思维方式与我们截然不同，而人工智能则可以在此基础之上构思出这些外星人的合理选项。
与此同时，机器人管家也将变得实用，而且足够值得信赖，可以让人心无挂碍地放在家里，它们会做饭、打扫、整理、购买日用物品，甚至还能更换灯泡和擦窗户。而对于无人驾驶汽车来说，深度理解很可能也是令其拥有真正安全性的不二法宝。
随着时间的推移，令机器拥有普通人对世界的理解能力的这些技术，可以进一步得到扩展，达到人类专家的理解能力，超越基本常识，发展到科学家或医生所拥有的那种专业能力。
当这种理解能力成为现实之后，也许再过几十年，经过大量的努力，机器将能够开始进行专家级的医学诊断，分析法律案件和文件，教授复杂的科目，等等。当然，政治问题仍将存在，我们依然要想办法说服医院，让管理者认为更加优秀的人工智能从经济角度来讲是有意义的，而由机器发明出来的更加优质的能源，也需要人们真正愿意去接受。但是，只要人工智能的水平足够高，许多技术挑战都将首次被攻克。
计算机编程也将最终实现自动化，任何人的发明创造能力，无论是创业还是发明某种艺术形式，都将比现在强大得多。建筑业也将发生变化，因为机器人将能从事木匠和电工等熟练工种；新房子的建筑时间将会缩短，成本也会降低。几乎所有脏活累活和危险工作，就算需要专业知识，也将实现自动化。救援机器人和消防机器人将会得到广泛使用，出厂时就具备各种技能，从心肺复苏到水下救援无所不包。
艺术家、音乐家和各行各业的业余爱好者，也将得到人工智能助手的加持，极大提升其所在领域的覆盖面。想和机器人乐队一起练习披头士的曲子，或指挥由机器人组成的完美和谐的交响乐队吗？想和老婆一起与大威小威a的授权复制版一起来网球双打吗？没问题。想要用乐高积木搭一座一比一的城堡，还有机器人在里面比武吗？想要在下次去参加火人节活动的时候，用无人机摆出巨石阵吗？人工智能将帮助你完成其中的每一项计算任务，机器人将去做大部分的实际工作。各行各业的人们，都有能力去做他们以前从未想过的事情，每个人都可以作为整个机器人助手团队的创意总监。人们也会有更多的空闲时间，去让人工智能和机器人来承担日常生活中单调乏味的工作。
当然，整个行业的发展也不太可能齐头并进。我们很可能会在某些领域，如定量科学的特定领域，率先达到专家水平的深度理解，而其他领域的人工智能仍然在为达到儿童级水平而努力。完美的音乐助手很可能会比完美的人工智能律师助理的诞生要早很多年。
终极目标就是能够自学成才，达到任何领域专家水平的机器。我们相信，这样的机器早晚都会成为现实。
最终，软件将具备人类专家同等的灵活性与强大直觉，一旦将机器的强大计算能力和这样的软件结合起来，科学发现的速度也会大大加快。
到那一天，一台先进的计算机就能做到一整个经过严格训练的人类团队所能做到的事情，甚至能做到人类无法做到的事情。举例来说，我们无法在头脑中记住成千上万的分子之间的相互关系，更无法达到机器与生俱来的数学精准度。拥有如此高级的人工智能，我们就有可能在结合大量神经数据的基础之上，利用复杂的因果推理，来搞清楚大脑究竟是如何运转的，怎样制造出能治愈精神障碍的药物—这一领域30年来几乎没取得什么进展，因为如今我们对大脑的了解实在太少。我们还有理由认为，拥有真正科学能力的人工智能，还可以帮我们设计出可用于农业和清洁能源领域的更加高效的技术。这些不可能很快实现，也不可能轻易实现，因为人工智能实在太过艰深。但一切终将实现。
并不是说我们可以从此高枕无忧。往好处看，如果彼得·戴曼迪斯是正确的，那么随着自动化在各行各业的普及，物质将会极大丰富，从日用商品到电力，许多东西的价格也将越来越低。在最理想的情况下，人类会实现奥斯卡·王尔德所描绘的图景：“自娱自乐，或享受有教养的闲暇……制作美丽的东西，阅读美丽的文字，或仅仅是用欣赏和快乐的眼光去观察这个世界，（用）机器……做所有必要而令人不快的工作。”
但现实一点来看，就业机会很可能会变得越来越稀缺，关于基本收入保障和收入再分配的大讨论，很可能比现在更加剑拔弩张。就算经济问题能得到解决，许多人也可能需要改变自身获取自我价值感的方式，一旦大量非技术工种发展到自动化阶段，人们需要从先前很大程度上对工作的依赖，转变到从艺术和创意写作等个人项目中寻找充实感的模式。当然，一定会有全新的工作机会，比如机器人维修，至少在一开始这项工作是很难得到自动化的，但我们不能假定新的职业将全部替代旧有职业。社会的结构将会发生很大的变化，人们的休闲时间越来越多，商品的价格越来越低，枯燥乏味的工作极大地减少，而就业机会也减少了许多，还可能会出现更大的收入不平等。我们有理由认为，人工智能的认知革命将像工业革命一样，点燃社会变革的燎原大火。有些变化是积极的，有些变化是消极的，而许多变化都是剧烈的。解决人工智能的问题并不是包治百病的万灵药，但我们认为，只要我们能在发展人工智能的道路上时刻保持明智与谨慎的态度，人工智能在科学、医学、环境和技术等领域所能做出的贡献，会令全人类在整体上向积极的方向发展。
这是否意味着，我们的后代将生活在一个物质极大丰富的世界中，将几乎所有的难题都交给机器来处理，而人类则是一副优哉游哉的闲暇状态，就像王尔德和戴曼迪斯所憧憬的那样？会生活在一个可以将自我拷贝上传到云端的世界中，就像库兹韦尔所说的那样？在想象之中才能实现的医学进步的带动下，能以伍迪·艾伦更加传统的方式实现真正的永生，也就是说永远不会逝去？可以将我们的大脑与硅芯片融为一体？“技术宅男的狂欢”可能就在明天，也可能还很遥远，甚至永远不会到来。我们无从得知。
公元前600年，当泰勒斯（Thales）开始研究“电”的时候，他知道自己发现了某种意义非凡的东西，但当时的条件还不可能预料到这东西的确切用途。他肯定想不到，有朝一日，电会引发社交网络的发展，会孕育出智能手表、维基百科这样神奇的事物。由此看来，若想在当下预测出人工智能未来的发展走向，或是人工智能在千年之后，哪怕是500年之后对整个世界形成的影响，实在是夜郎自大。
我们所知道的，就是人工智能正在不断发展的过程之中，所以，我们最好尽自己最大的力量，确保接下来会发生的一切都是安全、可信、可靠的，并在我们的引导之下，让人工智能尽可能地为全人类提供帮助。
而朝这一目标前进的最佳路线，就是跳出大数据和深度学习这个框架，走向更具鲁棒性的全新的人工智能—经过精心工程设计的，出厂就预装价值观、常识和对世界深度理解的人工智能。
书名：《如何创造可信的AI》(Rebooting AI：Building Artificial Intelligence We Can Trust)
作者：[美]盖瑞·马库斯(Gary Marcus ) 欧内斯特·戴维斯（Ernest Davis）
出版社：湛庐文化/浙江教育出版社
[内容简介]
当下的AI存在哪些风险？真的有可信的AI吗？
理想的AI与现实的AI之间究竟存在哪些差距？
如何构建人类和AI之间的信任？
关于人工智能的炒作总是甚嚣尘上，但要得到真正可信的AI，却远比想象的要复杂得多，超级智能的时代还远没有到来。创造真正可信的AI需要赋予机器常识和深度理解，而不是简单地统计分析数据。本书勾勒了未来人工智能发展的最佳路线图，对当前人工智能的现状进行了清晰且客观的评估。
作者盖瑞·马库斯是人工智能领域的专家，同时还是心理学和神经科学教授，在计算机科学、认知科学、语言学、人工智能等领域都练就了相当深厚的学术功底，并敢于挑战学术界的主流观点。当整个人工智能学术界都在过分乐观地高歌猛进时，他不断撰文和发表演讲来指出以深度学习为代表的当下AI的弊端和局限性，《如何创造可信的AI》这本书正是马库斯对他关于人工智能观点的最佳总结。
盖瑞·马库斯和欧内斯特·戴维斯从深度学习算法固有的缺陷出发，阐述了当下 AI 技术发展的桎梏，对当前 AI 的场景应用和研究范式中的问题进行了分析，他指出AI真正的问题在于信任，常识才是深度理解的关键。最终从认知科学中提炼出了11条对人工智能发展方面的启示，以通用人工智能为发展目标，给出了未来 AI 技术的一种发展方向。
[目录]
第1章 AI该往何处走
真的有可信的AI吗
狭义 AI 与广义 AI
理想与现实之间的鸿沟
如何跨越 AI 鸿沟
第2章 当下AI的9个风险
机器人有暴力倾向吗
机器也会犯错
当下AI的9个风险
第3章 深度学习的好与坏
人工智能 > 机器学习 > 深度学习
什么是深度学习
深度学习的三个核心问题
深度学习是一个“美好”的悲剧
第4章 计算机若真有那么聪明，为什么还不会阅读
Talk to Books 无法回答一切问题
人是怎样阅读的
搜索引擎和语音虚拟助手的困惑
计算机不会阅读的三大原因
常识很重要
第5章 哪里有真正的机器人管家
从扫地机器人到机器人管家
机器人管家必备的四个能力
认知模型和深度理解才是关键
第6章 从认知科学中获得的 11 个启示
从认知科学中获得的 11 个启示
为机器赋予常识
第7章 常识，实现深度理解的关键
建立常识库的三种方法
知识表征
通用人工智能应具备的常识
推理能力
常识，深度理解的关键
第8章 创造可信的AI
优秀的工程实践
用深度理解取代深度学习
赋予机器道德价值观
重启 AI
后记
致谢
关于《重启人工智能》11条建议的思考
本文首发于2020年6月3日人机与认知实验室
