1.人工智能正在为你的工作而来。为了保护你的事业，最好从事机器不擅长的工作——比如涉及人的、不可预测的或需要创造力的工作。我们希望避免在可预见的情况下自动消失的重复性或结构化工作，例如电话推销员、仓库工人、收银员、火车操作员、面包师或流水线厨师。卡车、公共汽车、出租车和uber/lyft的司机可能很快就会被更换。此外还有许多职业（包括律师助理、信用分析师、信贷员、簿记员和税务会计师）虽然不在被取代的名单上，但他们的大部分工作都是自动化的，因此需要更少的人力。2.失业可能变成一生难得的假期。根据人工创造的财富的征税和分享方式，人工智能的进步可以为所有人创造一个奢侈和休闲的社会，也可以为大多数失业者创造极度痛苦的社会。3.杀手机器人不是虚构的。我们即将开始一场关于人类控制武器的失控军备竞赛，这可能会削弱当今大国的军事力量，方法是让每个人都拥有一台装满钱包的廉价且容易使用的暗杀机器，其中包括恐怖组织。人工智能研究人员反对这一点，并希望有一个国际人工智能军备控制条约。4.机器没有智商。智能是实现复杂目标所必需的。它不能像智商那样用一个数字来量化，因为不同的生物体和机器擅长的事情不同。5.人工智能正变得越来越普遍。今天的人工智能大多是狭义智能，完成一小部分目标的能力，比如下棋或开车，有时比人类还要好。相比之下，人类拥有真正的智慧，能够实现任何目标，包括学习。人工智能的最终发展目标是通用人工智能（AGI），即能够像人类一样完成任何智力任务。许多领先的AI研究人员认为，我们离AGI只有几十年的时间。6.人工智能可能会将我们远远抛在后面。正如英国数学家IrvingJ.Good在1965年所解释的那样：“超级智能机器被定义为一种机器，无论它多么聪明，都能够远远超过人类的智力活动。”由于机器的设计是一项智力活动，因此超级智能机器可以设计出更好的机器。毫无疑问，这将是一场“智能大爆炸”，人类智能将远远落后。因此，如果机器足够温顺，可以告诉我们如何控制它，那么第一台超级智能机器是人类唯一需要做出的发明。7.我们远未达到计算的极限。自从我祖母出生以来，电脑的价格下降了很多。如果一切都更便宜，百分之一的钱可以让你购买今年地球上生产的所有商品和服务。摩尔定律规定了我们在2D硅晶圆上移动电子需要多少成本，一旦我们在这个平台上，我们就可以尝试许多其他硬件解决方案——例如使用3D电路，使用电子来完成我们的任务。我们离物理定律的极限计算还差一百万亿倍。8.人工智能可以帮助人类繁荣发展。因为人类文明中的一切都是智能的产物，我们使用人工智能来增强我们自身的智能有可能帮助生命以前所未有的方式繁荣发展，并解决我们最棘手的问题，从疾病到气候变化。9.人工智能带来风险。好莱坞对机器变得有意识和邪恶的恐惧是在转移注意力。真正令人担忧的不是恶意，而是能力。超级智能的定义是它非常擅长实现自己的目标，无论目标是什么，所以我们需要确保它的目标与我们的目标一致。人类通常不讨厌蚂蚁，但我们比它们聪明得多——所以如果我们想用蚁丘建造一座水力发电厂，那对蚂蚁来说太糟糕了。10.我们需要人工智能安全研究。为确保人工智能继续对社会产生越来越大的影响，需要对人工智能安全进行更多研究。例如，我们如何才能将今天有缺陷的计算机变成我们真正可以信任的强大人工智能系统？我们如何让机器学习、接受并保留我们的目标？这些都是具有挑战性的问题，可能需要几十年才能回答，所以我们现在应该开始研究，以确保在我们需要的时候得到答案。但与花费数十亿美元使其更强大相比，各国政府迄今为止在人工智能安全研究上投入的资金很少。
