我们离通用人工智能有多近？我们进步的速度有多快？目前，我们还没有可以与人脑计算能力相媲美的小型计算设备。如果计算机的性能每18个月翻一番，价格也会翻一番。按照这个速度，也许再过50年，我们就能买到一台计算能力堪比全球100亿人脑的个人电脑。如果我们被计算机超越会怎样？日本科学家发明了一种计算速度极快的机器。每次与人类交手时，机器都会获胜。人们普遍认为，通用人工智能一旦达到人类智能水平，将很快超越人类智能。而一旦它超越了人类，它就不需要我们帮助它变得更聪明了，它自己就能做到。比如可以自己编程，然后不断完善自己的算法。这样，计算机将继续以指数级的速度进步，将人类远远甩在后面。科学家称这个时间点为技术奇点。到那时，人类将完全无法与计算机抗衡。想象一个人不仅拥有一个博士学位，而且拥有所有领域的博士学位。你根本看不懂他在做什么，他能做到别人做不到的事情。与思维比你快一百万倍的人交谈是什么感觉？你想的每一秒，他都想了两个星期。如果快十亿倍怎么办？你想的每一秒，他都想了32年。但并非每个人工智能专家都认为技术奇点即将到来。目前，我们构建的人工智能系统的能力非常有限。其对计算机程序的理解还不如只接触程序四五周的学生。科学家们研究人工智能已有40多年。试了很多方法，还是不知道怎么做。现在很多人投资人工智能，很多科学家都在研究这个课题。这背后的诱因很大程度上是人工智能的万亿美元市场。毫不夸张地说，通用人工智能的发展将彻底颠覆世界经济。同时，这也伴随着很多人的担忧。我们制造可以治愈癌症和延长人类寿命的机器。我们还可以利用人工智能让社会变得更加公正和公平。然而，它也有可能对人类造成严重破坏。我们为我们识别的机器设定一个目标，机器可能会自动制定一些子目标来实现这个目标。此时，我们无法预测这些子目标是否会损害我们的利益。《2001太空漫游》中的人工智能HAL，为了使任务成功，选择杀死部分宇航员。这非常准确地呈现了超级智能的真正威胁。如果我们为人工智能设定一个目标就是世界和平。那么实现世界和平最有效的方式或许就是消灭全人类。干掉所有人类，就不会再有纷争。很多人会说“关掉机器就好”。但是一个高度智能的机器，难道它不知道如何保护自己吗？关闭它可能不是那么简单。
