在1950年代，科幻作家弗雷德里克·布朗(FredricBrown)写了一个关于超级智能机器的故事。短短半页的故事向我们介绍了一台功能强大的计算机，当一个名叫DwarEv的人按下开关的那一刻，数亿台小型计算机终于连接在一起。过了一会儿，机器面前出现了一个问题：“上帝存在吗？”答案来自电脑的声音：“是的，现在有上帝了”。计算机智能会控制开关，防止自己被关闭，甚至可能会谋杀人类。这是一部令人不安的警示性科幻短篇小说。我们对自己创造的东西充满野心，但野心何时会变得危险？今天，计算机和人工智能使我们的生活更加便利。人工智能的应用很多——从自动驾驶技术到手术机器人，未来的人口将不仅由人组成，还将由机器组成。这些机器是否可以变得有意识是一个有争议的问题。但这与意识无关，它与具有超级理解力的超级智能机器有关。创建超级智能AI的原因有很多。它可以帮助我们让世界变得更美好，找到治疗绝症的方法，分析我们的经济，帮助我们进行物流，并找到帮助人类更长寿的方法。但未来仍不确定。超级智能的人工智能将被赋予无限的潜力，但我们也将任其摆布。上个月发表在同行评议的《人工智能研究杂志》上的一篇论文强调了这个结论：“Superintelligencecannotbecontained:LessonsfromComputabilityTheory”。电影《机械姬》中的人工大脑。关于人与机器的关系，有艾萨克·阿西莫夫科幻小说中著名的机器人三定律。虽然最初只有三个定律，但后来添加了第零个定律。它们分别是：0.机器人必须保护人类的整体利益不受损害，其他三定律只能在此前提下成立。1.机器人不得伤害人类，也不得允许人类受到伤害。2.机器人必须服从人类给它的命令，除非这些命令违反第一定律。3、在不违反第一定律或第二定律的前提下，机器人必须保护自己的存在。乍一看，这些定律似乎足以让人类和机器人共存。但事实上，这些法律从一开始就注定了。例如，在《我，机器人》（我，机器人）中，观众同情一个拟人化的机器人，随着电影的进展，它似乎变得越来越有知觉。最后，我们不禁怀疑这些机器（不仅仅是冰冷的金属和电路）是否非常人性化。阿西莫夫的科幻小说探讨了这些定律的许多失败之处。多年来，批评家也指出了他们的许多缺点。也许最大的缺陷是法律含糊不清。如果机器变得如此人性化，以至于很难将它们与人类区分开来，那么机器将如何区分它们呢？人类在哪里结束，人工智能从哪里开始？当然，比我们更聪明的AI可以计划一种访问其核心的方法，从而规避任何现有限制。这是一个可怕的问题。然而，即使是这些科幻故事中的机器人也远不及真正的超级智能机器。虽然阿西莫夫的机器人以今天的标准来看是先进的，但它们离人工智能的真正巅峰还差得很远。机器人将比超级智能机器领先几十年。随着生命的发展，在破坏性小行星上生存，解决全球变暖问题，人类势必面临自身技术的生存问题。阿西莫夫的“三定律”有助于讲述好故事，但AI研究人员并没有实施它们。今年，这项由马克斯普朗克人类发展研究所进行的研究使用计算来预测超级人工智能的安全性。这种级别的人工智能不仅比所有人类都聪明，还能连上互联网，不断学习，控制网络上的其他机器。今天已经有机器可以在没有人类程序员帮助的情况下完成任务。程序员自己并不了解机器是如何学习完成这些任务的。研究团队试图使用一种理论上的遏制算法，在模拟人工智能的行为后，如果它被认为对人类有害，可以阻止它继续进行。发现该算法无法构建。我们所知的任何算法都无法确定人工智能是否会做出有害行为。人类与机器中心主任IyadRawin是这样说的：如果你将问题分解为计算科学理论的基本规则，命令AI不要毁灭世界的算法可能会无意中阻止它自己手术。如果发生这种情况，您将不知道遏制算法是否仍在分析威胁，或者它是否已停止包含有害AI。实际上，这使得该算法无法使用。从扰乱市场经济到控制战争，超级智能的许多行为将超出人类的理解范围。它甚至可能导致开发出一种超越我们现在熟悉的编程语言。日本富岳超级计算机是目前世界上最强大的计算机，在IBM的峰会上高居榜首。富岳用于药物发现、自然灾害模拟和新材料开发。除了节流算法之外，还提出了其他控制AI的想法。一个例子着眼于限制人工智能的能力。不要让它连接到互联网或其他任何东西，从根本上将它与世界隔绝。但它也限制了AI的实用性。在另一个例子中，我们从一开始就关注编程的道德原则，灌输一种只让人类变得更好的愿望。但是，正如我们在上面看到的阿西莫夫三定律一样，机器中的伦理是不稳定且充满漏洞的。可计算性理论告诉我们，我们不知道如何或是否可以构建一个程序来消除与足够先进的人工智能相关的风险。正如一些人工智能理论家和科学家所认为的那样，没有任何先进的人工智能系统可以保证绝对安全。这种不确定性在人工智能领域被称为控制问题。我们是不是太急于做一些我们不了解其含义的事情？然而，我们似乎没有办法阻止机器的发展。不管有没有我们的支持，人工智能已经进入了我们的生活，而且这种模式在未来还会继续下去。人工智能将继续发展，无论我们是否理解，我们无法确定。在它被揭示给我们之前，我们不会知道我们创造了什么。
