像人类一样似乎是人工智能发展的最终目标。然而，众所周知，人类有智慧和愚蠢的两面。如果人工智能要像人一样，是否也需要具备这两个方面？从原本是为了测试AI能否像人一样诞生的图灵测试来看，当人类完成计算等任务时，计算出的答案可能存在一定的错误率，需要一定的时间才能完成计算。当能够立即给出正确答案的AI也模仿人类的计算过程时，人类和AI就没有办法区分了。这就是AI模仿人类是愚蠢的，从而达到了“人形”的一个方面。就人类的成长进化而言，从蹒跚学步开始，自己绊倒，人类一开始所犯的错误或愚蠢，都会为以后的经验和智慧铺路。因此，看似无用的“愚蠢”，或许为AI变得更聪明提供了另一种可能。本文重点探讨AI是否也需要像人类一样具有愚蠢的属性，相信会给大家一些思考和启发。1.愚蠢或智慧我们通常似乎知道说某人聪明意味着什么。相反，当给一个人贴上“愚蠢”的标签时，随之而来的问题是，这到底意味着什么？例如，愚蠢是否意味着以零和方式缺乏智慧，或者愚蠢是否占据了自己的空间，并作为智慧旁边的平行等价物？针对这个沉重的问题，我们不妨做一个思想实验。假设我们有一个装满智能的桶。我们认为智能是有形的东西，可以用手边的桶倒进去或倒出来。把装满智慧的桶倒在地上，还剩下什么？一个答案是桶现在完全是空的，里面什么都没有，也就是桶变空了。另一个答案是，当智慧的桶被倒空时，愚蠢的残骸仍然存在。换句话说，一旦你失去了所谓的智慧，剩下的就是愚蠢。这是一个看似深奥的讨论，但正如你稍后会看到的那样，这个想法对很多重要的事情都有相当深远的影响，尤其是对人工智能的发展和兴起。智慧可以没有愚蠢存在吗？或者，在实际意义上，如果智慧与愚蠢共存，那么愚蠢就一定存在吗？有人断言智慧和愚蠢是禅宗般的阴阳。从这个观点来看，除非你也有一种愚蠢的表象来衡量它，否则就无法洞察智慧的本质。据说人类随着时间的推移变得更加聪明，减少了他们的愚蠢程度。你可能会认为智力和愚蠢是一场零和游戏，也就是说，当你的智力在上升的时候，你的愚蠢水平在下降（同样，如果你的愚蠢在上升，就意味着你的智慧在下降）。人类可以做到100%聪明0%愚蠢吗？或者无论我们多么努力地想变得100%聪明，我们注定总是会有一些愚蠢？回到水桶的类比，有人会说人类从来没有表现出彻头彻尾的聪明，完全摆脱了愚蠢的境地。那个桶里总会有些“坐直”的蠢货。如果你很聪明并且努力工作，你也许可以减少你的愚蠢，即使桶里还剩下一些愚蠢。2.愚蠢对智力是好是坏？你可能会认为任何一种愚蠢都是不好的，我们必须始终试图“关闭它”或避免它。但我们需要问的是，将愚蠢归为“坏”类别、将智力归为“好”类别的简单化观点是否遗漏了更复杂的东西？你可能会争辩说，有时在有限的规模上变笨可能会提供一种增加智慧的方法。当你还是个孩子的时候，假设你愚蠢地被自己的脚绊倒了，然后你意识到自己是因为没有小心抬起脚而被绊倒的。从那时起，你开始更加注意走路的方式，走路也变得更聪明。也许在以后的生活中，当你走在一条狭窄的道路上时，你设法避免自己从路边掉下来，部分原因是早年从愚蠢中吸取的教训已经成为你智慧的一部分。当然，愚蠢也会给我们带来麻烦。虽然你在愚蠢中学会了谨慎行事，但如果有一天你试图在大峡谷的边缘昂首阔步，你就会坠入万丈深渊。在悬崖边上走这条路明智吗？很明显不是。所以我们注意到，愚蠢可以是朋友，也可以是敌人，在任何给定的情况下，在任何给定的时刻，这取决于明智的部分。正如你想象的那样，智慧与愚蠢之间存在着一场永恒的斗争。另一方面，你也可能会认为，聪明人和愚蠢人是搭档，拉在一起，所以这不是一场特定的战斗，因为它更像是一场关于谁占上风以及他们如何相互协调和帮助的战斗。精致的舞蹈或游戏。3.是时候认真思考人工愚蠢了我们每天都听到人工智能的出现将如何改变我们的生活。人工智能技术正在加载我们的智能手机、冰箱、汽车等。如果我们要将人工智能融入到我们使用的物品中，就会引出一个问题：我们是否需要考虑“阳中之阴”，尤其是我们是否需要充分意识到人工愚蠢？大多数人听到或看到“人为愚蠢”这两个字眼时，人们不禁发笑，认为提到这样的事情一定是知情人的笑话。诚然，人工和愚蠢这两个词的组合本身就显得很愚蠢。但是通过回顾以前关于智慧和愚蠢在人类中的作用的讨论，你可以重新构建你的观点，并可能发现每当你讨论智慧时，你不可避免地也需要考虑愚蠢的作用。有人建议我们应该用另一种方式来表达人为的愚蠢，以减少大家的窃笑。华而不实的词句有人工智障、人工天性、人工迟钝等等，但这些词还没有深入我的内心。请原谅我暂时使用“人工愚蠢”这个词，并坚信讨论“人工愚蠢”并不是真正的愚蠢。事实上，你可以说讨论人工愚蠢是愚蠢的，因为你不想或不接受这样的想法，即愚蠢存在于现实世界中，因此在我们试图复制智能的计算机系统的虚拟世界中，所以你忽略或忽略应该是“等式的另一半”的愚蠢。简而言之，据说真正的AI需要将我们现在认为的“聪明”或良好的AI与人工愚蠢（毫不掩饰）结合起来，而且这种结合必须以聪明的方式进行。论点是，通过将人工愚蠢纳入AI，你实质上是将愚蠢不可挽回地引入AI系统，因此最终可能会使AI变得愚蠢。事实上，我们可以通过反驳来反驳许多人对这个概念的直接下意识反应。当然，如果你以愚蠢的方式引入愚蠢，你很有可能会损害AI系统并使其变得愚蠢。另一方面，了解人类的工作方式并故意引入愚蠢的行为可能最终有助于人工智能提高其智力（想想被自己的脚绊倒的童年故事）。到目前为止，人工智能还远远没有达到人类水平的智能，或许要实现真正完整的人工智能，唯一的办法就是将人工愚蠢融入人工智能；将身陷囹圄，与人类一样聪明的AI将遥不可及。也就是说，如果将人为的愚蠢排除在我们的思维之外，我们可能会阻止人工智能达到顶峰。这是一记重拳，而且非常反直觉，以至于它经常阻止人类朝这个方向发展人工智能。然而，现实情况是，越来越多的迹象表明，发现和利用人工愚蠢（或任何应该称呼的东西）的重要性将对人工智能的发展大有裨益。我的结论是，真正无人驾驶汽车的诞生可能涉及将人工愚蠢纳入系统。这令人震惊吗？也许是这样。下面让我们来分析一下这件事。4.利用人工愚蠢当谈到真正的自动驾驶汽车时，我将重点关注4级和5级自动驾驶汽车。由人工智能系统自动驾驶的两种级别的自动驾驶汽车不一定而且通常没有人类驾驶员。人工智能负责所有驾驶操作，所有乘员都是乘客。关于人工愚蠢这个话题，有必要快速回顾一下这个词的历史。在1950年代，著名数学家和计算机科学先驱艾伦图灵提出了所谓的人工智能图灵测试。简而言之，图灵测试就是：让你与配备人工智能的计算机系统进行交互，同时与另一个人进行交互，并且没有事先告诉你哪个是人工智能，哪个是人类（假设它们是隐藏的）inOutofsight），需要你通过与对方交谈来判断哪个是AI，哪个是人类。如果你不能区分这两个玩家，你可以宣布AI通过测试。从这个意义上讲，人工智能无法与人类参与者区分开来，在智能交互中必须一视同仁。实际上，最初的图灵测试发生了急转弯。如果提问者“狡猾”，请两位参与者将pi计算到千分位。想必，AI会在一眨眼的功夫里，非常好、很轻松地告诉你答案，而且非常精准，完全正确。但人类很难做到这一点，如果用纸笔苦苦计算，需要相当长的时间来回答这个问题，而且很可能是错误的答案。意识到这一点，图灵认为通过提出这样的算术问题，他可以从根本上揭开人工智能的神秘面纱。他接着又做了另一个动作，有人说这打开了潘多拉魔盒，暗示人工智能可能会故意错答算术问题。简而言之，人工智能可以通过以类似人类的方式回答问题来试图愚弄提问者，例如故意给出错误答案，并且花费的时间与人类手动计算的时间大致相同。勒布纳奖成立于1990年代初期，是一项类似于图灵测试的竞赛，将为获胜者提供丰厚的现金奖励。在这场比赛中，人工智能系统往往会被注入类似人类的错误，以诱使提问者将人工智能判断为人类。但是这在背后引起了争议，这里就不过多讨论了。1991年，《经济学人》发表了一篇关于比赛的经典文章。再次具有讽刺意味的是，愚蠢的引入实际上是为了将某些事物描绘成聪明的。这段简短的历史经历为本次讨论的下一个要素奠定了基础。让我们将人工愚蠢的话题归结为两个主要方面或两个定义：人工愚蠢是有目的地将类似人类的愚蠢纳入人工智能系统，这样做是为了让人工智能看起来更人性化，而不是为了不是为了改进AI本身，而是为了塑造人类对AI的认知，使其显得更加智能。人工愚蠢是对人类无数缺点的承认，这种“愚蠢”可能会以联合的方式融入人工智能或与人工智能并驾齐驱，如果处理得当，可能会提高人工智能的性能。关于第一个定义，我想澄清一个常见的误解，其中涉及计算机可以故意错误计算某些问题的有点有缺陷的假设。一些人惊呼不屑地叫道，说不定这暗示着计算机在故意求错，比如把圆周率计算错了！该定义并不一定暗示这一点。这大概是因为计算机可能会把圆周率计算正确到千位，然后选择微调一些数字，回来回答调整后的记录答案，眨眼就做完了，然后等待同样的时间需要人手动计算测量后显示结果。这样，计算机内部其实已经有了正确的答案，只是显示出看似错误的答案而已。这种情况对于依赖电脑上报的数据的人来说当然是不利的，但是请注意，这和电脑实际算错的数据是有很大区别的！两者之间的细微差别其实有很多可以介绍的，不过现在还是继续前面的分析吧。人工愚蠢的两个方面都可以应用于真正的自动驾驶汽车，但这样做会带来一些值得考虑的问题。5.人工愚蠢和真正的无人驾驶汽车如今，在公共道路上试运行的自动驾驶汽车已经凭借其驾驶实力扬名立万。总的来说，自动驾驶汽车就像一个年轻的新手司机，对驾驶任务胆怯和犹豫。当你看到一辆自动驾驶汽车时，它通常会试图在自己和前面的汽车之间建立一个大的缓冲区，并试图遵守我们第一次学开车时学到的经验法则。人类司机很少考虑车与车之间的安全地带，往往喜欢把其他车推到一边，这其实很容易对自己造成危险。这是自动驾驶汽车练习驾驶的另一个例子。当看到停车标志时，自动驾驶汽车通常会完全关闭引擎。它会等待查看路径是否安全，然后谨慎行进。然而，在人类世界中，没有人会在停车标志处完全切断引擎，现在滚动停车已成为常态。你可以得出结论，人类驾驶的方式是鲁莽的，而且有些愚蠢。这会增加追尾碰撞的可能性，因为您的汽车和您前面的汽车之间没有足够的空间。未能在停车标志处完全关闭发动机会增加与其他车辆或行人发生碰撞的风险。以图灵测试的方式，你可以站在人行道上，看着从你身边经过的汽车，仅仅通过观察他们的驾驶行为，你就可以判断哪些车是人工智能驾驶的，哪些是人类驾驶的。听起来有点熟？大概是这样，因为这和前面提出的算术精度问题是同一个问题。如何解决这个问题呢？一种方法是引入上面定义的人为愚蠢。首先，你可以让车载AI有意缩短缓冲区，让它看起来像一个人在开车。同样，可以设置一个AI来滚动经过停车标志，所有这些都可以轻松部署。这样，在观察过往的汽车时，很难区分是AI驾驶还是人类驾驶，因为他们在驾驶过程中都会犯同样的错误。这似乎解决了一个问题，因为它关系到我们人类对自动驾驶汽车AI是否智能的看法。但是等等，这不是把AI变成了风险更高的“司机”吗？我们是否试图增加由人类驾驶引起的危险车祸的发生率？理智上，不。我们接着转向人工愚蠢的第二个定义，就是将这些“愚蠢”的驾驶方式实质性地融入到AI系统中，让AI在驾驶汽车时能够考虑到这些因素，同时也有强烈的意识避免它们或在特殊时刻谨慎应用它们。与其让人工智能盲目地以人为错误的方式驾驶，不如开发出具有强大能力的人工智能来应对人类驾驶的缺点，发现这些缺点并在必要的场景中利用这些缺点，让人工智能能够无愧于安全之名。输入“驱动程序”。6.结语当今人工智能最明显的瓶颈之一就是它没有任何常识推理能力，完全没有人类进行综合推理的能力（很多人称这样的人工智能为人工通用智能或AGI）。因此，有人认为今天的人工智能更接近于“人工愚蠢”的一面，而不是真正的“人工智能”的一面。如果人类具有智能和愚蠢的二元性，那么如果人工智能系统要展示类似人类的智能，它们可能需要具有类似的二元性（尽管有些声音可能不是人工智能必须步其后尘的脚步）。我们正在把所谓的AI自动驾驶汽车放在路上，但是AI是没有感觉的，并不是所有的部分都是有感觉的。自动驾驶汽车只有在智能阶梯上更上一层楼才能成功吗？还没有人知道，但这绝对不是一个愚蠢的问题。本文转载自雷锋网。如需转载，请在雷锋网官网申请授权。
