当前的AI一代改变了我们生活的世界。在过去的十年中，深度学习算法使AI系统能够执行模式识别任务，例如语音和图像识别，以及比人类更好或更好。但是，人们普遍同意，这项技术本身不足以提供人类水平的智能[1]。尽管AI算法可能比人类更强大，但他们对自己的工作知之甚少。一些著名的AI研究人员说，理解是必要的，因为即使AI计划可以像人类一样有能力解决问题，他们可能没有更广泛的背景来判断其解决方案的价值。换句话说，他们目前无法将意义归因于人类所做的事情。这更多是意识的问题，而不是智力。在本文中，我解释了机器意识，改善AI系统的作用。
人类水平的智力已被称为强大的AI或人工通用智能（AGI）。
人类意识
智力和意识之间存在区别。简而言之，智力是解决问题的能力。因此，例如，如果AI国际象棋程序可以击败大多数人，那么将情报归因于AI程序是合理的 - 因为如果人类扮演的话，良好的国际象棋比赛被认为是需要智能的。
在意识方面，这是另一回事，因为很难找到捕获意识本质的客观定义。有人说意识是我们所有人醒着而不是睡觉时都会感到的状态，但这不会做到，因为梦是一种意识的状态。此外，这太狭窄了，因为它没有说明我们一生中每一分钟都会发生什么。我们都从自己的经验中知道什么是意识，但是很难定义。这让我想起了爵士喇叭手路易斯·阿姆斯特朗（Louis Armstrong）曾经被要求定义爵士乐时所说的话。他说：“如果您要问，您永远不会知道”。意识也一样。
路易斯·阿姆斯特朗（Louis Armstrong）曾经被要求定义爵士
我们都为定义而挣扎，但是，我们都知道当我们跳入冷游泳池时，或者在非常炎热的阳光明媚的日子里品尝冰冷的水时，或者当我们听到那个金色时，我们会感觉到冰冷的水我们几乎忘记的电台上的奥尔迪。我们可以设想许多好，坏和中立的经历，有助于创造意识的现实。我们每个人的生活中每一天都有内在的主观经历 - 哲学家将这些经历称为Qualia。
这些质量经历为我们的生活带来了意义，但是人造意识能否以同样的方式体验现实的含义？例如，当我们想到一匹马时，我们所有的视力，声音，气味，触摸等等都会在我们的脑海中融合在一起，以带来一匹马的记忆。我们想象着一种四足的毛茸茸的动物，贯穿田野，发出邻居的声音，并具有独特的气味。我们可以想象许多其他与马相关的经历，例如在马stable中拉动马车等。这些有意识的经历有助于我们有意识的经历中出现的“常识”理解。有AI系统，例如CYC，可以捕获这种人类的常识知识。CYC知道有关马的这些事实和关系，但不能像我们人类一样归因于意义和理解。
当我们想到一匹马时，我们所有的感官都会在我们的脑海中融合在一起，以带来一匹马
有关系吗？是的，很少，因为AI程序有时很难处理新的和意外的情况。例如，当我们开车时，我们会利用对世界上现实的灵活理解来应对以前可能从未遇到过的异常情况 - 与AI程序不同，该程序将使用机器学习算法来从以前的驾驶示例中决定。我们在驾驶时所做的大部分都是常规的，并且很容易被AI复制。但是，想象一下，在我的旅途中，在驾驶时会被地震袭击。我的本能会在潜意识中告诉我放慢脚步。我可能会采取其他本能的行动，例如避免在桥上或附近 - 因为有可能由于重力而倒塌的可能性。常识知识可能还不够，因为这种事件可能会发生多种可能的方式，因此永远无法阐明它。
在这种情况下，AI计划会做什么？您可能会认为有可能在其知识库中添加更多学习的案例，但是如果以前从未遇到过此类案件，该怎么办？问题在于，AI计划必须在未经遇到的情况下采取行动和理性。这可能是极少数情况，但可能会发生。此外，这种罕见事件变得越来越普遍。数学统计学家尼古拉斯·塔利布（Nicolas Taleb）在2008年《世界银行崩溃之后》中研究了非常罕见的事件的概念。由于此类事件变得越来越普遍，因此使灾难性后果的合理化不当。他的书之所以被命名，是因为据信黑天鹅被认为是不可能的 - 所有天鹅都被认为是白色的。很难不同意他的主张。例如，谁可以预见到19009年的大流行。如果有一个黑天鹅事件。
人工意识
这意味着具有常识的AI程序可能不足以应对未经遇到的情况，因为很难知道常识知识的限制。人造意识可能是将含义归因于机器的唯一方法。当然，人工意识会与人类的变体不同。像笛卡尔，丹尼尔·丹内特（Daniel Dennett）和物理学家罗杰·彭罗斯（Roger Penrose）等哲学家对大脑如何从神经活动中产生思维的意识理论不同。诸如fMRI扫描仪之类的神经科学工具可能会更好地理解？这是如何发生的，并能够转移到新的人性化AI水平。但这将涉及面对澳大利亚哲学家戴维·查默斯（David Chalmers）所说的意识问题 - 主观性如何从物质中浮现？换句话说，主观体验如何从大脑中的神经元活动中出现？此外，我们对人类意识的理解只能通过我们自己的内在经验 - 第一人称观点来理解。同样，也适用于人工意识。从第三人称角度来看，我们只能访问我们。这就提出了一个问题，即我们将如何知道机器是否具有意识？我将在下一篇文章中更详细地解决这个问题。
具有常识的人工智能程序可能不足以应对未遇到的情况
参考
[1] Marcus，G。和Davis，E。重新启动AI。建立人工智能我们可以信任。Pantheon Books，2019年。
[2] Taleb，N。N.黑天鹅：第二版，2010年。