大数据文摘制作编译：苟小白、张秋月、Aileen人类固有的许多认知偏差，对科学进步极为不利。科学研究倾向于偏爱既定的研究方法，这反过来又导致忽视许多研究系统的内在特性。因此，研究人员可能会不幸地花费一生去追逐错误的、毫无意义的方向。回顾历史，科学的长河中充斥着许多被证明是错误的因而毫无价值的研究。SabineHossenfelder在她的粒子物理学领域写过关于这种认知偏差的文章。在《迷失在数学中(Lost In Math)》中，她探讨了一些世界上最有天赋的科学家的认知偏见。她说，虽然这些科学家具有出色的认知能力，但理论物理学家在对美的不懈追求中，也进入了科学误区。过去四十年物理学没有重大突破。她认为科学的客观性已经屈服于具有美学意义的方法论。在这篇文章中，我探讨了人工智能（或AGI）探索中的类似偏见。一种可能的偏差是贝叶斯定理的误用。贝叶斯定理的灵感来自奥卡姆剃刀：“需要最少假设的理论解释最有可能是正确的理论。”因此，许多科学家忠于自己的职业，信奉“一切都应该简单，但又不能太简单”的哲学。以上的确是人类认识世界的极佳法则，但也是霍森费尔德所反对的唯美主义。科学研究的重大突破往往依赖于科学家一时的第六感，但这些假设不应导致直觉的任意应用。这里引用理查德·费曼的话：“无论你的理论多么美丽，多么聪明，如果它与实验结果相符，你的理论就是错误的。”在这里我想说说人工智能研究者总是忽略的最（强）12个事实：1、直觉认知心理学家早就认定人类认知的运作依赖于两种独立的认知方式，这就是双过程理论。直觉思维与理性意识相互竞争、相互配合，共同支撑着人类的认知。老式人工智能的失败可以追溯到当时的信念，即人类认知主要基于理性认知系统，尽管许多证据表明并非如此。直觉认知系统是驱动人类所有认知的重要引擎，人类的认知一般采用“阶段性推理”。2.睡眠大自然要求睡眠在人类生活中占据不小的一部分。睡眠不足会导致认知障碍，并最终导致死亡。至少有经验证据表明睡眠对认知发展很重要。不幸的是，许多研究人员忽视了人类“待命”的认知发展。事实上，人类掌握抽象概念的能力很可能是在睡眠中发展起来的。3.不完全表征长期以来，科学家们试图寻找内在心理的产生来呈现外部世界的存在。因此，老式的人工智能构建符号模型来反映外部世界的语义。深度学习训练网络学习反映连续高维空间中观察语义的世界内部表征。这个空间允许诸如合理性和相似性比较之类的操作。这有两个问题：首先是内部表示抛出了一个更深层次的问题，绘制外部真实世界的内部表示仍然需要一些东西来理解内部表示。第二个问题是，我们实际上只关注我们观察到的世界的一小部分。认知盲点是存在的，不像机器可以留下图片般的呈现，我们只关注图片的一小部分，剩下的就靠想象了。詹姆斯·吉布森(JamesGibson)在他的生态认知理论中描述了另一种基于可供性的表征，即大脑只捕捉环境中可能存在的东西，而不是环境实际反映的东西。4.灵敏度我们如何仅通过触摸来区分物体？我们如何通过触摸识别棕色袋子中的苹果？显然，感知不仅仅是现实世界的快照，而是多个角度。快照被组合成一个一致的整体。人类拥有异常灵巧的手，这可能是我们高级认知能力的原因。我们对世界有更好的表现，也许是因为我们与世界的接触更多，并且能够更好地区分无关信息。然而，在今天的研究中，对认知和整合机制的探索很少。5.有限理性人不是完全理性的动物。大多数人不能同时处理超过五件事情，而且几乎所有人都不能探索超过三层的递归信息。但大多数AGI问题，如AIXI、Solomonov归纳、符号计算和概率推理，都需要充分的理性。我想表达的是，简单的启发式思维可能就是驱动人类思维的全部，我们不需要诉诸优雅的数学方法。研究人员倾向于从他们的武器库中取出数学工具，要么使问题复杂化，要么由于人类认知问题而选择了错误的工具。Kolmogorov复杂度是一个有趣的度量复杂度的公式，但这种方法几乎不可能与人类的有限理性有任何关联，但完全智能。6.描述模型与生成模型DanielDennett将Revolutionary和Turing机器人描述为“无法思考的技能持有者”，因为它们具有执行许多复杂过程的相当大的能力，但不明白为什么要这样做。这当然是众所周知的。但这让许多人感到困惑，他们无法理解如何从非智能中生成复杂的设计。我怀疑这是因为人类的认知偏见需要从混乱中找到秩序才能找到内在设计。现实的数学或逻辑模型是描述性模型。这意味着科学家根据恒定规律来辨别世界的规律性，这些规律被视为对现实世界的微观描述。然而，描述性模型并不是现实世界的本质，它们只不过是复杂生成行为中观察到的规律。即使模式不存在，人类仍会努力寻找联系。我们看着云，以为我们看到了复活节兔子。但千变万化的云彩并没有刻意变成复活节兔子的模样。这是人类在寻找世界规律过程中的一种主观假设。这意味着世界的描述性模型充其量只是对现实行为的概括，而不是生成性模型。因此，与生成模型不同，描述性模型（例如最好模拟场景的概率模型）只是模拟。此外，“停机问题”意味着从观察到的描述模型中发现真正的生成模型是不现实的。7.非平衡过程的生成为什么会出现生成法则而不是描述法则？热力学第二定律指出，一切都趋向于混沌。这里的混沌指的是一个度量单位，熵，它描述了我们无法从观察中发现的描述性规律。IlyaPrigogine说，只有在远离平衡的状态下才能找到规律。当前机器学习方法的问题在于所使用的数学总是假设某种平衡状态。但是，我们不能只考虑自我管理的功能。认知能力将通过层层嵌套新兴能力的程序不断锻炼和提升。新兴问题的一个数学缺陷是它不能预先计算。这是因为每项新功能都大大增加了可能组合的数量，同时一些以前未知的事件变得已知。人类科技创新就是对此的直观描述。在万维网发明之前，谁能想象到今天的谷歌？8.主观认知模型中最容易被忽视的信息之一是关于自己的信息。所有的生物反应都与有机体本身的原始概念有关。也就是说，生物的行为是由其生存和繁殖的基本目标驱动的。所有生物学原理都是由这种维持自我边界的概念驱动的。所以当我们开始探索更高的存在（比如我们自己）时，我们必须在模型中包含自我的概念。这样做会产生一个需要嵌入到生态系统中的自我模型。认知个体必须与第一人称视角模型相结合，该模型了解自我的行为以及它如何与生态系统相互作用。9.纳米意向性维持自我的复杂认知行为存在于最简单的生物细胞中。MichaelLevin的研究表明，在没有中枢神经系统的情况下，形态发生过程中需要复杂的认知（即生物电计算）。这种观点显着颠覆了我们对人脑的描述模型。如果每个神经元都具有与真核细胞相同的复杂行为，那么深度学习发现的协调运行模型可能不足以捕获基本能力（例如协调和自愈能力）。10.非静态认知模型我们目前的认知模型都是静态模型，适用于单一任务。然而，要实现生物协调适应，我们的认知模型不能是静态的；他们需要持续、及时和对话。我们需要最佳拟合启发式算法支持的连续场景切换，以确保模型随着生态系统的变化而调整。如何在复杂而动态的生态系统中保留结构？个体有机体能够自我调节，具有许多有意成员的生态系统也是如此——有更高层次的机制可以防止事物偏离平衡。这将是允许我们跟踪复杂对话的机制吗？11.集体而非个人的自我模型不能与其生长的生态环境分开。事实上，每一种能力基本上都只能在与其成长的生态大相径庭的环境中培养。例如，生命需要氨基酸、DNA和脂质。这三种物质是如何演变成相互必不可少的成分的？它们可能在不同的生态系统中分别进化，直到它们在当前的生物圈中进入协同关系。一般来说，生命离不开它所属的生态系统。这也可能意味着高级认知能力——例如语言——不能脱离人类存在的文化环境而发展。人不是天生就有语言能力，而是我们独特的文化教会了我们语言能力。12.产前发育和幼体发育你有没有想过为什么哺乳动物（相对于更原始的有袋动物）在子宫内发育它们的后代？你知道吗，人类婴儿在离开子宫前几周内就具备了完整的认知能力？我们假设人类的认知发展是在出生后开始的，而事实上有充分的证据表明它在出生之前就开始了；出于这个原因，许多母亲对世界的反应和互动都反映在她子宫里的孩子身上。孩子在子宫里学到了什么？人类的另一个独特之处在于，与其他生物相比，我们可以在相对较长的时间内保持孩子气的外表。2.5至3岁的人类具有与大猩猩相似的认知水平。动物保持幼年外表的这种特性称为幼态。例如，狗比它们的近亲狼有更大的眼睛、松软的耳朵和更短的鼻子。蝾螈在其“一生”中始终是婴儿；他们有一种惊人的能力，可以重新长出身体的一部分。最近的一项研究表明，在人类的299个与年龄相关的基因中，有40个基因直到晚年才表达。事实上，众所周知，成熟相对较快的人会失去一些认知能力。保持年轻确实对认知有好处。年轻人的大脑可塑性比成年人大；保持年轻的时间更长，可以让人们有更多时间发展社会获得的认知技能（即模仿、语言和同理心）。人类可能比其他物种更聪明，因为我们保持了更长时间的学习能力，例如好奇心和探索。这样做的目的是向您表明，僵化的学习策略——例如那些依赖于他们的“力量、宗教或仇恨”的策略——很难创新。而那些尝试探索新路径的策略是最有可能发现新事物的策略。敲黑板总结一下！您可能已经注意到，这些盲点是相互关联的。它们并非无关；总而言之，它们揭示了前沿AGI研究的新颖而完整的视角。上面的有趣之处在于，它与通常的AGI研究过于关注技术问题有很大不同。这可能是由于大多数STEM课程都带有认知偏差。你不能像空中楼阁一样构建AGI模型；相反，您必须从头开始构建它——这意味着您必须逐步发展它。所以我们需要一种自然而合乎逻辑的方法。虽然“成长智慧”的概念看似显而易见，但实际上有大量研究人员坚持走相反的道路（非常令人惊讶！）。很多人都有这样的偏见：AI是工程。其实更多的是跟心理学和生物学有关。在BeyondEfficiency中，DaveAckley讨论了为什么我们的计算系统如此脆弱。他将此归因于一种“只做对，只做高效”的心态。频繁的计算机安全漏洞告诉我们，我们应该将生物学告诉我们的稳健性应用于它们。阿克莱指责我们缺乏对“系统思考”的重视。系统思考侧重于注重结构的整体方法；这与控制论（控制论学习控制、反馈、调节和交互）有关。高级AGI需要更好地理解人类认知，以及对生物复杂性的认识。所以我要在这里解释ArthurC.Clarke关于技术的名言。更准确的说法是：任何足够先进的技术都与生物学有着千丝万缕的联系。相关报道：https://medium.com/intuitionmachine/12-blind-spots-about-human-cognition-1883d0d58e0a【本文为栏目组织大数据文摘原文翻译，微信公众号《大数据文摘》（id:BigDataDigest))”]点此查看该作者更多好文
