拔掉机器人电源或关闭人工智能算法，你会感到难过吗？不仅如此。但是，如果我们的计算机变得比我们更聪明呢？关于人工智能后果的争论几乎与人工智能本身一样古老。大多数讨论将AI的未来描述为类似终结者的末日。然而，较少讨论的是我们如何感知、互动和接受AI代理，因为它们发展出生命、智力和意识的特征。在最近的一篇论文中，萨格勒布经济与管理学院的科学家BornaJalsenjak讨论了超级智能人工智能以及生物生命和人工生命之间的类比。他的作品名为“人工智能的奇点：什么是什么不是”，收录在《深度学习基础指南》中，这是一本探讨人工智能的各种历史、科学和哲学方面的散文集。Jalsenjak将我们带入了一种哲学人类学的生活观，以及它如何应用于可以通过自身操纵进化的人工智能系统。他认为，当人工智能开发出自己的“生命”版本时，“会思考的机器”就会出现。AI奇点奇点是在讨论通用AI时经常提到的一个术语。与所有与AGI无关的事物一样，对于奇点存在很多困惑和分歧。但大多数科学家和哲学家都同意的关键点是，这是我们的人工智能系统变得比我们更聪明的转折点。Singularity的另一个重要方面是时间和速度：AI系统将达到可以以无休止重复和加速的方式自我改进的程度。“用更简洁的方式来说，一旦有一个AI达到人类水平，并且该AI可以创建一个稍微更聪明的AI，那么可以创建另一个更聪明的AI，然后可以创建下一个，”Jalsenjak写道，它甚至会变得更聪明，它会一直这样下去，直到出现一个比人类所能达到的先进得多的人工智能。需要明确的是，我们今天拥有的AI技术，狭义的AI，距离实现这一壮举还很遥远。Jal?enjak将当前的人工智能系统描述为“特定领域”，例如“AI擅长制作汉堡包，但不擅长做其他任何事情。另一方面，讨论AI奇异性的算法是“AI不是特定主题的AI，或者，由于缺乏更好的词，它是无域的，因此可用于任何领域，”JasonJacques写道。这不是关于如何以及何时达到AGI的讨论。这是一个不同的话题，也是许多争论的焦点，大多数科学家都认为人类水平的人工智能至少还需要几十年的时间。Jalsenjack推测当我们到达那里时，无论是明天还是一个世纪后，人工智能（和人类）的身份将如何定义。人工智能前沿在人工智能界，有一种强烈的倾向将机器当作人来对待，尤其是当它们开发出显示出智能迹象的特征时。虽然这显然是对当今技术的夸大其词，但杰森·加克(JasonGark)也提醒我们，人工智能不必复制人类思维。“没有理由认为，即使出现了先进的人工智能，它也将具有与人类智能相同的结构，但由于以最接近我们的方式来代表世界的状态是人类的天性，他写道在论文的脚注中。人类与当前AI技术之间最大的区别之一是，虽然人类是“活着的”（我们很快就会知道这意味着什么），但AI算法却不是。“今天的技术状态是毫无疑问，这样的技术还没有存在。我们想知道是否会出现超级智能，例如在关于奇点的讨论中预测的超级智能，值得一试，看看我们是否仍然可以认为它还活着。“虽然不是有机的，但这种人造生命会对我们对人工智能的看法和行为产生巨大影响。人工智能要活着需要什么？”Jalsenjak借鉴哲学人类学中的概念经验，指出生物体可以自主行动并照顾自己和物种，这被称为“内在活动”。JasonJake指出：“至少在目前，无论机器多么先进，它们在这方面始终只能作为人类的延伸功能。”来生活。按照哲学人类学的说法，生命的最初迹象是当有机体朝着目标发展时形成的，也就是今天的目标导向。存在于人工智能中。JasonJacques说，AI没有“意识到”它的目标，而是盲目地计算数字以达到目标这一事实似乎并不重要，因为我们认为植物和树木甚至没有同样的意识也可以生存。被认为是活着的另一个关键因素是生物体自我修复和改善的能力。它还应该生产和照顾它的后代。这就是我们在树木、昆虫、鸟类、哺乳动物、鱼类身上所做的。自然选择和进化的规律迫使每个生物体建立机制，使其能够学习和发展适应环境、生存并确保其物种生存的技能。关于育儿，Jalsenjak认为人工智能不一定会与其他生物平行繁殖。机器不需要后代来确保物种的生存。人工智能只需手头有足够的替换零件，就可以通过用新零件替换有故障（失效）的零件来解决材料退化问题。'他写了。“生物体以多种方式繁殖，因此实际的方法并不重要。关于自我提升，事情变得更加微妙。Jalsenjak指出，已经有能够自我修改的软件，即使不同软件之间的自我修改程度不同。今天的机器学习算法能够在一定程度上使其行为适应环境。.他们将许多参数调整为从现实世界收集的数据，随着世界的变化，他们可以根据新信息进行再训练。例如，冠状病毒大流行可能会干扰AI系统对我们正常行为训练的理解。这包括面部识别算法，由于人们戴着口罩，这些算法不再能够检测到面部。这些算法现在可以通过对蒙面人脸图像进行训练来重新调整它们的参数。显然，与人类一样，这种适应水平与高等动物的广泛能力相比是很小的，但是，它可以说与地面上没有水时通过长出更深的根而适应的树木相当。然而，理想的自我改进AI可能会创建全新的算法，从而带来根本性的改进。这被称为“递归自我改进”，将导致越来越智能的AI不断增加周期和加速。虽然人工智能能够更快地执行，但它可能是生物体经历了许多代的基因突变的数字等价物。今天，我们拥有遗传算法和网格搜索等机制，可以改进机器学习算法（也称为超参数）的不可训练组件。但它们带来的变化范围非常有限，仍然需要人类开发人员进行一定程度的手动工作。例如，你不能指望循环神经网络通过多次突变变成一个Transformer。Jalsenjak指出，递归式自我改进将使AI“有效地可能完全取代正在使用的算法”。“最后一点是奇点发生所必需的。Jalsenjak的结论是，通过类比，可以通过观察某些特征来认为超级智能AI还活着，这推翻了AI是人类延伸的说法。拥有他们的权利。首先到时候，人类将与一个至少与他们一样聪明，甚至可能更聪明的实体共享地球。“你还能在不感到内疚的情况下拔下机器人的插头吗？活着是不够的，”杰尔森·雅克在论文结尾处承认，对人工生命的反思会引发许多其他问题。“这里所描述的关于生物的特征是否足以使某物被认为是活的？或者仅仅是必要的而不是充分的？”他问。刚读完哲学家和科学家道格拉斯·霍夫施塔特(DouglasHofstadter)的《我是一个奇怪的循环》，我绝对可以说不。身份、自我意识和意识是区分生物的其他概念。自由意志也是一个悬而未决的问题。“从某种意义上说，人类是他们自己的共同创造者，他们并没有完全赋予自己存在的权利，但他们确实有一个目的并且确实实现了那个目的。“目前还不清楚未来的人工智能是否有自由意志的可能性。”最后，还有超级人工智能的伦理问题。这是一个广泛的话题，包括人工智能应该有的伦理原则，人类对人工智能应该有的伦理原则，以及人工智能如何看待与人类的关系。这些经常被AI社区话题驳斥，指出当前深度学习系统的明显局限性和实现通用AI的牵强附会的概念。但是，和许多其他科学家一样，Jalsenjak提醒我们，讨论这些话题的时机就在今天，还不算太晚。他写道：“这些话题不容忽视，因为我们所知道的关于未来的一切似乎都表明人类社会正面临着前所未有的变革。“
