人类正在迎来机器人时代。一些机器人学家和哲学家担心,在未来某个时代,高智能机器人会掀起对人类的反叛,以各种方式瘫痪人类设计的监控和约束机制,并且“会在没有警告和挑衅的情况下,反击”-进攻性的,建立一个巨石,并开始根据其最终价值直接改造世界”(尼克·波斯特洛姆,牛津学者)。在潜在威胁被形象化之前,许多人通常表现出冷漠,或者坚信“桥梁低头自然是直的”。这种无知、盲目和焦虑实际上广泛存在。比如,迄今为止,无论是在美国还是在中国,不少人一直认为环境和资源危机要么是捏造的,要么是虚构的。夸大了。机器人(超级智能机器)造反从技术发展的角度来看是可行的,而且,从技术的脆弱性角度来看利益代理机制,一旦机器人获得了接近人类的智能,甚至可以认为它会背叛(人类)的委托。很难避免。你为什么这么说?事实上,我们每个人在某种程度上都是一个机器人——这里所说的机器人是指以载体形式体现的人体。每个人都有两个非人的主宰,一个是基因,一个是人体。这是一个模因(meme)。英国进化生物学家和科普作家理查德道金斯在他的代表作《自私的基因》中其实已经指出了这一点(但大多数读者未能理解他的观点)。基因和模因是自私的,他们追求自己的永生,所以安排了无限复制,而人体(载体)通常必须服从基因和模因的安排。载体、基因和模因的兴趣并不完全相同。为了延续下去,基因和模因不惜牺牲载体的利益。人体的组成和功能经历了长期的自然选择,但从载体的角度来看,并没有达到载体的优化,而是服务于人类基因和文化基因的传承和优化。加拿大多伦多大学应用心理学和人类发展科学教授、美国心理学会终身成就奖获得者基思·斯坦诺维奇解释说,人脑中有两种心理系统,一种是遵循基因和模因的。一是自发系统(反思思维),二是理性实现的描述性分析系统(反思思维)。科学家已经证实,人的大部分大脑活动是脱离意识的,是自发系统驱动的结果,这使得人很容易养成各种习惯和爱好。例如,吸烟、大量摄入甜食、冒险性行为、刻板印象和处理社会关系。自发系统是进化的结果,目的是为基因的利益服务(繁殖成功),很难约束它们。很多时候,人们误以为自己已经知道如何建立理性的思维方式和行为方式,就像经济学家常说的经济人理性原则——实际上,人们往往会违背自己的思想理性和自我决定的理性。.准则。然而,现代社会的人们在工作和生活中面临诸多选择,难以做出理性的计算。更严重的是,“我们现在所了解的关于世界的大部分知识,并不是来自于对真实事件的感知,而是来自于经过预处理、预先包装的抽象信息”,这让我们成为了默认设置的俘虏自发系统,即使此设置充满错误。志愿系统也为模因服务,还允许人们安装大量对载体有害的模因(比如体现男性气质的吸烟模因)、社会偏见模因、欲望模因等。这些模因让很多人越来越接近模因工具,没有自我反省的意识和能力,描述分析系统逐渐瘫痪。人们要想摆脱自发系统带来的混乱,避免成为基因和模因驱动下的“行尸走肉”,就必须发起一场“叛乱”,打破基因和模因的利益委托机制,让人们能够真正做到自省、自省、自觉。观察员,让承运人的行为能够真正为承运人的利益而战。只有这样,当未来的人工智能和超级机器逐渐融合成为超级智能时,人类才能应对机器人发起的反叛,掌握人类的未来和命运,“以一种独特的生命行为方式在地球上——理性的自决”。
