当前人工智能技术的发展主要以计算机为载体，推动自动化技术的发展。基于数据的人工智能技术可以帮助我们用各种自动化设备代替人们的各种生产活动，从而提高社会的整体发展效率。人工智能在带来巨大效率提升的同时，也带来了巨大的风险。我们需要仔细评估人工智能给我们带来了什么样的未来？人工智能的风险是如何产生的？如何研究和防范相关风险？机器会取代人类吗？我们先来回顾一下人工智能发展过程中一系列引人注目的重大事件和当时引起公众讨论的话题：1997年5月，IBM公司研制的计算机“深蓝”首次显示国际象棋大师卡斯帕罗夫，2016年3月，人工智能AlphsGo击败韩国顶尖围棋高手李世石；2016年，全球员工人数最多的公司富士康在江苏昆山工厂用4万台机器人取代了6万名人类员工；2017年10月25日，全球首位机器人公民“索菲亚”成为一名拥有沙特国籍的女性机器人，获得合法公民身份……这一系列事件加深了人们对人工智能的关注和思考。随着人工智能技术的不断发展，电影《她》中描绘的人工智能伴侣逐渐成为现实，以至于人们开始将其视为同类，也让我们开始考虑AI发展的风险。我们从以下三个方面进行探讨：人工智能的风险类别、人工智能风险的形成机制、人工智能发展的边界问题。首先，我们讨论人工智能的风险类别。这需要从乌尔里希·贝克在1990年代提出的“风险社会”概念说起。他认为，科技在推动社会发展的同时，也对包括人类生存在内的整体生态构成了一定的威胁。“在风险社会中，风险已经取代物质匮乏，成为社会和政治问题关注的中心。”换言之，社会风险已经成为底层运行逻辑之一，而技术风险是影响最为深远和广泛的一类。与传统社会不同，现代社会的风险是一种人为造成的风险。这种风险源于人类对科学技术的无限制推广，其后果是目的和结果本身的不确定性。也就是说，技术风险不仅是技术本身的内在属性，也是人类行为选择的结果，这是我们认识技术风险的基础。值得注意的是，人工智能带来的风险虽然属于科技风险范畴，但与传统科技风险也有很大区别。一般来说，技术风险来自外部因素，如环境风险、生态风险、经济风险和社会风险等，即技术与社会因素相互作用所带来的风险。然而，人工智能技术会带来很大程度的固有风险，即对人类存在的挑战，以及人类边界和尺度的复杂性。我们看到很多电影、文学作品或科幻小说的创作表明，人类对人工智能最大的担忧来自于人与机器界限的模糊，以及人机掌握的加剧。换句话说，基于人的价值尺度进行判断的风险明显增加，而我们目前对人工智能的所有研究都在强调人的价值尺度，即以人的根本利益作为判断风险的目的和原则，并且不能以牺牲人为代价来追求。它的发展。我们看到泰格马克在《人类3.0》一书中提到了人工智能发展的三个阶段：第一个阶段是人工智能模仿人类，完成人类交付的工作。完全控制；第二阶段是合作阶段，即人类协助人类完成大量的工作，人工智能是基于造福于人类活动的基本目标而设计的；第三阶段是竞争甚至替代阶段，AI在大规模应用下，超越了人类的控制，出现依赖、竞争、被控制等情况。也就是说，人工智能的风险包括两部分：一是客观现实的物理层面，即人类能力逐渐被替代，从而增加外部技术风险，如失业率急剧上升；另一个是主观感受。知识层面，即人的心理层面的风险。例如，随着机器人逐渐获得人的形态和认知，人类会逐渐认识到机器人的相似关系，这必然会带来伦理问题。风险背后的逻辑接着我们来看一下人工智能风险形成的基本机制的逻辑，正如MatthewScherer所说，“行为的自动化是人工智能与其他早期人类技术的最大区别。无需人为操作。控制或监督”。可见，人工智能技术给人类社会带来的好处和风险是一把双刃剑的两个方面：一方面，人工智能通过替代人类劳动，解放了生产力，让人类活动有更多的时间和精力。空间;一方面，人工智能实际上替代了人的劳动，使人类面临失控的风险，人类的主体地位在某种程度上被放弃。往深层次看，其实人类已经通过科技实现了身体能力的放大和提升，而现代科技的潜在驱动力就是人类对科技放大的追求。人工智能技术是多种技术融合后对人类技术放大的意愿和动机的一种实现。同时，人类在技术放大的过程中可能会逐渐迷失自我，技术会朝着偏离人类意志的方向发展，从而使技术充满风险。成为现实。如果说康德“人为自然界制定法则”的论断已经成为人脱离自然控制、确立人的主体性的标志，那么人工智能的发展正在威胁到这种主体性，人工智能正在通过类人的方式生长。特征，逐渐增强其替代人类活动的能力。也就是说，技术本身就具有一种不确定性。人工智能技术本来是有利于人类发展的，但在发展过程中，可能会出现障碍，增加人类生存的风险。这是我们必须警惕的地方。除了技术本身的特点，我们容易忽视的是伴随技术革命成长的另一个重要因素——资本的力量。工业革命以来现代科技的发展，离不开资本的力量。我们都知道资本是逐利的，而技术的目的是实现人们的物质追求，所以技术可以最大限度地实现资本的目标，技术与资本体现出一定程度的同构。换言之，资本逻辑与技术逻辑相互勾结，资本在实现价值增长的过程中可以发挥技术的优势。资本作为一种有效的资源配置方式，可以将资源配置在最佳技术路径上；技术，作为一个集合体（海德格尔主义），可以将外在的事物纳入自身的规范体系，并以自身的力量驱使和定位存在者，揭露事物以人之道的方式。简单来说，科技可以产生一种人类无法控制的力量。这就像乘坐某辆车。人们可以在技术的要求下不受限制地开发自然、掠夺资源。同时，他们把自己视为技术所需要的资源投入其中，以技术为主导，不可分割。这是海德格尔所探讨的现代技术的本质，也是理解人工智能带来的风险的重要视角。同时，由于资本（金钱）具有不局限于任何具体事务的超现实性，它可以根据人们的需要改变性质。更重要的是，由于人工智能技术的发展会扩大数字鸿沟，在此过程中关注数字化带来的社会公平问题也十分重要。技术边界了解了人工智能带来的风险之后，我们接下来讨论人工智能技术发展的边界。只有当边界清晰时，我们才能了解风险。事实上，我们可以看到，与通常的技术风险相比，人工智能的风险主要在于对智能理解边界的差异。由于人类是目前唯一具有智能的实体，所以在人工智能出现之后，也出现了所谓的人工智能。智能边界的问题。我们可以从三个方面来理解这个概念：第一，人工智能的“智能”是通过计算机技术将信息转化为知识而发展起来的，因此可计算性是有界限的。目前的计算机更多的侧重于逻辑相关的计算，情感是无法计算的。当然，我们也看到马斯克等企业家通过脑机接口等技术实现对人类思维的解读，赋予AI全新的智能模型。但考虑到我们对人脑（尤其是与意识和情感相关的部分）的认知非常肤浅，目前还没有看到AI产生自我意识和概念的可能性。当然，如果科技的进步让人工智能产生意识，那么无疑会存在系统性风险，人类不得不与之共存，生存空间的相关矛盾也不可避免；第二，人工智能技术的发展边界正在挑战技术的社会属性边界。一般来说，某种技术具有自然属性和社会属性。所谓自然属性，是指技术产生和存在的内在原因，即技术符合一定的物理规律；技术的社会属性是指技术必须符合社会规律。我们看到，人工智能技术的发展正在改变社会的伦理和制度，这是人类不同于人工智能的最重要原因之一。我们可以看到，人工智能仍然是作为功能性个体或群体存在的，不具有所谓的社会性，因此不能被视为一个物种或群体。正如马克思所说，“一定的个人以一定的方式进行生产活动，就具有一定的社会政治关系”。这种社会关系反过来又制约了劳动方式，直接决定了人的本质。换句话说，“在其现实中”的人的本质是所有社会关系的总和。刚才我们说了，人工智能是建立在计算的基础上的，社会关系是无法通过计算得到的。反之，如果人工智能能够从人类群体中学习到社会关系的知识，形成所谓的群体智能成为“超级智能”，那么人类的危机和风险就会被放大，人类社会的危机就会化为乌有。很难避免。第三，我们要看到人工智能技术可能推动的“后人类”时代的风险，即与人类不同的物种通过与人类嫁接，成为“半机械人”物种。后现代主义技术哲学家唐娜哈拉维提出“情境知识”的主张，将自然和文化置于动态和异质的范畴中。所谓赛博格就是通过控制技术来控制生物体，实现人与技术的深度融合，即产生人与技术的共生体。通过这样的技术范式，有可能打破机械与有机、物理与非物理之间的界限。“被控制的有机体，机器与生物的混合体，既是现实的创造，又是虚拟的创造”，这就是赛博格的内涵。在这个你身上，赛博格打破了主体与外部环境的界限，也打破了自然与社会的界限，具有“后人类时代”的概念。在这种观念下，人不断被客观化，而物则不断被人化，人与物的界限不断模糊，从而形成了生物与物的深度结合。是的，自然身体具有机器的特性。我们看到，电影科幻作品中的“赛博格”或“人工工人”，大多是在赛博格的概念下产生的，这使得人类有可能超越自然赋予人类的极限。在电影《阿丽塔》中，主人公的人类部分只有大脑，而其他部分则由性能和技能更强大的机器组成。如果这样的现实发生，将带来两个结果：一方面，人类作为碳基生物的脆弱性将得到扭转，具有更强的生存能力，在与机器的竞争中获得新的优势；另一方面，人体失去了自然属性下的高贵，成为无机体可替换的部分。这也是我们需要考虑人工智能技术边界的原因。作为人文主义者，我们不只追求绝对的理性。我认为人类应该追求价值而不是单纯，应该追求理想品质而不是实际成就。追求整体的幸福，而不仅仅是个人的胜利。这也是人性的内涵。解决之路最后，我们对人工智能的风险提出一个解决方案，这也是我研究人工智能的基本出发点，即人工智能必须反映人类的需求和利益，这不仅包括必要性生存的需要，还包括发展的需要、精神的需要和社会的需要。这就是我们发展人工智能的原动力，也就是人类的价值尺度和目的。正如钱穆大师所说：“人类是由生命进化而来的，人的生命与其他生物的生命有很大的不同，最大的不同在于，人类除了生存之外，还有其他的目的。”这些目的超越了生存。目的，即超越生死的价值与理性的华彩。我们在人工智能的发展中看到的是人类功利目的的最大化，即通过有节制的发展来替代生产劳动，这将为整个人类社会的生存带来坚实的基础，但这很少包括理性。审美、审美等超功利目标的实践，更谈不上关于人的自由和价值的内容。如果单纯考虑功利主义，无疑会带来人类个体与群体组织的异化，也会带来对人自身的否定，挑战人的尊严与存在。我们需要意识到技术的边界是伦理问题。技术的可能性与伦理的约束之间存在着内在的矛盾。在科技发展的过程中，人们很容易只看到机器的力量和作用而忽视人的价值。.在自动化机器系统中，人处于被动地位。技术体现了人性的延伸，又压制了人性。如果人类的生活成为技术改造的对象，那么人类的技术化就不可避免。也就是说，人是可以制造的，技术在把“不可能”变成“可能”的同时，把“可以”变成“应该”。我们必须看到人的生命价值与技术的内在矛盾，即人的生命是自然的，而技术是人为的；生活无法重复，但技术可以复制。正如康德所说，“人就是目的，人的目的和工具性必须充满统一性”。人的价值是人存在的准则，人需要根据自身的道德本性发展，追求完美。情感和理性必须完美统一，而这种统一带来了人类价值的最高取向，这是我们理解未来人工智能发展的核心。人工智能技术的发展，内在要以人为价值尺度，外在要以人类社会群体为价值尺度。以人为价值标准，保证了人的主体地位和独立意识；以人的社会群体为价值保证了整个人类社会的可持续发展。也就是说，人工智能必须在人本主义的框架内发展，才不会轻易越过伦理的门槛，从而造成无法挽回的风险和损失。这是我们认识人工智能未来发展的基本原则，也是我们认识人工智能风险的问题。本质。
