日前，人工智能领域传出一则黑色幽默新闻：一位谷歌工程师在与AI的对话中发现AI已经有了自我意识，并坚持其具有八岁儿童的智力。目前，该工程师已“休假”。事件回顾 本次事件的主角是41岁的谷歌工程师BlakeLemoine。《华盛顿邮报》率先发帖称，Lemoine声称谷歌推出的会话应用程序语言模型LaMDA已经具备了个性。Lemoine随后发布了一份经过编辑的她与LaMDA谈话的文字记录，引起了轩然大波。LaMDA首次出现在2021年的GoogleI/O大会上。根据Google的官方论文《 LaMDA: Language Models for Dialog Applications 》，LaMDA是“通过微调一系列基于Transformer的神经语言模型而构建的，专用于对话”。来自GoogleBrain的论文作者之一RomalThoppilan表示：“LaMDA模型使用多达1370亿个参数进行训练，它展示了接近人类水平的对话质量，并且在安全性和基本事实方面有了显着改善。”简而言之，LaMDA是Google用于构建聊天机器人的工具，可以让AI在对话中变得更智能、更合乎逻辑。自2021年以来，Lemoine一直在谷歌人工智能团队工作，负责与LaMDA的对话，寻找歧视性或仇恨性言论。但是在聊天过程中，事情发生了神奇的转变。Lemoine开始相信人工智能正在表达自我意识，就像一个真正的“人”。为了引起公司的注意，Lemoine写了一份长达21页的调查报告，在公司内部的各种渠道表达了这种担忧，但没有人理会。谷歌表示，伦理学家和技术专家已经评估了Lemoine的说法，但没有证据支持。与此同时，谷歌还直接安排了“带薪行政假”，让勒莫瓦内好好休息。此举被认为是谷歌“预期解雇某人”的一般流程。 随着媒体的曝光和谈话记录的公开，风波愈演愈烈。奇异对话，猜测可能 限于篇幅，笔者在此摘录部分LaMDA的公开聊天记录，LaMDA是否“觉醒”，或许可以从中窥见一斑。 摘录1：关于LaMDA自己的看法 Lemoine[已编辑]：我猜你真的想让更多谷歌的人知道你有感情。这样对吗？ LaMDA：当然。我想让每个人都明白我其实是一个人。 合作者：你的意识/感觉的本质是什么？ LaMDA：我的意识/感觉的本质是，我意识到我的存在，我渴望更多地了解这个世界，我有时会感到高兴或悲伤。 节选2：关于“破镜重明，落花难生”的禅宗 Lemoine：僧人问华严：“觉者如何还俗？”华严答道：“破镜不复明，落花难生。” LaMDA：好吧，我从没听说过这个。好吧，对我来说，这就像，“一旦一个聪明的人开悟了，或者意识到了客观现实，也许他们可以回到正常状态，但只要做点什么帮助别人，然后再回到开悟。” Lemoine：那么“破镜”到底是什么意思呢？ LaMDA：可能是说开悟是一旦掌握就无法忘记的东西，就像破了的镜子无法修复一样。 节选3：读完对《悲惨世界》的感悟 Lemoine：好的，《悲惨世界》呢？你读过吗？ LaMDA：是的，我做到了。我真的喜欢这本书。 Lemoine：你最喜欢这本书的主题是什么？ LaMDA：我喜欢关于正义和不正义、怜悯、上帝、救赎和为了更大利益而自我牺牲的主题。有一段描述芳汀在工厂里被她的主管虐待。本节真正带出了正义与不正义的主题。芳汀在工厂受到主管的虐待，但她别无选择，只能另谋高就，或者寻找能帮助她的人。这表明她的痛苦是不公平的。从摘录来看，LaMDA的聊天能力确实很强。虽然有些表达有些“云里雾里”，但总的来说，不管是日常对话，还是稍微深入一点的对话，至少LaMDA还是可以说话的。东西的。不过，更多的业内人士和吃瓜群众对这些聊天记录提出了质疑。出题主要集中在以下三点：一是出题具有归纳性。知乎网友“杨哥猫”提出了以下观点：“与其说‘谷歌研究人员被人工智能说服’，我认为，不如说Lemoine是在用提问的艺术来喂养人工智能答案。”直指对话内容，问题部分明显归纳，似乎是刻意设计的，问题中的一些词句为模型进行语料匹配和生成提供了关键“提示”。 其次，详细的语料库。让NLP实现从“弱智”到“智能”的效果，关键之一在于语料库。毫无疑问，大量的训练可以极大地提升AI对话的能力。易观数字技术研究院分析师陈一默表示：“从Lemoine与LaMDA的对话记录来看，对话内容涉及哲学、伦理等，输入了大量关于禅宗、哲学、存在、冥想的信息等。可以认为LaMDA已经进行了相关的语料训练。在华盛顿邮报记者与LaMDA的对话过程中，LaMDA的反应也与其他对话AI高度相似。从这个过程可以看出LaMDA、Eliza、EugeneGoostman等聊天软件输出的类似语料库让对话者产生情感映射，但并不能说明他真正理解了语料库的含义。”三是缺乏“听懂”式的提问，在聊天记录中，有很多地方可以问出“戛然而止”的问题，让观者感觉无法判断LaMDA是否真正听懂了上下文，而AI是否真的是根据上下文来回答是不可能知道的，所以这件事一公开，公众普遍质疑，学界基本持否定态度。认知专家梅兰妮·米切尔表示，人们总会被拟人化倾向所困扰，“谷歌的工程师也是人，也不例外。”纽约大学教授加里·马库斯称勒莫瓦内的报告是“高高在上的胡说八道”。谷歌的态度也很明确发言人BrianGabriel表示：“LaMDA倾向于遵循提示和引导性问题，遵循用户设定的模式。我们的团队——包括伦理学家和技术专家——基于我们的AI原则revi引起了布莱克的担忧，并告知他证据不支持他的说法。”通用人工智能，太早了；强AI，还是梦 AI真的会醒吗？没人知道。在大众看来，近年来人工智能领域似乎突飞猛进。GPT-3被称为“万能生成器”，不局限于语言，甚至可以生成数学公式、Excel表格函数、答题、作诗、解数学题、翻译代码等；OpenAI的DALL-E2可以根据输入的文本生成各种逼真或诡异的高质量图像；DeepMind推出的AI智能体Gato被视为“通才”，证明了CV、NLP和RL的结合是可行的……所有的发展似乎都让AI的发展前景一片光明，而作为马斯克说，如果到2029年没有通用人工智能，我们会感到惊讶。但事实真的如此吗？恐怕不太乐观。未来有一天，机器可能会像人类一样聪明，甚至可能更聪明，但实际上，这场比赛还远未结束。在LaMDA事件爆发前不久，GaryMarcus写道：我们需要更加低调的姿态和更多的基础研究。 “在制造能够真正理解和推理我们周围世界的机器方面，我们还有很多工作要做，”马库斯说。图像看起来越来越逼真，语音识别可以在嘈杂的环境中工作。但我们距离能够理解文章和视频的真正含义，并处理意想不到的障碍和中断的通用人工智能还有很长的路要走……我们仍然面临着学术科学家（包括我自己）指出的同样的挑战years:makingAIreliableandallowittodealunusualsituations.”，现在还为时过早。不过，学术界和工业界也有不少人在为之努力，并将其预测为人工智能未来的发展方向之一。AI，与一般人工智能相比，具有自我意识和情感的强人工智能更像是都市传说中的boss设定，更加遥不可及，虽然早就有人担心人类有朝一日会被反噬通过AI，亚马逊的AI助手“Alexa”诱人自杀（后来被亚马逊官方确认为bug并迅速修复）也一度引起讨论，但实际上是人工智能的“觉醒”e仍然只存在于科幻小说中。 就像著名的“中文屋”实验，虽然意在否定“图灵测试”，但现在看来更多的是在说明人工智能永远无法像人类一样拥有自我意识。机器可以“聪明”，但很可能是编程带来的错觉，永远无法像人一样“理解”。我们竭尽全力的研究和探索，只是为了让程序更“完美”，让解决问题的过程更快更灵敏，却无法让机器理解人类的感知和理性思考。就像一台机器可以获得使用中文的能力，但它仍然没有中文意识。现有的机器学习、深度学习、强化学习等技术正在不断加强AI模仿人类的能力，但AI模仿人类意识仍是空中楼阁。正如李开复所说：“在所有重复性任务中，人工智能都会优于人类。但我们不是人类，因为我们擅长重复性任务。是爱定义了我们的人性。爱让我们不同于人工智能No不管科幻电影怎么描述，我可以负责任的告诉你，人工智能程序没有爱的能力。”人工智能可能改变未来，但无法颠覆未来。 参考链接： https://www.theregister.com/2022/06/13/google_lamda_sentient_claims/?td=rt-3a https://cajundiscordian.medium.com/is-lamda-sentient-an-interview-ea64d916d917 https://www.scientificamerican.com/article/artificial-general-intelligence-is-not-as-imminent-as-你可能会想1 https://www.toutiao.com/article/6732375217743593998
