当前位置: 首页 > 科技观察

“AI世界”的缺点是什么?牛津大学MichaelWooldridge教授:现实世界

时间:2023-03-12 18:26:02 科技观察

无限猴子定理认为,如果一只猴子在打字机上随机按键,当按键时间达到无穷大时,它几乎可以肯定地打出任何给定的文字,比如莎士比亚的全集。在这个定理中,“几乎必然”是一个具有特定含义的数学术语,“猴子”并不是指真正意义上的猴子,而是用来比喻一种可以产生无限随机字母序列的抽象装置.该理论表明,将一个大而有限的数视为无限是错误的。即使可观测宇宙中到处都是不断打字的猴子,它们能打出《哈姆雷特》的概率仍然不到1/10^183800。而且,就算给无限的时间,无数的猴子也不会懂得如何欣赏吟游诗人的诗句。“人工智能(AI)也是如此,”牛津大学计算机科学教授MichaelWooldridge说。在Wooldridge看来,虽然GPT-3等AI模型已经展示了数百亿或数千亿参数的惊人能力,但它们的问题不在于处理能力的大小,而是缺乏来自现实世界的经验。例如,一个语言模型可能会很好地学习“雨是湿的”,当被问及雨是湿的还是干的时,它很可能会回答雨是湿的,但与人类不同的是,语言模型从未真正体验过这种感觉“湿”,对他们来说“湿”只是一个符号,经常和“雨”这样的词结合在一起。不过,Wooldridge也强调,缺乏对真实物理世界的了解并不意味着AI模型一无是处,也不妨碍AI模型成为某个领域的实证专家,而是在理解等问题上,如果一个AI模型被认为具有与人类相同能力的可能性确实值得怀疑。一篇题为“WhatIsMissingfromContemporaryAI?TheWorld”的相关研究论文已发表在《智能计算》(智能计算)杂志上。在当前的AI创新浪潮中,数据和计算能力已成为AI系统成功的基础:AI模型的能力与其规模、用于训练它们的资源以及训练数据的规模成正比。对于这一现象,DeepMind研究科学家RichardS.Sutton此前曾表示,AI的“惨痛教训”是,它的进步主要是使用越来越大的数据集和越来越多的计算资源。在谈及AI行业的整体发展时,Wooldridge给出了肯定。“在过去的15年里,AI行业,尤其??是机器学习(ML)领域的发展速度一再让我感到惊讶:我们不得不不断调整我们的预期以确定什么是可能的,并且可能的时候。”不过,Wooldridge也指出了目前AI行业存在的问题,“虽然他们的成就值得称赞,但我认为目前大多数大规模ML模型都受到一个关键因素的限制:AI模型还没有真正经历过现实世界。在Wooldridge看来,大多数ML模型都建立在视频游戏等虚拟世界中,可以在海量数据集上进行训练。一旦涉及到物理世界中的应用,它们将丢失重要信息。物理AI系统.以支持自动驾驶汽车的AI为例。自动驾驶汽车在路上自行学习是不切实际的,出于这个和其他原因,研究人员经常选择在虚拟环境中构建他们的AI系统Wooldridge说:“但它们根本没有能力在所有最重要的环境中发挥作用,这就是我们的世界。”另一方面,语言AI??模型也受到同样的限制。可以说,它们“从荒谬到预测文本演变成谷歌的LAMDA。今年早些时候,一位前谷歌工程师声称AI程序LAMDA具有感知力,因此成为头条新闻。“不管工程师结论的有效性如何,很明显,LAMDA的对话能力给他留下了深刻的印象——这是有充分理由的,”Wooldridge说,但他并不认为LAMDA是有感知力的,AI也没有接近这样一个里程碑。常识推理是过去60年人工智能研究的重大事件之一。“这些人工智能模型需要输入大量参数,并经过训练才能理解它们。例如,GPT-3是使用互联网上数千亿的英文文本进行训练的。大量的训练数据和强大的计算能力相结合,使得这些AI模型表现得像人脑,它可以超越狭窄的任务,开始识别模式,并建立看似与主要任务无关的联系。但是,Wooldridge说,基础模型是一个赌注。一系列领域具有有用的功能,这些功能又可以专门用于特定的应用程序。”“符号人工智能(symbolicAI)是基于‘智能主要是知识的问题’的假设,而基础模型是基于‘智能主要是数据的问题’的假设。如果在大模型中输入了足够多的训练数据,就被认为有希望提高模型的能力。“Wooldridge认为,这种“可能是正确的”方法将AI模型扩展到更大的规模以产生更智能的AI,但忽略了真正推进AI所需的现实世界物理知识。”相当“有一些迹象表明这种情况正在发生变化,”Wooldridge说。5月,DeepMind宣布了Gato,这是一个基于大型语言集和机器人数据的基础模型,可以在简单的物理环境中运行。“很高兴看到基本模型迈出了进入物理世界的第一步,但这只是一小步:让AI在我们的世界中发挥作用所要克服的挑战至少与让AI所面临的挑战一样大在模拟环境中工作,可能会更大。在论文的最后,Wooldridge写道:“我们不是在寻找AI道路的尽头,但我们可能已经到达了道路开始的尽头。”