老板之间的关系有时候真的很混乱。昨天，发现OpenAICEOSamAltman在推特上取消了对Meta首席人工智能科学家YannLeCun的关注。我们很难确定这次解封的具体时间点，但基本上可以确定事件的起因。日前，YannLeCun在前段时间的一次小型媒体和高管在线聚会上表达了对ChatGPT的看法：“就底层技术而言，ChatGPT并没有什么特别创新的，也不是革命性的。很多研究实验室都在使用同样的技术，做同样的工作。”在ZDNet的“ChatGPT‘不是特别创新’，‘没有什么革命性’，Meta的首席AI科学家说”中，透露了LeCun演讲的一些细节。其中有一些惊人的评论：“与其他实验室相比，OpenAI并没有取得什么特别的进步。”“ChatGPT使用的Transformer架构是以这种自我监督的方式进行预训练的。它已经被提倡了一段时间，甚至在OpenAI出现之前。”“Transformer是Google发明的，这类语言项目的工作可以追溯到几十年前。”……所以，SamAltman的下架也是如此。请问，“Takeoff”被发现四小时后，YannLeCun更新了动态并转载了“阴阳”ChatGPT的文章：ChatGPT这样的大型语言模型为什么可以胡说八道？他们对现实的把握非常肤浅。有人不以为然：“ChatGPT是广博知识和伟大创造力的源泉，一直被在大量书籍和其他信息来源上进行培训。”对此，LeCun也表达了自己的观点：“没有人说LLM没用。在FAIR的Galactica短暂发布期间，我自己也这么说过。人们把它钉在十字架上，因为它会产生胡说八道。ChatGPT做了同样的事情。但同样，这并不意味着它们没有用。”事实上，这篇《大西洋报》文章是对麻省理工学院认知科学组一篇论文的评论。再来看看具体的研究内容。这篇论文说了什么？这篇论文的标题是《Dissociating Language and Thought in Large Language Models: a Cognitive Perspective》，作者分别来自德克萨斯大学奥斯汀分校、麻省理工学院和加州大学洛杉矶分校。论文地址：https://arxiv.org/pdf/2301.06627.pdf我们知道，如今的大型语言模型（LLM）往往能够生成连贯、符合语法、看似有意义的文本段落。这一成就引发了人们的猜测，即这些网络已经或即将成为“思维机器”，执行需要抽象知识和推理的任务。在本文中，作者通过考虑语言使用表现的两个不同方面来观察LLM能力：形式语言能力，包括对给定语言的规则和模式的了解；需要一系列的感官能力。作者利用认知神经科学的证据表明，人类的形式能力取决于特定的语言处理机制，而功能能力则需要超越语言的多种能力，这些能力构成形式推理、世界知识、情境建模和社会认知思维能力。类似于人类两种能力之间的区别，法学硕士在需要正式语言能力的任务上表现良好（尽管不完美），但在许多需要功能能力的测试中往往会失败。基于这一证据，作者认为，首先，现代LLM应该被认真对待作为正式语言技能的模型，其次，掌握现实生活语言使用的模型需要合并或开发核心语言模块和多样化的语言-中性认知能力。总之，他们认为形式语言能力和功能语言能力之间的区别有助于澄清围绕LLM潜力的讨论，并为构建以类人方式理解和使用语言的模型提供途径。LLM在许多非语言任务上的失败并不削弱它们作为语言处理的良好模型，如果将人类的思维和大脑作为类比，未来的AGI进展可能取决于将语言模型与代表抽象知识并支持复杂推理的模型相结合.ChatGPT数学水平还有待提高LLM缺乏语言以外的功能能力（比如推理等），OpenAI的ChatGPT就是一个例子。虽然官方宣布数学能力升级，但网友吐槽只能熟练掌握十以内的加减法。在最近的一篇论文《Mathematical Capabilities of ChatGPT》中，牛津大学、剑桥大学和其他机构的研究人员在公开可用和手工制作的数据集上测试了ChatGPT的数学能力，并将其与其他在数学语料库（如Minerva）上训练的算法进行了比较。模型性能。同时，我们通过模拟数学家日常职业活动（问答、定理搜索）中出现的各种用例，来测试ChatGPT能否称得上是专业数学家的得力助手。论文地址：https://arxiv.org/pdf/2301.13867.pdf研究人员介绍并发布了一个新的数据集——GHOSTS，这是第一个由数学研究人员制作和管理的自然语言数据集，涵盖了研究生LevelMathematics，以及全面概述语言模型的数学能力。他们在GHOSTS上对ChatGPT进行基准测试，并根据细粒度标准评估性能。测试结果显示，ChatGPT的数学能力明显低于普通数学研究生，经常能看懂问题却不能给出正确答案。每月20美元，ChatGPTPlus会员在线Anyway，ChatGPT的商业成功有目共睹。刚刚，OpenAI宣布推出“ChatGPTPlus”，这是一项每月20美元的新付费会员服务。订户将获得一些好处：即使在高峰期也可以普遍访问ChatGPT；更快的响应时间；优先访问新功能和改进。OpenAI表示将在“未来几周内”向美国境内和候补名单上的人发出该服务的邀请，并表示将把该服务扩展到其他国家。一个多星期前，有报道称OpenAI将以每月42美元的价格推出增强版或专业版的ChatGPT服务，但最后的20美元显然让包括学生在内的更广泛的人群可以使用该服务和企业。在某种程度上，这将为任何想要投放市场的AI聊天机器人设置支付标准。鉴于OpenAI是该领域的先驱，如果其他公司试图发布一款每月花费超过20美元的机器人，他们必须首先解释一件事——为什么他们的聊天机器人比ChatGPTPlus更值钱？
