译者|布加迪评论|关于人工智能(AI)的互动式热烈讨论。在很多方面，ChatGPT是其前身GPT-3.5的升级版本，但仍然很容易编造。专家表示，对于生产级应用程序，AI开发人员可能会考虑将ChatGPT与其他工具结合使用以获得完整的解决方案。ChatGPT和GPT-3.5，由OpenAI开发，在MicrosoftAzure上训练，都是基于大型语言模型的对话式AI系统，但有重要的区别。首先，generativepre-trainingTransformer(GPT)3.5比ChatGPT更早问世，其神经网络的层数也比ChatGPT多。GPT-3.5是作为一种通用语言模型开发的，可以处理许多任务，包括翻译语言、总结文本和回答问题。OpenAI为GPT-3.5提供了一套API接口，为开发者提供了更高效的访问其功能的方式。ChatGPT基于GPT-3.5，专门开发为聊天机器人（“会话代理”是业界更喜欢使用的术语）。一个限制因素是ChatGPT只有文本界面，没有API。ChatGPT在大量对话文本语料库上进行训练，与GPT-3.5和其他生成模型相比，它可以更好地进行对话。生成响应的速度比GPT-3.5更快，而且它们的响应也更准确。然而，正如业内一些人所说，这两种模型通常都是虚构的，或者是“幻觉”。ChatGPT的幻觉率在15%到21%之间。同时，GPT-3.5的幻觉率从20%左右提高到41%，因此ChatGPT在这方面有所改善。硅谷公司Moveworks在其AI对话平台上使用语言模型和其他机器学习技术，该平台被各行各业的公司使用。该公司创始人兼机器学习副总裁江晨表示，虽然它倾向于编造（所有语言模型的通病），但ChatGPT代表了对之前AI模型的重大改进。“ChatGPT确实给人们留下了深刻的印象，让人们感到惊讶，”Chen说，他曾是谷歌工程师，负责这家科技巨头的同名搜索引擎。“它的推理能力可能会让许多机器学习从业者感到惊讶。”Moveworks使用多种语言模型和其他技术为客户构建自定义人工智能系统。它一直是BERT的大用户，BERT是谷歌几年前开源的语言模型。该公司使用GPT-3.5，并且已经开始使用ChatGPT。但Chen表示，ChatGPT在构建生产级对话人工智能系统方面有其局限性。使用此类技术构建自定义对话式AI系统时，需要权衡多种因素；重要的是要知道线路在哪里，以便构建一个不会提供错误答案、不会过于偏颇并且不会让人们等待太久的系统。系统。Chen表示，ChatGPT在生成有意义的回答来回答问题方面优于BERT。具体来说，ChatGPT比BERT具有更强的“推理”能力，其目的是预测句子中的下一个单词。虽然ChatGPT和GPT-3.5可以提供令人信服的回答来回答问题，但它们封闭的端到端性质阻止了像Chen这样的工程师对它们进行培训。它还为回答特定行业的自定义语料库设置了障碍（零售商和制造商使用与律师事务所和政府不同的词）。他说，这种关闭也使得减少偏见变得更加困难。BERT足够小，可以由Moveworks等公司托管。该公司构建了一个数据管道，用于收集特定于公司的数据并将其输入BERT模型进行训练。这项工作允许Moveworks对由此产生的对话式AI产品施加更大程度的控制，这在GPT-3.5和ChatGPT等封闭系统中是不可能实现的。“我们的机器学习堆栈是分层的，”陈说。“我们使用BERT，但我们也使用其他机器学习算法，这使我们能够整合客户特定的逻辑和客户特定的数据。”Chen表示，尽管OpenAI模型更大，并且在更大的语料库上进行训练，但无法知道它们是否适合特定客户。“(ChatGPT)模型经过预训练，可以对输入的所有知识进行编码，”他说。“它本身并不是为了执行任何特定任务而设计的。该体系结构本身实际上非常简单。它是同一事物的多层，所以你可以说它融合在一起。因为架构，你知道它有学习的能力，但你不知道它在什么地方编码了什么信息。你不知道哪些神经元层编码了你想要推断的特定信息，所以它更像是一个黑盒子。”Chen认为ChatGPT可能正在路上，但它作为会话AI的生产级工具的实用性可能有点偏离。被夸大了。更好的方法是利用多个模型的优势，而不是完全致力于一个特定模型，从而更好地与客户的性能、准确性、偏差期望和技术的潜在功能保持一致。“我们的策略是在不同的地方使用一堆不同的模型，”他说。“你可以用大模型来教小模型，然后小模型会快很多。例如，如果你想做分段搜索，你可以做你应该使用......某种BERT模型并运行它作为某种矢量搜索引擎。ChatGPT对于它来说太大了。”虽然ChatGPT目前在实际应用程序中的使用可能有限，但这并不意味着它无关紧要。Chen说，ChatGPT可能产生的持久影响之一是吸引从业者的注意力，并激发人们在未来推动对话式AI技术的极限。“我确实认为它开辟了一个领域，”他说。“展望未来，当我们打开黑匣子时，我认为会有更多有趣的方法和应用。这就是我们感到兴奋的地方，我们正在这个领域努力。”》原标题：TheDrawbacksofChatGPTforProductionConversationalAISystems，作者：AlexWoodie
