当前位置: 首页 > 科技观察

OpenAI发布ChatGPT人工智能文本生成检测工具

时间:2023-03-14 09:04:37 科技观察

ChatGPTChatGPT是OpenAI于2022年11月推出的交互式自然语言对话模型。OpenAI使用RLHF(ReinforcementLearningfromHumanFeedback)来训练ChatGPT,与InstructGPT使用的方法相同,但是有是数据收集设置中的显着差异。在训练初始模型时使用监督调整(请参阅):由人类AI训练师提供的课程。培训师可以访问模型建议,以帮助培训师更好地做出响应。然后将新生成的对话数据集与InstructGPT数据集混合以形成对话格式。ChatGPT发布后,在业界引起了震动,随后被包括学生在内的各方广泛试用。有些学生使用ChatGPT写论文、作业和程序,老师很难分辨论文、作业和程序是否是学生自己完成的。此外,还有许多由ChatGPT签署的未决论文。为了应对这个问题,世界各地的学校都采取了措施,比如禁用该平台。据BusinessInsider报道,ChatGPT目前在纽约、西雅图、洛杉矶等地的中学和高中被禁用,法国和印度的大学计算机也已禁用该平台。ChatGPT检测工具1月31日,OpenAI宣布推出人工智能文本分类器,旨在检测输入内容是否由ChatGPT等人工智能工具生成。OpenAI表示其分类器并不完全可靠。在英文文本测试中,分类器正确识别了26%的AI生成文本,约9%的人写内容被错误标记为AI生成。分类器的性能随着输入文本长度的增加而提高。与之前的其他分类器相比,该分类器的准确率高于其他检测分类器。分类器试用地址:https://img.ydisp.cn/news/20230206/iq3tkgij1zz