想问一下最近AI界最开箱即用的模型是哪个模型。十分之九的人会投票给ChatGPT。没办法，这个模型太大众化了，因为它懂的东西太多了。很多人形容它是真正的“六角战士”：不仅可以用来聊天、搜索、翻译，还可以写故事、写代码、调试，甚至可以开发小游戏，参加美国高考考试...有人开玩笑说，从那以后，人工智能模型就只有两种——ChatGPT和其他。一方面，ChatGPT的能力实在是太惊人了，太受大众欢迎了。另一方面，它也很麻烦，被不同的组织禁止。前段时间有消息说StackOverflow封杀了ChatGPT，没有别的原因。官方表示，ChatGPT被暂时禁用是因为其生成的答案正确率太低。发布由ChatGPT创建的答案对于查询正确答案的网站和用户来说非常重要。有害。在这场风波后不久，人工智能顶级会议也开始禁止使用ChatGPT和AI工具撰写的学术论文。具体是怎么回事，我们往下看。ICML禁止使用大型语言模型撰写论文日前，国际机器学习大会ICML宣布禁止征集使用大型语言模型（LLM，如ChatGPT）生成的论文，除非生成的文本作为论文的实验分析。文档地址：https://icml.cc/Conferences/2023/llm-policy根据ICML的说法，ChatGPT等语言模型虽然代表了未来的发展趋势，但一些意想不到的后果和难题也随之而来。ICML表示，ChatGPT接受了公共数据的培训，这些数据通常是在未经同意的情况下收集的，如果出现问题，由谁负责。还有作者身份的问题，谁“写”了这篇论文：机器还是人？考虑到ICML仅禁止完全由AI生成的文本，这一点尤为重要。会议组织者表示，他们不禁止使用ChatGPT等工具来编辑或润色作者所写的文本，并指出许多作者已经使用半自动编辑工具，如语法校正软件Grammarly来润色他们的文章。不过消息一出，在社交媒体上还是引起了不小的讨论。YannLeCun转发评论说：“大语言模型用不了，中小语言模型还能用吗。微软研究院ML基金会团队负责人塞巴斯蒂安布贝克称该规则是“短视的”，并在推特上写道：“ChatGPT及其变体是未来技术发展的一部分。禁止绝对不是最好的答案。”ICML表示，明年将重新评估其对人工智能生成文本的禁令。对于AI生成的文本的不利影响，人们有着不同的担忧。最常见的问题之一是这些系统的输出根本不可靠。AI模型经过训练可以预测任何给定句子中的下一个单词，但它们没有可供借鉴的硬编码“事实”数据库，因此模型的结果通常是合理的。在很多情况下，生成的句子符合语法逻辑，但不符合客观实际。还有一个问题也非常难——我们很难区分文字是经过AI“润色编辑”，还是完全由AI生成。这个问题对于论文来说是非常严重的。如果作者使用AI模型根据论文生成简明摘要，这是否被视为编辑文本或从头生成的文本？当然，使用像ChatGPT这样的AI工具并不仅仅是缺点。例如，在同行评议中，流利的英语表达往往会获得更高的评价，而AI模型可以帮助非英语论文作者生成更流利的英文文本。这将节省研究人员的时间，并为学术领域创造一个更公平的竞争环境。但需要注意的是，ChatGPT是一个大型语言模型（LLM），与Grammarly等简单的语法纠错软件有很大区别。LLM本身的主要功能不是调整书面文本的结构和语言，而是生成一些新的文本。事实上，很少有论文作者会真正使用AI语言模型来生成学术论文。由于学术论文的要求非常严格，一般作者会在发表前对论文内容进行复核。如果使用AI生成的论文出现错误，所有署名论文作者的声誉都会受到严重影响，论文作者的整个职业生涯都将受到威胁。从论文审查的角度来看，人们需要一种快速有效的检测工具来区分一篇文章是人工智能生成的还是人类撰写的。一位开发人员最近发布了一款名为GPTZero的新应用程序，它具有这种检测功能。GPTZero由普林斯顿大学计算机科学系学生EdwardTian开发，使用两种不同的指标来评估文本是否由AI模型编写：困惑度和突发性。这或许是以“模范”打败“模范”。纽约市学校禁止访问ChatGPT大约在同一时间，学校禁止使用ChatGPT。由于担心人工智能工具会扰乱教育，纽约市教育局已阻止在其网络和设备上访问ChatGPT。该部门发言人珍娜莱尔表示，该禁令源于对ChatGPT对学生学习的潜在负面影响的担忧，以及对ChatGPT生成内容的安全性和准确性的担忧。虽然该工具可以提供快速简单的答案，但它无法培养对学生的学业和终身成功至关重要的批判性思维和解决问题的技能。此外，ChatGPT与其他语言模型也存在问题。因为它的训练数据来自互联网，所以它经常在答案中重复和放大性别歧视和种族偏见。这种类型的语言模型也倾向于捏造信息，从历史日期到科学规律，但其他人通常无法察觉。正是这些事实错误让教育工作者特别担心这个工具。很多老师说，像ChatGPT这样的软件，基本不可能测试学生的作文能力。如果ChatGPT能帮助学生秒写，他们就不会写了。然而，其他人则认为，教育系统将不得不适应这项技术的出现——就像它适应早期的颠覆性技术，如谷歌搜索和维基百科一样。但是大家需要一段时间去适应ChatGPT。无论是人为制定和强制的文本书写规范，还是使用一些方法来区分文本是否由AI生成，都表明人们意识到迫切需要规范ChatGPT等文本生成模型的使用。ChatGPT的使用场景和价值还有待定义。
