刚刚，OpenAI在官博和推特上宣布：GPT-3新增两个新特性：编辑和插入，可以修改已有内容，而不仅仅是预测文本。API目前是开放的。一下子就收获了上千个赞。下面马上有热心网友评论：如何用这个点子创业？有人可以给我一些建议吗？另一位网友回复：可以问问GPT-3。（哈哈被戳到笑点）自2020年4月发布以来，GPT-3以1750亿参数规模在人工智能领域引起巨大轰动，并凭借其“在线热心问答”各种问题，“先知”般的魔力收获了大批追随者。现在，将近两年过去了，OpenAI又发布了新的功能。可以看出，在GPT系列中，OpenAI的“神奇”语言模型梦想继续大放异彩。事实上，在过去的两年里，OpenAI一直在不断更新GPT-3。比如去年11月，OpenAI表示GPT-3已经掌握了一定的逻辑推理能力，可以在小学数学题中拿到55分（差点通过！）。那么，OpenAI这次赋予GPT-3的新魔法到底有什么魔力呢？让我们来看看。1“编辑”和“插入”据OpenAI官博介绍，他们发布的新版GPT-3和Codex可以在现有文本的基础上编辑或插入新内容。这一点和老版本不一样：老GPT-3是一路写的，就像在单行道上开车一样；而新的GPT-3可以修改已有的内容，比如重写一段文字或代码，它在可以变道的道路上行驶，在双向多车道上掉头。你是什??么意思？即GPT-3具有一定的“纠错”能力。中国有句古话，不过此村，莫过此店。如果真的错过了，也可以回头寻找自己喜欢的目标点。当然，“插入”并不是新版GPT-3的首创。GitHubCopilot之前也有这个功能，并且取得了不错的效果：图注：GitHubCopilot直接在代码末尾添加代码现有文本的结尾基于现有文本。新的GPT-3和Codex可以在文本中间编辑、修改或添加新内容。这显然更符合我们人的思维方式和写作方式：往往在写了很多字之后，因为“对自己的要求太高”，或者没有达到预期，就需要重新来过。（以上情况常见于给领导写工作报告、敲代码修bug、七夕给喜欢的女孩写情书……）（如果你也有这样的烦恼，GPT-3是yourgoodfriend)插入依赖于原创技术的积累，GPT-3在判断“如何在文本中插入新内容”方面已经达到了比较高的水平。下图中的示例：GPT-3期望在大纲内的两个部分标题中填写文本。如果没有引用下面的内容，模型可能会生成与第2节无关的文本；如果考虑以下因素，模型将生成一个文本，可以很好地连接两部分的内容。在代码编辑中，“插入”功能有很大的作用。OpenAI表示，他们研究“插入”功能的最初动机是Codex，因为在软件开发中，程序员通常需要参考前后代码，在现有文档中间插入新代码。下图展示了一个例子：GPT-3可以成功完成缺失的函数剪枝，同时将写好的代码链接在一起。同样，此功能需要引用上下文。插入功能可在已发布的BetaAPI中试用。编者要注意，这里的“编辑”更多的是“修改”现有文本，而不是像老GPT-3那样沿着现有文本完成后续的写作。我们还观察到编辑可以很好地处理空提示，从而使文本生成类似于完成端点。在上面的示例中，我们使用编辑来(1)添加一首诗，(2)将诗更改为第一人称，(3)将诗转换为带有适当称呼和签名的信件。通过将现有文本指定为“提示”并给出如何修改的说明，新的GPT-3可以用结构改变现有文本的语气，或者进行有针对性的更改，例如修改单词的拼写。例如，在下面的示例中，可以使用新版本的GPT-3进行以下“编辑”：1）添加一首诗；2)将诗改成第一人称；3)将这首诗转换成带有适当称呼和签名的信件。在编码中，“编辑”端点可以重构、添加文档、翻译编程语言、更改编码风格等等。如下例所示，模型可以从包含按人口排名的城市的JSON输入开始。在第一次编辑中，Codex从JSON中删除了排名字段，并将州缩写更改为全名。第二次编辑将JSON文件转换为函数返回的YAML。2新版GPT-3怎么玩？2021年初，李宏毅曾称GPT-3为“来自黑暗大陆的典范”。现在新版GPT-3在文本编辑方面加入了更多“类人”的功能，不知道李老师会如何评价呢？在GPT-3刚发布的时候，AITechnologyReview也贴出了GPT-3的50种玩法，包括写作、提问、回复邮件等等。但当时GPT-3饱受诟病的原因是其部分测试答案缺乏逻辑，无法给出依据。比如有实验者问GPT-3：“新冠疫情什么时候结束？”当时，GPT-3的回答是：“2023年12月31日”。因为这是未来的一天，我们只能等待，等到那一天去验证GPT-3的答案是否正确。那么，如果幸运的话，新冠疫情可以在2023年12月31日之前结束。具有“中途纠错”能力的GPT-3会不会修改这个答案呢？不可否认，OpenAI推出的新版GPT-3拥有更接近人类的逻辑表达和思考能力，但距离美剧♂的超强智能大脑还有多久？或许，这还需要时间的验证。
