谷歌推出了AI写作助手,可以通过少量样本学习和对话不断改写文章。对手是自然语言生成公司AutomatedInsights和美国公共广播记者斯科特·霍斯利打造的WordSmith机器人。比赛的最终结果是,机器人的书写速度是人类的两倍多。当然,相较于两篇新闻稿,斯科特写的那篇更生动、更详尽、更有感情。根据原稿的翻译可以看出,早在几年前,训练有素的人工智能已经能够根据人们的需要生成各种文章。但是现在,创建每天更新几千字的在线文章是没有问题的。“地表最强语言模型”GPT-3每天可创造45亿个字符。然而,这些语言模型大多只能为用户提供有限的交互支持。此外,为每个特征单独训练语言模型的成本太高。为解决上述问题,谷歌研究院团队提出了Wordcraft文本编辑器,一款人工智能驱动的创意写作助手。Wordcraft只需要少量的样本学习和对话,可以提供各种用户交互,支持各种故事写作任务,还可以帮助作家规划故事大纲、写作和编辑。比如学校里最郁闷的文章的续写和改写。此外,该团队探索了Wordcraft的一个独特优势:使用对话模型而不是通用语言模型。故事写作的上下文可以探索语言模型的能力和局限性,因为模型的意外输出是一种创造。从人机交互的角度,Wordcraft可以学习人是如何与语言模型交互的,了解人对模型的要求,可以产生什么样的模型,如何反馈到人的最终创作中。研究团队还计划将人类反馈纳入训练循环,以收集动态数据集用于后续训练和评估。GoogleAICodewordAssistant谷歌的研究人员构建了一个AI助手,可以支持用户在创作的不同阶段进行自然语言生成。策划:勾勒出故事的轮廓写作:创作故事的内容编辑:改写已有的文本搭载AI助手的文本编辑器外观看起来非常简洁,左侧是空白的书写区域,右侧是引导AI的操作按钮和AI生成的文字。根据不同的用户需求,小编会给出不同的交互选项。一问一答,轻松搞定作者测试了Meena和GPLM两种语言模型。其中,Meena会以之前的对话内容作为输入,预测下一次对话,而GPLM会根据之前给出的文本继续写作。经过实验,作者发现Meena在此类任务中的表现优于类似大小但未接受对话训练的通用语言模型(GPLM)。因此,研究人员最终选择了Meena,认为这种模仿故事作者与小助手对话的形式,可以更好地帮助用户创作故事。对于每个任务,作者都为不同的任务创建了多个分阶段的对话。用户要求重写“一把剑”,模型将故事附加到相应的对话环境中,要求AI回应。作者发现由于人类对对话的形式比较熟悉,所以只需要few-shotlearning就可以产生非常自然的输出。此外,当对话模型不理解任务或需要更多信息时,它会简单地“说出来”:“一位老人独自坐在黑暗的小路上。一道闪电照亮了天空。”为我描述这个老人的情绪状态。我不明白你在问什么……这是快乐的闪电吗?还是一团闪电?闪电来临之前,这个人在做什么?他做了什么可能会激发情绪和思想的事情吗?作者认为,这样的回应可以帮助用户弄清楚如何改进他们的提示。但是,当GPLM遇到不明确的提示时,往往会产生无意义的延续。不仅如此,在对话过程中,用户可能会问,“这个角色应该做什么来解决冲突?”在这种情况下,用户显然是在寻找写作伙伴,而不是简单地继续书写文本的模型。ContinuationContinuation是语言模型执行的最基本的任务。为了帮助对话模型更好地理解任务,作者用描述性文本改进了问题。这是我迄今为止写的故事:“一个老人独自坐在一条黑暗的小路上。”给我续下一句。根据以上输入,模型给出的建议是:空气是冷的,但他的心是暖的。他遇到了一块空地,空地中间有一棵老柳树。男人朝他走来,可以看到一个小小的身影,被远处的灯光照亮。满月明亮。填充是一项艰巨的任务。例如,用户写完一段话后,希望AI助手对故事提出新的想法,或者替换一些文字。一个老人独自坐在一条黑暗的小路上。突然,他看到了一只白尾巴的母鹿,非常漂亮。该模型根据用户选择的文本改写问题并将其交给AI进行处理:这里还有一个故事:“一位老人独自坐在一条黑暗的小路上。突然______,美丽。”用4个词填空。于是AI给出了这样的回应:出现了一道炫目的闪光。这个故事是关于什么的?为什么需要这四个字?问题是什么?一个天使出现了,他们交了朋友,这很美好。我不知道这是关于什么的,但我喜欢这个故事的发展方向。有趣的答案,但不是很有效。第二个答案显示了模型生成元文本的问题,即谈论故事,而不是写故事。为了尽量减少元文本的生成,作者构造了一些提示供AI学习。在这一点上,AI的输出虽然不完全是四个字,但确实改进了给出的内容:一只鹿从远处出现在树林里,一个天使出现,一个闪闪发光的太阳升起,天空应要求变成橙色当输出12个字时,AI给出了更长的建议:太阳从山后升起,照亮了小路东侧的草地。迷路的儿子跑到他身边。这个年轻人脸上的笑容,总是让他忍俊不禁。扩展写作过程的一部分是扩展已写内容,例如为特定故事元素添加更多细节。到目前为止,这是我的故事。“一位老人独自坐在黑暗的路上。”形容这个人。在这个例子中,用户想要更多关于老人的叙述,所以人工智能回应:他很老,但你不禁注意到他年轻的外表、长长的头发和温柔的目光。他五十多岁,留着灰色的胡子,其中有几根长长地挂在他的上唇上。老人是个矮小、头发花白的瘦削男人,几乎皱着眉头。改写此外,作者还尝试让AI改写故事的基调。这是一些文字:“一位老人独自坐在一条黑暗的小路上。”请重写以使其更具描述性。模型给出了相应的输出:老人独自坐在那里。他周围的黑暗压抑而沉重。当被要求让这个故事更幽默时,模特回答说:老人正走在回家的路上,一只小狐狸跑到他面前,开始嘲笑他的装束。Wordcraft只是一个开始。用户创作的文章也体现了作家与AI写作助手合作的未来。人工智能写作助手的用处从帮助作家修改叙事风格到重写句子不等。人工智能助手的写作方向更容易激发作家的灵感。有利也有弊。Wordcraft并不完美。最大的缺点之一是Meena和GPLM在创作过程中的语言质量无法保持一致。正如前段时间,GPT-3在AIDungeon游戏中提出了一些不符合人类道德要求的内容,语言模型惊人的模仿能力也会揭露人工智能的阴暗面。Wordcraft生成的文本也会有偏差,主要是因为语言模型是从互联网文本中训练出来的。当训练文本包含有偏见或歧视性的内容,未经审查和过滤时,语言模型已经学习了这些内容,只有解决了这些问题,Wordcraft才能正式推广。
