当前位置: 首页 > 科技观察

魔改GPT自动写网文,速度一秒十倍,还可以给太监无限更新

时间:2023-03-20 02:01:55 科技观察

本文经AI新媒体量子位授权转载(公众号ID:QbitAI),请转载转载请联系出处。如果一个人只看网上的文字,他会写出什么样的文字呢?看完100G网络文章,这个AI模型给你试了一下。先来一段自由创作:无限延续|opensource》>乍一看很有意思,基本上一秒甚至更快生成一个十字的速度非常惊人。那我们来播放一段经典网络故事高潮前的内容,让AI作家求助继续?无限续订|开源》>呃……不是“河东三十年,河西三十年,不欺少年贫”,鸡肋!这就是被开发者亲切地称为“人工智障写作”,由GPTAI-Writer:UnlimitedRenewal|改造而来的模型。《开源》>一秒穿越,无限改写。100G网络小说训练,不使用任何其他材料。因此,AI-Writer相当于一个“只会看网络小说”的创作者。在阅读无数书籍中,同样的开始:无限延续|开源》>可以生成多个不同风格和方向的片段:无限延续|开源》>还可以自定义每次生成的字数,像上面那样每次生成200个字。无限续订|开源》>理论上可以无限生成,但是时间长了,就会陷入“不断重复某个词或某个片段”的循环。生成文本的速度受加速方法的影响。目前支持N卡、A卡、I卡、GPU加速。您可以选择最适合您设备的方法:无限更新|OpenSource》>像一开始展示的动画,生成速度甚至超过一秒,这是GPU加速的效果。如果觉得AI写的有点太自由了,也可以设置随机性生成的文本。无限延续|开源》>这里要说明文本生成的随机性,就必须要说说AI-Writer采用的一种特殊的采样方式:对于段落的开头,将Top-P设置为0.995,几乎完全按照输出概率分布式采样,增强文本变其他位置,先找到概率最大的词的概率P,然后去掉所有概率小于0.02×P2的词。这样,生成的每个词模型是一个概率分布,所以上面的文本生成的随机程度,也就是生成文本的时候忽略小概率词的程度。可以对比取值为0.01时的生成效果,0.1,0.9:无限延续|开源》>当然,因为这是小模型,所以逻辑和阅读理解都比较低。用开发商的话说,“纯属弱智,纯属娱乐”。模型可以直接玩,不过就算是出于娱乐目的,还是来看看这个AI作者是怎么写的吧。在环境配置方面,开发者表示,如果他使用C+AVX2编写的纯CPU版本,不需要Python和Pytorch,只要2014年以后的CPU就能运行成功。(作者已将此版本上传至交流群)以上演示动画为Python3.8和Pytorch1.10环境配置下的Demo。环境配置好后,下载model和Release文件,在model文件中新建model文件夹,在model目录下解压release文件。这时候可以在终端运行pythonrun.py快速生成文本:(这里可以先安装DeepLearning环境)无限续|由于这是在2.3GHz双核IntelCorei5Mac上运行,因此尚未达到10字/秒的生成速度。也可以在网页上试试,运行pythonserver.py,打开client文件夹下的下载模型web-index.html。无限续约|开源》>然后就可以打开网页了,直接在对话框中输入开始,点击按钮继续写:无限续订|开源》>现在这个网页版已经上线了开发者希望更多人参与并将现阶段的这种“人工智障”改进为创作者的实用工具和读者的娱乐方式。下载链接:https://github.com/BlinkDL/AI-Writer/releases