OpenAI开放GPT-3微调功能,一行命令即可实现!准确率最多可提高四倍OpenAI刚刚宣布将允许用户创建自定义版本的GPT-3。而且步骤非常简单,一行命令就可以实现!高达4倍提升”>经过微调,定制版GPT-3在不同应用中有非常明显的提升。OpenAI表示可以直接将不同应用的准确率从83%提高到95%,错误率可以降低50%,解决小学数学题的正确率也可以提高2-4倍,最大提高4倍”>这样,踩着巨人的肩膀,微调直接上拥有1750亿个参数的大型模型,许多开发者不再需要重新训练他们的AI模型。这让网友大呼:现在我可以直接训练我的聊天机器人了,省时省钱!最大提升4倍》>比如这个税务应用——KeeperTax。显然,OpenAI真的不遗余力地把GPT-3开放给更多人。微调的好处很多,OpenAI已经有了证明。今年6月份,他们只用了80个文本数据集进行训练,大大降低了GPT-3说话的风险,表达也更加人性化。(下图中蓝线表示训练好的模型,红线表示基础模型,分数越高表示性能越好)高达4倍的提升”>其实很多应用已经使用了GPT-3的定制版,性能还是不错的。例如,此税务申请-KeeperTax。它可以通过定制版的GPT-3识别账单上的各种数据,帮助用户找到可抵税的费用。KeeperTax表示,在使用微调后的GPT-3后,APP识别准确率每周提升约1%,准确率从过去的85%提升至93%。最大提升4倍”>再来看看这款人工智能检索工具——Elicit,它可以根据用户的搜索问题,智能给出结果。在使用了定制版的GPT-3后,Elicit给出的结果更加易懂。提升了24%,准确率提升了17%,综合方面提升了33%,高达4倍”>还有这款可以智能阅读用户评论的应用——Viable。能够从大量评论中读取用户的重要建议,如投诉、问题等。CustomGPT-3将应用识别用户反馈的准确率从66%提高到90%。最大提升4倍》>其实不仅仅是准确率的提升,在输出时间和多样性方面,定制化的GPT-3优势更明显。怎么吃?OpenAI表示要微调GPT-3大致需要三个步骤:准备并上传训练数据;训练微调模型;最后使用,其中训练数据必须是JSONL文档,这是GPT-3在哪方面出类拔萃的关键。创建微调模型是在OpenAI的CLI上,步骤也很简单,上传数据文件,创建微调作业,等待几分钟或几小时,作业完成即可。最后,当使用微调模型,只需将命令行中的fine_tuned_model字段替换为模型名称即可。可以。最大增加4倍》>OpenAI的具体步骤官网已经给出,可以参考链接2在文章末尾。当然,如果要使用更强大的GPT-3,成本也会增加。微调后,模型每1Ktoken的成本将比基础版提升50%。OpenAI技术人员在接受采访时表示:“我们开发这个功能的时候,希望没有AI研究背景的人也能使用。很多网友也留言说,他们用GPT-3写了很多有趣的应用,比如有人写了一个睡眠播客,会讲童话的那种:最多4次”>
