早在2017年，研究人员就提出：“人工智能会在2040年之前编写大部分代码吗？”今天，OpenAI的GPT-3被beta测试人员使用，已经可以用任何语言编写代码，机器主导的编码几乎就在这里。GPT-3已经在数千亿个单词甚至整个互联网上进行了训练，这就是为什么它可以用CSS、JSX、Python进行编码。GPT-3不需要训练多种语言任务，其训练数据包罗万象。相反，当给出琐碎的指令时，网络会将自己限制在手头的任务上。GPT-n的演进GPT通过将监督学习与无监督预训练相结合（或使用无监督步骤的参数作为监督的起点），在语言任务中实现了最先进的水平。与其后继者相比，GPT很小，仅在几千本书和一台8GPU机器上进行训练。GPT-2大幅扩大，包括10倍以上的参数并提供10倍以上的训练数据。尽管如此，数据集还是相对有限，而且它是专门“从Reddit的一个链接中训练出来的，该链接至少获得了3个业力”。GPT-2被描述为“类变色龙”合成文本生成器，但在下游任务中，问答摘要或翻译并不是最先进的。GPT-3是人工智能领域的里程碑，在一系列任务中达到了最先进的水平，其主要突破是不再需要针对特定??任务进行微调。在规模上，其模型再次大幅扩容，达到1750亿个参数，是其前身的116倍。GPT-3根本不需要训练（零样本学习的一个例子），并且它已经令人印象深刻的性能在一两个epoch之后就黯然失色了。成长或死亡：Beta测试人员正在使用GPT-3生成工作代码，这需要一些琐碎的知识。从按钮到电子表格，甚至重建Google的主页，这些都可以通过零样本学习来完成。除了人工智能的快速发展，另外两大技术趋势正在加剧未来编程工作将不是“铁工作”的现实：无需编码和自动机器学习。无代码分析：让每个人都成为数据科学家无代码是指可视化工具，可以让任何人更轻松地构建新产品，无论是网站、设计、数据分析还是模型。WordPress、Wix和Shopify是无代码工具的示例，这些工具使数百万人无需雇用开发人员或设计师就可以自己做事。第二个趋势是AutoML，即自动化机器学习，它大大减少了AI生产所需的时间。AutoML会成为数据科学家的末日吗？Apteo等工具正在顺应这些趋势，使人们无需编码技能即可部署AI模型。GPT-3将引发另一波无代码和自动化机器学习浪潮，许多潜在雇主会选择这些工具而不是雇佣昂贵的程序员。当然，技术最差的程序员将最先离开，而专家，就像任何领域一样，将享受更长的工作保障。不仅仅是代码——GPT-3已应用于任何语言任务要引导GPT-3执行特定的语言任务，您只需向它提供您希望实现的示例。您可以直接在GPT-3中编写代码，也可以直接编写诗歌、音乐媒体评论或任何其他文本。例如，如果要生成新闻文章，可以输入“联合卫理公会同意历史分裂”等标题和“反对同性婚姻的人将自成一派”等副标题。输入这些，GPT-3产生了以下结果：经过两天的激烈辩论，联合卫理公会同意历史性的分裂——据《华盛顿邮报》报道，该教派预计将随着新教派的创建而结束。“在神学和社会上都是保守的”。在5月份举行的教会年度大会上，大多数代表投票决定加强对LGBTQ祝圣的禁令，并制定新规则“惩罚”主持同性婚礼的神职人员。但反对这些措施的人有了新的计划：他们说他们将在2020年成立一个独立的教派，他们的教会将被称为基督教卫理公会教派……这个文本愚弄了88%的人，只有12%的人认为这是人工智能写的。就像人类一样，GPT-3也可以根据例句学习新单词。例如，给定上下文：“Burringo”是一辆加速非常快的汽车。GPT-3的输出：我们的车库里有一辆Burringo，我爸爸每天都开它去上班。这些结果非常令人印象深刻。人工智能处于不可避免的演进之中，任何对当前性能的批评都将在其快速迭代中被驳回。不仅仅是语言——GPT应用于图像GPT不仅可以写代码，什么都可以写，还可以生成图像。相同的模型架构可以在像素序列而不是文本编码上进行训练，从而产生新的图像而不是文本。事实上，它在这方面做得非常好，甚至可以与顶级CNN竞争。这表明GPT（及其后继者）不仅有朝一日有可能取代编码器，而且它们的多功能性甚至使它们有可能取代整个行业。GPT-3的惊人性能让许多人相信我们比以往任何时候都更接近超级智能，或者至少，AI生成的代码能够产生创造力、洞察力、深度，甚至美感，比我们想象的更接近内容，未来已来。本文转载自微信公众号“读芯”，可通过以下二维码关注。转载本文请联系核心阅读公众号。
