由CarlosE.Perez编译|《深度学习怪圈》一文。本文作者将人类自我认知的怪圈与深度学习的算法圈联系起来。“自我创造”这个看似是“人类思想”的独特属性，似乎正在取得一些令人难以置信的深度学习成果。最终，我们变得有自我意识、自我创造力，陷入了一个小的自我参照奇迹的幻影。这种自我参照机制就像描述思想的独特属性。——道格拉斯Hofstadter怪圈是一个循环系统，穿越了不同层次的各个层次。通过这个循环，一个人可以回到他的原点。巧合的是，在YannLeCun所说的“过去两年机器学习最酷的想法”的背后decades”，最基本的其实就是这个“怪圈”。循环在机器学习系统中并不典型，机器学习系统通常由不同计算层的非循环图组成。然而，我们现在开始宁发现采用“反馈回路”可以产生令人难以置信的新型自动化。这并不夸张，这是今天正在发生的事实。研究人员正在训练“精确”的智能系统，希望创造出在其领域中表现远远优于人类的专业自动化。我第一次知道在深度学习系统中有效使用反馈循环是在“阶梯网络”中。梯形网络很久以前就被采用了，可以追溯到2015年7月！（查看：https://arxiv.org/abs/1507.02672v2）下图展示了它的结构。阶梯网络是一个单环循环，穿梭在计算层上下，紧接着是一条***单向通道。该系统从环路部分收集信息，采用后收敛性非常好。原始研究人员在2016年年中的一篇论文中进一步讨论了这一点：Labeling:PerceptualGroupingforUnsupervisedDeepLearningObjectgrouping。生成对抗网络（GAN）也有自己的循环循环，但它在结构中不可见，而是隐藏在其训练中。GAN的训练过程包括合作和对抗网络的训练，其中涉及生成网络和判别网络。判别网络试图对生成网络生成的数据进行分类；生成网络试图找到欺骗判别网络的数据，最终提高了生成器和判别器的鲁棒性。GAN可以说在一定程度上满足了图灵测试的要求，是目前最先进的图像生成模型。我们几乎可以肯定存在一种反馈机制，其形式为生成器使用神经网络（鉴别器）来产生更智能的结果（例如更逼真的图形）。有很多GAN生成逼真图形的例子。不管怎样，由于阶梯网络，现在有更新的结构正在使GAN发生变化。这些利用循环的系统也与“增量学习”的新研究有关。深度学习系统的缺点之一是，在微调网络时，使用新数据对其进行训练会破坏其先前的技能。也就是说，网络“忘记”了过去的学习。在斯坦福开发的一种称为“反馈网络”的模型结构中，研究人员开发了一种特殊的网络，它可以自我反馈并在内部迭代显示。在最近发表的一项研究（2017年3月）中，加州大学伯克利分校使用GAN和一种新的正则化方法在图形之间创建转换，结果令人惊讶。他们将这个系统称为循环对抗生成网络(CycleGAN)，并取得了一些奇妙的结果：CycleGAN能够实现出色的图形翻译。如上所示，给它喂食绘画可以生成逼真的照片。它还可以实现语义转换等功能，例如将马变成斑马，或将图片从一个季节更改为另一个季节。这种方法的关键是使用“循环一致损失”。这种损失确保网络能够实现单向转换，然后以最小的损失实现相反的转换。也就是说，网络不仅要学会对原图进行变换，还要学会反向变换。训练深度学习系统的最大挑战是缺乏标记数据。标记数据是控制深度学习模型准确性的来源。然而，这些开始使用循环的新系统正在解决缺乏监督的问题。就像拥有一台永动机，自动凭空产生一些新的标记数据变量，***反过来用更多的数据来训练自己。这种自动机制让他们可以和自己一起玩模拟游戏，“玩”多了，就可以成为这方面的专家。这一点类似于AlphaGo，它也可以通过自我训练来制定新的策略。当自动化嵌入反馈循环并能够模拟（有人称之为“想象”）许多不同的场景并自我测试这些场景的正确性时，我们就达到了超级技术爆炸的临界点。然而，我们的人类文明还远远没有准备好掌握这种井喷式高速发展带来的科技能量。因此，下次您看到一些令人难以置信的深度学习结果时，请尝试寻找算法中嵌入的奇怪循环。原文：https://www.esmadrid.com/en/whats-on/escher-gaviria-palace【本文为栏目组织大数据文摘原文翻译，微信公众号》大数据文摘（id：BigDataDigest)"]点此阅读作者更多好文
