介绍卷积(Convolution)是神经网络的核心计算之一,它在计算机视觉上的突破带动了深度学习的热潮。卷积的变体很多,计算也很复杂。计算卷积的大部分时间花在了神经网络的计算上。网络模型的发展不断增加网络的深度,因此优化卷积计算就显得尤为重要。随着技术的发展,研究人员提出了多种优化算法,包括Im2col、Winograd等。本文首先定义了卷积神经网络的概念,然后简要介绍了几种常见的优化方法,并讨论了作者在该领域的一些经验。卷积神经网络的概念卷积神经网络(CNN)的概念是从信号处理领域的卷积扩展而来的。信号处理的卷积定义为(1)由于对称图像卷积计算不易直观理解,可视化如图1所示。图中红色??滑块与乘积绘制的三角形图案移动过程中的蓝色方块为卷积结果(
