当前位置: 首页 > 科技观察

时间卷积网络:时间序列的下一次革命?

时间:2023-03-17 17:58:38 科技观察

本文回顾了几种最先进的基于TCN的解决方案。我们首先介绍运动检测的案例研究,并简要回顾TCN架构及其相对于传统方法(如卷积神经网络(CNN)和递归神经网络(RNN))的优势。然后介绍了TCN的几个新应用,包括改进的交通预测、声音事件定位和检测以及概率预测。TCN简要回顾了Lea等人的开创性工作。(2016)首先提出了一种用于基于视频的动作分割的时间卷积网络(TCN)。这个一般过程的两个步骤包括:首先,使用(通常)编码时空信息的CNN计算低级特征,其次,将这些低级特征馈送到使用(通常)捕获高级时间信息)RNN。这种方法的主要缺点是需要两个独立的模型。TCN提供了一种统一的方法来分层捕获所有两个级别的信息。编码器-解码器框架如图1所示,可以在前两个参考资料(在文章末尾)中找到有关该体系结构的更多信息。最关键的问题提供如下:一个TCN可以接受一个任意长度的序列并将其输出为相同的长度。在一维全卷积网络架构的情况下,使用因果卷积。一个关键特征是时间t的输出仅与t之前发生的元素进行卷积。随着Yan等人最近的发表,围绕TCN的话题甚至登上了期刊《自然》。(2020)用于TCN上的天气预报任务。在他们的工作中,使用TCN和LSTM进行了比较实验。他们的一个结果是,除其他方法外,TCN在使用时间序列数据的预测任务上表现良好。下一节将提供此经典TCN的实现和扩展。改善交通预测拼车和在线导航服务可以改善交通预测并改变人们的出行方式。通过更好的交通预测,可以实现减少交通拥堵、减少污染、安全快速驾驶等。由于这是一个实时数据驱动的问题,因此有必要利用即将到来的流量的累积数据。基于此,Dai等人。最近(2020)提出了一种混合时空图卷积网络(H-STGCN)。总体思路是利用分段线性流密度关系并将迎面而来的交通量转换为等效的行驶时间。他们在这项工作中使用的最有趣的方法之一是图形卷积来捕获空间依赖性。复合邻接矩阵捕捉了流近似的固有特征(更多信息参见Li,2017)。在以下架构中,提出了四个模块来描述整个预测过程。戴等。(2020)声音事件定位和检测声音事件定位和检测(SELD)领域正在发展。环境知识在自主导航中起着至关重要的作用。吉尔吉斯等人。最近(2020年)提出了一种用于声学事件SELD-TCN的新型架构。他们声称他们的框架优于当前最先进的现场培训。在他们的SELDnet(结构如下)中,通过对频谱的相位和幅度应用短时傅立叶变换来提取以44.1kHz采样的多声道录音,并将其堆叠为单独的输入特征。然后,连接卷积块和循环块(双向GRU),然后连接全连接块。SELDnet的输出是声音事件检测(SED)和到达方向(DOA)。吉尔吉斯等人。(2020)为了超越它,他们提出了SELD-TCN:Guirguis等人。(2020)由??于dilatedconvolutions使网络能够处理多种输入,更深的网络(在反向传播期间,网络会出现梯度不稳定的问题)。他们通过调整WaveNet(Darioetal.,2017)架构克服了这一挑战。他们表明SELD任务不需要循环层,并成功检测到活动声音事件的开始和结束时间。概率预测Chen等人设计的新框架。(2020)可用于估计概率密度。时间序列预测改进了许多业务决策场景(例如,资源管理)。概率预测可以从历史数据中提取信息,并最大限度地减少未来事件的不确定性。当预测任务是预测数百万个相关数据序列时(如零售业务),需要大量的劳动力和计算资源来进行参数估计。为了解决这些困难,他们提出了一个基于CNN的密度估计和预测框架。他们的框架可以学习系列之间的潜在关联。他们工作的新颖之处在于他们提出的深度TCN,如其架构所示:Chen等人。(2020)encoder-decoder模块解决方案可以方便实际的大规模应用设计。