Richado's Blog

论文信息 **论文：**Learnable Dynamic Temporal Pooling for Time Series Classification 作者： Introduction 随着可用时间序列数据的增加，预测它们的类别标签已成为广泛学科中最重要的挑战之一。最近关于时间序列分类的研究表明，卷积神经网络(CNN)作为单一分类器实现了最先进的性能。本文指出现有CNN分类器通常采用的全局池化层丢弃了高层特征的时间信息，提出了一种动态时间池(DTP)技术，通过分段聚合特征，减少了隐层表示的时间长度。为了将整个系列划分为多个片段，本文使用动态时间规整(DTW)将每个时间点按照时间顺序与片段的原型特征对齐，这可以同时与CNN分类器的网络参数进行优化。结合DTP层和全连接层，考虑到它们在输入时间序列中的时间位置，有助于进一步提取区分性特征。在单变量和多变量时间序列数据集上的大量实验表明，本文提出的池化方法显著提高了分类性能。 Motivation CNN等方法不能有效利用高级特征的时序信息，CNN分类器往往采用全局平均池化(GAP)或全局最大池化(GMP)，简单地沿时间轴聚 ...

论文信息 **论文：**Recurrent Neural Networks for Multivariate Time Series with Missing Values **期刊：**Scientific reports 2018 **作者：**Zhengping Che, Sanjay Purushotham, Kyunghyun Cho, David Sontag, Yan Liu University of Southern California, Department of Computer Science, Los Angeles, CA, 90089, USA. New York University, Department of Computer Science, New York, NY, 10012, USA. Massachusetts Institute of Technology, Department of Electrical Engineering and Computer Science, Cambridge, MA, 02139, USA. ...

Introduction 道路网络是城市交通的核心组成部分，在各种交通相关系统和应用中有着广泛的应用。由于其重要作用，开发通用的、有效的、鲁棒的路网表示模型是十分必要的。尽管在这个方向上已经做了很多努力，但它们还不能完全掌握道路网络的复杂特性。 在本文中，我们提出了一种新的分层的道路网络表示模型，命名为hrnr，通过构建一个分别对应于功能区、结构区域和路段的三级神经网络体系结构。为了将这三种节点关联起来，我们引入了两个由概率分布组成的矩阵，用于建模区域到区域的分配或区域到区域的分配。基于这两个分配矩阵，我们精心设计了两个基于网络结构和人体运动模式的重构任务。通过这种方式，我们的nodepresentations能够捕获结构和功能特征。最后，我们设计了一个三层层次的更新机制来学习整个网络的节点嵌入。在三个真实数据集上进行的四项任务的实验结果表明了该模型的有效性 Motivation 道路网络是一个相当复杂的系统，设计有效的表示学习方法并不容易。包含以下3个问题（节点的区别对待、远程依赖、节点的功能信息） 一些交通单元更重要，通过道路网络承担更重要的运输任务。而以往的研究通常采用 ...

论文信息 论文：Multi-Horizon TimeSeries Forecasting with Temporal Attention Learning 会议：KDD 2019 作者： Introduction 时间序列预测问题是研究如何在历史观测的基础上准确地预测未来。提高预测精度有利于提高社会各方面的运行效率 摘要 本文提出了一种新颖的数据驱动方法来解决多水平概率预测任务，该任务可预测未来时间范围内时间序列的完整分布。本文说明，历史信息中隐藏的时间模式在长时间序列的准确预测中起着重要作用。传统的方法依赖于人工建立时间依赖关系来探索历史数据的相关模式，这在现实世界数据的长期序列预测中是不现实的。相反，本文提出显示地学习用深层神经网络构建隐藏模式表征，并关注历史的不同部分来预测未来。 本文提出了一个用于多水平时间序列预测的端到端深度学习的框架，通过时间注意机制，以更好地捕捉历史数据中的潜在模式。基于学习到的潜在模式特征，可以同时生成多个未来水平的多分位数的预测。本文还提出了一种多模式融合机制，该机制用于组合历史不同部分的特征以更好地预测未来。实验结果表明，本文的方法在两个不 ...

论文信息 论文：Adaptive Graph Convolutional Recurrent Network for Traffic Forecasting 会议：NIPS 2020 作者： Introduction 摘要 在相关的时间序列数据中对复杂的空间和时间相关性进行建模对于理解交通动态并预测不断发展的交通系统的未来状态是必不可少的。 最近的工作专注于设计复杂的图神经网络，以借助预定义的图捕获共享模式。在本文中，作者认为，学习节点特定的模式对流量预测至关重要，同时可避免使用预定义的图 为此，本文提出了两个具有新功能的自适应模块来增强图卷积网络(GCN): 1)一个节点自适应参数学习(NAPL)模块来捕获节点特定模式;2)数据自适应图生成(DAGG)模块，自动推导出不同交通序列之间的依赖关系。 我们进一步提出了一种自适应图卷积递推网络(AGCRN)，以自动捕获流量序列中细粒度的空间和时间相关性。我们在两个真实世界流量数据集上的实验表明，在没有预先定义空间连接图的情况下，AGCRN的表现明显优于最先进的技术 Motivation 特定模式 事实上，交通序列呈现出多种多样 ...

论文信息 题目: Connecting the Dots: Multivariate Time Series Forecasting with Graph Neural Networks 会议: KDD 2020 作者: Introduction 摘要 多元时间序列建模一直是一个热门主题，吸引了来自不同领域的研究人员，包括经济、金融和交通。多元时间序列预测背后的一个基本假设是，其变量相互依赖，但仔细观察，可以说现有方法无法完全利用变量对之间的潜在空间依赖性。同时，近年来，图神经网络（GNN）在处理关系依赖方面表现出了很高的能力。GNN需要用于信息传播的定义明确的图结构，这意味着它们无法直接应用于事先不知道相关性的多元时间序列。在本文中，我们提出了一个专门为多元时间序列数据设计的通用图神经网络框架。我们的方法通过图形学习模块自动提取变量之间的单向关系，可以轻松地将诸如变量属性之类的外部知识整合到其中。进一步提出了一种新颖的混合跳跃传播层和一个扩张的起始层来捕获时间序列内的空间和时间依赖性。在端到端框架中共同学习图学习，图卷积和时间卷积模块。实验结果表明，我们提出的模型在4个基准 ...

论文信息 论文：Disentangling and Unifying Graph Convolutionsfor Skeleton-Based Action Recognition(分解和统一图卷积用于基于骨骼的动作识别) **会议：**CVPR 2020 作者： Introduction 使用时空图的基于骨架的动作识别算法 时空图被基于骨架的动作识别算法广泛地用于建模人的动作动力学，为了从这些图中捕获强大的运动模式，远距和多尺度上下文聚合和时空依赖建模是功能强大的特征提取器的关键方面。 现有方法局限，难以实现的方面： 在多尺度操作下的无偏的远距关节的关系建模 无阻碍的跨时空信息流，捕获复杂的时空不连续 Motivation 早期工作： 早期基于骨架的动作识别方法将人类关节视为一组独立的特征，它们通过手工制作的或学习的这些特征的聚合来建模空间和时间的关节相关性。这些方法忽略了人体关节之间的内在关系，而以关节为节点、以其自然连通性(即骨头)为边的人体骨骼图最能捕捉关节之间的内在关系。因此，最近的方法（图方法）用骨架时空图来模拟一个动作的关节运动模式，骨架时空图是在不同时间步间 ...

Introduction 下采样和上采样 ​ 卷积神经网络可以很自然地对图像进行操作，但在处理图形数据时却面临着巨大的挑战 。像U-Net这样的编码器-解码器体系结构已成功应用于许多图像像素级的预测任务，但对于图形数据却缺乏类似的方法。这是由于图神经网络在图数据上难以自然地进行池化和上采样。 1. gpool层根据节点在可训练投影向量上的标量投影值，自适应地选择节点形成较小的图。 2. gUnpool根据在相应的gPool层中选择的节点位置信息，gUnpool层将图恢复到其原始结构。 3. 使用gpool和gUnpool构造U-Net U-Net Relate GCN（kipf） Xl+1=σ(D^−1/2A^D^−1/2XlWl)X_{l+1} = \sigma(\hat{D}^{-1/2}\hat{A}\hat{D}^{-1/2}X_{l}W_{l}) Xl+1​=σ(D^−1/2A^D^−1/2Xl​Wl​) 论文链接 GraphSAGE 采样固定数量的相邻节点 ,使用聚合器进行节点特征的更新 论文链接 GAT 使用注意力机制计算某个节点邻居的权 ...

Note 标签 默认 123{% note default %}note default{% endnote %} note default primary 123{% note primary %}首要类型形式{% endnote %} note primary info 123{% note info %}note info{% endnote %} note info success 123{% note success %}note success{% endnote %} note success warning 123{% note warning %}note warning{% endnote %} note warning danger 123{% note danger %}note danger{% e ...

Welcome to Hexo! This is your very first post. Check documentation for more info. If you get any problems when using Hexo, you can find the answer in troubleshooting or you can ask me on GitHub. Quick Start Create a new post 1$ hexo new "My New Post" More info: Writing Run server 1$ hexo server More info: Server Generate static files 1$ hexo generate More info: Generating Deploy to remote sites 1$ hexo deploy More info: Deployment class = default class = primary 123print('he ...