时间序列是记录动态系统测量值的主要数据类型,由物理传感器和在线过程(虚拟传感器)大量生成。因此,时间序列分析对于揭示可用数据中隐含的信息财富至关重要。随着图神经网络(GNNs)的最新进展,基于GNN的时间序列分析方法大幅增加。这些方法可以明确地建模时序和变量间的关系,而传统的和其他基于深度神经网络的方法则难以做到。在这项调查中,我们对图神经网络在时间序列分析中的应用进行了全面回顾(GNN4TS),涵盖了四个基本维度:预测、分类、异常检测和填补。我们的目标是指导设计师和从业者了解、构建应用程序,并推进GNN4TS的研究。首先,我们提供了一个全面的面向任务的GNN4TS分类法。然后,我们介绍和讨论代表性研究成果,并介绍GNN4TS的主流应用。最后,我们全面讨论了潜在的未来研究方向。这项调查首次汇集了大量关于基于GNN的时间序列研究的知识,突出了图神经网络在时间序列分析中的基础、实际应用和机遇。
深度学习在多变量时间序列预测(MTSF)领域取得了显著进展。尽管现有的方法大多依赖于单一模态的时间序列输入进行训练,但近期基于大语言模型(LLMs)的跨模态时间序列预测方法在数据有限的情况下展示了卓越的性能。然而,现有的 LLM-based MTSF 方法通常忽略了文本和时间序列输入之间的分布差异,导致性能次优。
东北电力大学和长春理工大学研究团队开发并实现一种结合脑电图源成像(ESI)技术和卷积神经网络(CNN)的新方法,以对运动想象(MI)任务进行分类。ESI技术采用边界元法(BEM)和加权最小范数估计(WMNE)分别解决EEG的正向和逆向问题。然后在运动皮层中创建十个scout来选择感兴趣的区域(ROI)。研究者使用Morlet小波方法从scout的时间序列中提取特征。最后,使用CNN对MI任务进行分类。
本文综述了深度学习在时间序列预测中的应用,特别是在流行病预测领域。尽管深度学习在时间序列预测中表现出显著优势,但仍面临挑战,如时间序列不够长、无法利用积累的科学知识以及模型的解释性。
解决时间序列预测任务时,训练数据太少怎么办?在机器学习场景中,Domain Adaptation是一种解决数据稀疏的常用方法。其核心思路是利用数据充足的source domain样本进行充分学习,再将这些知识迁移泛化到target domain上,两个domain的数据分布往往具有比较大的差异,一般是不同场景的数据。
authors:: Hansheng Ren, Bixiong Xu, Yujing Wang, Chao Yi, Congrui Huang, Xiaoyu Kou, Tony Xing, Mao Yang, Jie Tong, Qi Zhang container:: Proceedings of the 25th ACM SIGKDD International Conference on Knowledge Discovery & Data Mining year:: 2019 DOI:: 10.1145/3292500.3330680 rating:: ⭐ share:: true comment:: 将图像领域的光谱残差分析引入到时间序列检测,通过无监督的方法进行异常检测,异常为人工添加。
这个系列文章描述了一个单一的语义数据模型来支持物联网和建筑、企业和消费者的数据转换。 这种模型必须简单可扩展, 以便能够在各行业领域之间实现插件化和互操作性。 对于一个目前从事智能硬件的老码农,觉得这些文字具有积极的参考意义。这一部分讨论通用的数据格式和应用程序编程接口(API),以及如何利用这些共同的本体。
时间序列模型的理论已经非常丰富,模型的应用也相当广泛。但现实生活中,越来越多的时间序列模型呈现出了非线性的特点,因此,研究非线性时间序列模型的理论及对其参数进行估计有着极其重要的意义。门限模型作为非线性时间序列模型的一种,与一般的时间序列模型不同的是模型中包含跳跃,即有门限,因此对模型的参数估计还需先对门限的选取讨论。
时间序列模型的理论已经非常丰富,模型的应用也相当广泛。但现实生活中,越来越多的时间序列模型呈现出了非线性的特点,因此,研究非线性时间序列模型的理论及对其参数进行估计有着极其重要的意义(点击文末“阅读原文”获取完整代码数据)。
在 时间序列数据和MongoDB中:第一部分 - 简介 我们回顾了您需要了解的关键问题,以了解数据库的查询访问模式。在 时间序列数据和MongoDB:第二部分 - 模式设计最佳实践中, 我们探讨了时间序列数据的各种模式设计选项以及它们如何影响MongoDB资源。在这篇博文中,我们将介绍如何查询,分析和呈现MongoDB中存储的时间序列数据。了解客户端如何连接以查询数据库将有助于指导您设计数据模型和最佳数据库配置。查询MongoDB有多种方法。您可以使用本机工具(如 MongoDB Shell 命令行)和 MongoDB Compass(基于GUI的查询工具)。通过一系列以编程方式访问MongoDB数据 MongoDB驱动程序。几乎所有主要的编程语言都有驱动程序,包括C#,Java,NodeJS,Go,R,Python,Ruby等等。
CT技术伴随着一定剂量的辐射,会对患者的身体健康造成影响,而且 高剂量的辐射会损害人体的遗传物质,甚至造成不可逆的损伤,进而诱发癌症。 因此,如何在保证成像质量的前提下尽可能地降低 CT 辐射剂量一直是科学家们 研究的热点目标之一。此外,传统的CT扫描技术只能显示患者体内病灶的形态, 无法显示目标结构的化学成分信息。由于不同化学组分的生物组织经过 X 射线扫描后可能会具有相近甚至相同的衰减系数,从而导致成像不准确进而造成误诊。
选自towardsdatascience 作者:Bryan Tan 机器之心编译 编辑:魔王、陈萍 本文介绍了 TCN 在股市趋势预测任务中的应用,表明在集成新闻事件和知识图谱后,TCN 的性能大幅超过 RNN。 本文主要介绍了以下几部分内容: 1. 金融时间序列(FTS)中的深度学习背景介绍; 2. 值得关注的 FTS 数据处理实践; 3. 时间卷积网络(TCN); 4. 时间卷积网络在 FTS 中的应用实例; 5. 基于 TCN 的知识驱动股市趋势预测与解释。 1. 背景介绍 金融时间序列(FTS)建
ATFNet是一个深度学习模型,它结合了时间域和频域模块来捕获时间序列数据中的依赖关系。引入了一种新的加权机制来调整周期性的权重,增强了离散傅立叶变换,并包括一个复杂关系识别的注意力机制,在长期时间序列预测中优于当前方法(每个模型都这么说)。这是4月发布在arxiv上的论文,还包含了源代码。
加工速度是理解认知的重要概念。本研究旨在控制任务特异性,以了解认知加工速度背后的神经机制。对40名被试执行两种方式(听觉和视觉)和两种水平的任务规则(相容和不相容)的注意任务。block设计的功能磁共振成像在任务过程中捕捉到了BOLD信号。参考公开的用于处理速度的任务激活图,定义了13个感兴趣区域。认知速度是从任务反应时间得出的,这产生了六组连接性测量。混合效应LASSO回归显示,有六条重要路径提示了小脑-额叶网络预测认知速度。其中,3例为长程(2例额叶-小脑,1例小脑-额叶),3例短程(额叶-额叶、小脑-小脑和小脑-丘脑)。长距离的连接可能与认知控制有关,而短距离的连接可能与基于规则的刺激-反应过程有关。揭示的神经网络表明,按照任务规则执行操作,自动性与自上而下努力控制注意力相互作用,解释了认知速度。 1 简述 本研究旨在通过使用一系列简单的视觉和听觉通道的刺激-反应(S-R)映射任务来解决可能的任务相关偏差。这个多任务设计目的是解决上面提到的特定于形态和功能偏向的。箭头任务最初是一种视觉S-R兼容性任务,为了更好地控制所需的感觉运动处理时间,回答涉及到关于所看到或听到的内容的简单反应,箭头任务后来被改编成视觉和听觉形式(图1)。为了减少任务转换效应和交叉试验的不确定性,我们采用了分组设计,而不是与事件相关的设计。此外,我们的目标是解决以前的研究中的方法论缺陷,这些研究利用皮尔逊的相关性和心理生理学相互作用(PPI)来建立基于连接性的模型来预测加工速度。在这项研究中,我们建立了六个连通性指标,包括四个基于多变量的指数,用于进行模型比较。通过将控制任务的反应时与控制感觉运动成分的实验任务的反应时进行回归,构造了一个认知速度变量。功能关联性模型的建立基于混合效应套索回归。据我们所知,本文在该领域首次采用跨通道多任务设计,并比较了6种方法对区域间交互作用辅助处理速度的建模结果。 2 方法 2.1 被试 从当地社区招募了40名年龄在18-28岁的健康年轻人参与研究。他们都有高中或以上学历。最终样本包括35名参与者(21.5±2.1岁,14名女性),其中5名参与者被排除在分析之外。 2.2 处理速度任务 箭头任务被用来测量加工速度。它包括一个双选择S-R映射任务,具有相容(COM)、不相容(INC)和简单RT控制条件(NEU)(图1)。在COM中,参与者在出现向上箭头时按下“向上”按钮,在出现向下箭头时按下“向下”按钮(图1)。在INC中,参与者按下“向上”键表示向下箭头,按“向下”键表示向上箭头。实验涉及参与者在观看一条没有箭头的垂直线时按下任何按钮。因为在这些条件下出现的刺激是视觉图像,所以它们被称为COMVIS、INC-VIS和NEU-VIS。相同条件的听觉版本是COM-AUD、INC-AUD和NEU-AUD,向上箭头、向下箭头和垂直线分别被高音、低音和中音代替。
尽管卷积神经网络(CNNs)通常与图像分类任务相关,但经过适当的修改,它已被证明是进行序列建模和预测的有价值的工具。在本文中,我们将详细探讨时域卷积网络(TCN)所包含的基本构建块,以及它们如何结合在一起创建一个强大的预测模型。使用我们的开源Darts TCN实现,我们展示了只用几行代码就可以在真实数据集上实现准确预测。
时间序列预测可以使用经典预测方法和深度学习方法。经典预测方法如ETS、ARIMA等为每个时间序列独立地拟合模型,而深度学习方法在给定的数据集中学习时间序列。
时间序列异常检测是一项重要的任务,其目标是从时间序列的正常样本分布中识别异常样本。这一任务的最基本挑战在于学习一个能有效识别异常的表示映射。
TCN全称Temporal Convolutional Network,时序卷积网络,是在2018年提出的一个卷积模型,但是可以用来处理时间序列。
金融市场的时间序列数据是出了名的杂乱,并且很难处理。这也是为什么人们都对金融数学领域如此有趣的部分原因!
这个系列文章描述了一个单一的语义数据模型来支持物联网和建筑、企业和消费者的数据转换。 这种模型必须简单可扩展, 以便能够在各行业领域之间实现插件化和互操作性。 对于一个目前从事智能硬件的老码农,觉得这些文字具有积极的参考意义。本节讨论业务和设备本体论的交叉点, 以及两者的元素如何能够提高可伸缩性。
时序数据库(Time Series Database)是用于存储和管理时间序列数据的专业化数据库。时序数据库特别适用于物联网设备监控和互联网业务监控场景。
技术总言: 这次主要说最近发展的无监督特征学习和深入学习,其对于时间序列模型问题的评价。这些技术已经展现了希望对于建模静态数据,如计算机视觉,把它们应用到时间序列数据正在获得越来越多的关注。这次主要概述了时间序列数据存在的特殊挑战,并提供了工作的评价,其含有把时间序列应用到非监督特征学习算法或者是有选择的促成特征学习算法的变动去考虑目前时间序列数据的挑战。 ---- 当人们大脑在学习任务的时候,如语言、视觉和运动,时间是一种自然元素总是存在的。大多数真实世界的数据有一些时间成份,无论是自然过程的测量值(如
在深度学习的知识宝库中,除了前面文章中介绍的RNN,还有一个重要的分支:卷积神经网络(CNN),其广泛应用于视觉,视频等二维或者多维的图像领域。卷积网络具有深度,可并行等多种特性,这种技术是否可以应用于解单维度的时间序列问题呢?本文介绍一种最近提出的新技术:时间卷积神经网络 (Temporal Convolutional Network,TCN),由Lea等人于2016年首次提出,起初应用于视频里动作的分割,后逐渐拓展到了一般性时序领域。
特征提取在提高分类的准确性中起着非常关键的作用. 对时序特征提取的方法进行归纳分类, 将有利于对特征提取整体性, 全面性的认识. 回顾现有的时间序列中特征提取的方法, 将其总结为四大类, 它们分别是基于基本统计方法的特征提取、基于模型的特征提取、基于变换的特征提取、基于分形维数的特征提取。
该文介绍了利用Nilearn库计算脑功能连接的代码,以及基于该代码的群体分析。首先介绍了利用fMRIPrep预处理脑功能磁共振图像的方法,然后利用fMRIPrep预处理脑功能磁共振图像,接着基于预处理后的图像,利用nilearn的connectome功能包计算脑功能连接。最后,该文介绍了基于稀疏逆协方差矩阵的群体分析方法,该方法可以提取不同被试的稀疏逆协方差矩阵的结构,以用于群体分析。
动态时间扭曲算法何时、如何以及为什么可以有力地取代常见的欧几里得距离,以更好地对时间序列数据进行分类
本文回顾了 Shaojie Bai、J. Zico Kolter 和 Vladlen Koltun 撰写的论文:An Empirical Evaluation of Generic Convolutional and Recurrent Networks for Sequence Modeling。
虽然功能性磁共振成像(fMRI)研究主要集中在灰质上,但最近的研究一致发现,血氧水平依赖(BOLD)信号可以在白质中可靠地检测到,功能连接(FC)已被组织成白质中的分布式网络。然而,尚不清楚这种白质FC是否反映了潜在的电生理同步。为了解决这个问题,我们使用了16例耐药癫痫患者的颅内立体脑电图(SEEG)和静息状态功能磁共振成像(fMRI)数据。我们发现BOLD FC与SEEG FC在白质中相关,并且这一结果在每个参与者的广泛频段范围内是一致的。通过纳入扩散谱成像数据,我们还发现SEEG和fMRI的白质FC与白质结构连通性相关,表明解剖纤维束是白质功能同步的基础。这些结果为白质BOLD FC的电生理和结构基础提供了证据,它可能是精神和神经疾病的潜在生物标志物。
本文综述了时间序列数据中的通用表示学习方法,提出了一种新颖的分类方法,并讨论了其对提高学习表示质量的影响。文章全面回顾了各种神经网络架构、学习目标和数据相关技术,并总结了常用的实验设置和数据集。
时间序列分析中的时间序列分类(TSC)是关键任务之一,具有广泛的应用,如人体活动识别和系统监测等。近年来,深度学习在TSC领域逐渐受到关注,具有自动从原始时间序列数据中学习并抽取有意义特征的能力。
【视频】Copula算法原理和R语言股市收益率相依性可视化分析 R语言时间序列GARCH模型分析股市波动率 【视频】量化交易陷阱和R语言改进股票配对交易策略分析中国股市投资组合 使用R语言对S&P500股票指数进行ARIMA + GARCH交易策略 R语言量化交易RSI策略:使用支持向量机SVM R语言资产配置: 季度战术资产配置策略研究 R语言动量交易策略分析调整后的数据 TMA三均线股票期货高频交易策略的R语言实现 R语言时间序列:ARIMA / GARCH模型的交易策略在外汇市场预测应用 R语言基于Garch波动率预测的区制转移交易策略 r语言多均线股票价格量化策略回测 使用R语言对S&P500股票指数进行ARIMA + GARCH交易策略 Python基于粒子群优化的投资组合优化研究 R语言Fama-French三因子模型实际应用:优化投资组合 R语言动量和马科维茨Markowitz投资组合(Portfolio)模型实现 Python计算股票投资组合的风险价值(VaR) R语言Markowitz马克维茨投资组合理论分析和可视化 R语言中的广义线性模型(GLM)和广义相加模型(GAM):多元(平滑)回归分PYTHON用RNN神经网络LSTM优化EMD经验模态分解交易策略分析股票价格MACD R语言深度学习:用keras神经网络回归模型预测时间序列数据 【视频】CNN(卷积神经网络)模型以及R语言实现回归数据分析 Python TensorFlow循环神经网络RNN-LSTM神经网络预测股票市场价格时间序列和MSE评估准确性 数据分享|PYTHON用KERAS的LSTM神经网络进行时间序列预测天然气价格例子 Python对商店数据进行lstm和xgboost销售量时间序列建模预测分析 Matlab用深度学习长短期记忆(LSTM)神经网络对文本数据进行分类 RNN循环神经网络 、LSTM长短期记忆网络实现时间序列长期利率预测 结合新冠疫情COVID-19股票价格预测:ARIMA,KNN和神经网络时间序列分析 深度学习:Keras使用神经网络进行简单文本分类分析新闻组数据 用PyTorch机器学习神经网络分类预测银行客户流失模型 PYTHON用LSTM长短期记忆神经网络的参数优化方法预测时间序列洗发水销售数据 Python用Keras神经网络序列模型回归拟合预测、准确度检查和结果可视化 Python用LSTM长短期记忆神经网络对不稳定降雨量时间序列进行预测分析 R语言中的神经网络预测时间序列:多层感知器(MLP)和极限学习机(ELM)数据分析报告 R语言深度学习:用keras神经网络回归模型预测时间序列数据 Matlab用深度学习长短期记忆(LSTM)神经网络对文本数据进行分类 R语言KERAS深度学习CNN卷积神经网络分类识别手写数字图像数据(MNIST) MATLAB中用BP神经网络预测人体脂肪百分比数据 Python中用PyTorch机器学习神经网络分类预测银行客户流失模型 R语言实现CNN(卷积神经网络)模型进行回归数据分析 SAS使用鸢尾花(iris)数据集训练人工神经网络(ANN)模型 【视频】R语言实现CNN(卷积神经网络)模型进行回归数据分析 Python使用神经网络进行简单文本分类 R语言用神经网络改进Nelson-Siegel模型拟合收益率曲线分析 R语言基于递归神经网络RNN的温度时间序列预测 R语言神经网络模型预测车辆数量时间序列 R语言中的BP神经网络模型分析学生成绩 matlab使用长短期记忆(LSTM)神经网络对序列数据进行分类 R语言实现拟合神经网络预测和结果可视化 用R语言实现神经网络预测股票实例 使用PYTHON中KERAS的LSTM递归神经网络进行时间序列预测 python用于NLP的seq2seq模型实例:用Keras实现神经网络机器翻译 用于NLP的Python:使用Keras的多标签文本LSTM神经网络分类
静息状态功能连接在整个神经科学中被用于研究大脑组织和产生发育、疾病和认知的生物标志物。然而,人们对引起相关活动的过程知之甚少。在这里,我们使用一个时间展开过程来分解静止状态的功能连接,以评估时刻到时刻的活动共振荡对整体连接模式的贡献。
人脑是一个大规模的网络,其功能依赖于空间分布区域之间的动态相互作用。在快速发展的网络神经科学领域,有两个尚未解决但有望取得突破的挑战。首先,应该使用非侵入性和易于使用的神经成像技术来识别功能性脑网络。其次,这些技术的时间-空间分辨率应足以评估所识别网络的动态特性。现有证据表明,只要对头皮EEG信号进行适当处理,EEG源连通性方法可以解决这两个问题。因此,该技术的性能很大程度上依赖于不同方法的信号处理,如预处理方法、逆向求解、信号间的统计耦合以及网络科学。
股票市场波动性模型一直是金融领域研究的热点之一。传统的波动性模型往往只考虑了静态条件下的波动性和相关性,难以准确捕捉市场的复杂性和多样性。
时间序列是按时间排序的一系列观察或测量。在谈论时间序列时,首先想到通常是股票价格。其实时间序列无处不在,一个地理位置的年降雨量、超市产品的日销售额、工厂的月耗电量、化学过程的每小时测量值都是时间序列的例子。
无人驾驶汽车最早可以追溯到1989年。神经网络已经存在很长时间了,那么近年来引发人工智能和深度学习热潮的原因是什么呢?(点击文末“阅读原文”获取完整代码数据)
该相关系数是由卡尔·皮尔逊在前人的研究基础上所提出的相关统计量,可以用来度量两个变量之间的简单线性关系。它的计算公式如下:
用于R语言的多层感知器(MLP)和极限学习机(ELM)进行时间序列预测。请注意,由于神经网络无法利用GPU处理,因此大型网络的训练速度往往很慢。与现有神经网络实现的不同之处在于,R可以自动设计具有合理预测性能的网络。这增加了神经网络的鲁棒性,但也有助于减少训练时间。
在过去的几个月中,时间序列基础模型的发展速度一直在加快,每个月都能看到新模型的发布。从TimeGPT 开始,我们看到了 Lag-Llama 的发布,Google 发布了 TimesFM,Amazon 发布了 Chronos,Salesforce 发布了 Moirai。TimesFM是信息最多的模型,而Lag-Llama、Chronos我们都做过详细的介绍。今天我们来详细介绍一下Moirai,这里可能最不知名(相对)就是Salesforce了,所以基本没有介绍 Moirai的文章,我们就来补足这个信息。
对于此示例,我将对R中的时间序列进行建模。我将最后24个观察值保留为测试集,并将使用其余的观察值来拟合神经网络。当前有两种类型的神经网络可用,多层感知器;和极限学习机。
时间序列预测的主流模型结构一直以来被RNN、CNN、Transformer三大模型主体主导。而Nbeats的出现,让纯全连接的模型结构在时间序列预测问题上也能取得非常好的效果。这篇文章梳理了Nbeats系列工作,从最基础的Nbeats版本,到可以引入外部变量的Nbeats版本,再到能够处理时空预测的Nbeats版本。
导读: “用进废退”,这句俗语可能概括了人类大脑运动系统的运作机制。基于使用驱动的神经可塑性对于发育、学习以及损伤恢复等的相关神经环路的塑造具有至关重要的作用。不久前发表在神经科学领域权威杂志《神经元》Neuron上的一项研究指出,在成年人大脑中存在着废用驱使的神经可塑性现象,本文即对该研究进行解读。
对时间序列的分析涉及生产生活中的方方面面,像监控告警、股票分析、营销预测等等,很多场景中,我们都有及时掌握海量时序数据中特征,快速决策的需求。传统的统计分析方法能展示时序上宏观的数理信息,然而其趋势的变化(或者说是曲线的走势)才更能说明一些问题,挖掘更多重要直观的价值出来。
本示例说明如何使用长短期记忆(LSTM)网络对序列数据进行分类 。 最近我们被客户要求撰写关于LSTM的研究报告,包括一些图形和统计输出。
表示学习是机器学习中的一个重要研究方向,在NLP、CV领域有很多经典的表示学习工作。大多数表示学习利用无监督学习的方法,结合合适的正负样本pair构造、损失函数,学习便于让机器学习模型理解的样本表示。近期,表示学习也逐渐应用到了时间序列领域。今天给大家介绍一篇时间序列表示学习的前沿工作,是由北京大学和微软联合署名的一篇AAAI 2022工作TS2Vec。
时间序列预测在生产生活中有非常多的应用,近几年来研究者们主要关注在RNN、CNN、Transformer三大模型在时序预测上的应用。最近,来自加拿大创业公司 Element AI 的几位研究者提出了Nbeats模型,重新审视了传统模型在时序预测上的作用。他们发现纯全连接的模型结构在时间序列预测问题上也能取得非常好的效果。
该模型假定一个变量的未来的值线性地取决于其过去的值,以及过去(随机)影响的值。ARIMAX模型是ARIMA模型的一个扩展版本。它还包括其他独立(预测)变量。该模型也被称为向量ARIMA或动态回归模型。
顾名思义,时间序列就是按照时间顺利排列的一组数据序列。时间序列分析就是发现这组数据的变动规律并用于预测的统计技术。该技术有以下三个基本特点:
领取专属 10元无门槛券
手把手带您无忧上云