基于GAN的多变量时间序列污染训练集异常检测

2024-04-11 13:20

本文主要是介绍基于GAN的多变量时间序列污染训练集异常检测,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

图片

论文地址:https://ieeexplore.ieee.org/document/9618824

论文源码:https://github.com/sxxmason/FGANomaly

期刊:IEEE Transactions on Knowledge and Data Engineering

图片

图片

图片

多元时间序列异常检测在结构健康监测、智能运维、量化交易等诸多实际应用中具有巨大的应用潜力。极端不平衡的训练集和噪声干扰使得准确捕获正态数据的分布并检测异常具有挑战性。近年来,人们提出了数十种基于自动编码器(AE)和生成对抗网络(GAN)的方法来学习正常数据的潜在表示,然后基于重建误差检测异常。

然而,现有的基于人工神经网络的方法缺乏针对异常检测任务设计的有效正则化方法,容易过拟合,而基于GAN的方法大多是在无污染的训练集假设下进行训练,这意味着训练集全部由正常样本组成,在实践中很难满足这一要求。

为了解决这些问题,本文提出了一种基于GAN的多变量时间序列异常检测方法FGANomaly(字母F代表Filter)。其核心思想是在训练鉴别器之前用伪标签过滤可能的异常样本,从而尽可能精确地捕获正态数据的分布。此外,我们为生成器设计了一个新的训练目标,使生成器更专注于合理的正常数据而忽略异常。

我们在四个公共数据集上进行了全面的实验,实验结果表明我们的方法在性能和鲁棒性方面都优于基线。

图片

图片

这个框架呈现的是一个三部分的模型,包括生成器、过滤器和鉴别器:

生成器(Generator):生成器由两个主要部分组成:编码器和解码器。输入数据首先被编码器转化成低维编码,然后解码器将这个编码重构回原始数据空间。这个过程生成了重构的样本,并能够计算输入样本和重构样本之间的重构误差。

过滤器(Filter):过滤器接收原始输入和重构误差,它的任务是筛选可能的正常样本。这意味着它可以识别那些与重构样本差异较小的输入样本,将它们作为正常数据。这个过程中筛选出来的样本会被认为是干净的样本,并将被用于训练鉴别器。

鉴别器(Discriminator):鉴别器的工作是区分真实的输入样本和生成器产生的样本。在这个上下文中,‘真实’样本可能指的是过滤器筛选过的样本。鉴别器通过接受这些经过过滤的输入(即过滤后的干净样本)来进行训练,目的是学会辨别出真正的异常样本。

图片

图片

图片

图片

图片

本文提出了一种基于GAN的多元时间序列异常检测方法。针对传统的基于AE和基于GAN的异常检测方法存在的过拟合问题,我们提出了Filter GAN,在训练鉴别器之前对可能的异常样本进行筛选,使模型能够准确地捕捉到正态数据的分布,并为生成器设计了一个特殊的目标Adaptive Weight Loss,在训练过程中根据不同点的重构误差动态分配权重。为了评估所提出的方法,我们在四个公共数据集上进行了综合实验,实验结果表明,我们的模型在性能和鲁棒性方面都具有优势。为了对模型有一些深入的了解,我们做了一个案例研究来可视化结果,结果表明我们的模型学习了正态分布和异常分布之间的清晰边界,从而能够很好地检测异常。此外,还有一些需要改进的地方,如多元时间序列中不同维度之间的信息融合,这是未来工作的重要研究方向。

论文下载地址:

链接:https://pan.baidu.com/s/19vw0ZoVirnGEFcDSdv1Nqw 
提取码:1msi 
--来自百度网盘超级会员V6的分享

这篇关于基于GAN的多变量时间序列污染训练集异常检测的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/894189

相关文章

Java.lang.InterruptedException被中止异常的原因及解决方案

《Java.lang.InterruptedException被中止异常的原因及解决方案》Java.lang.InterruptedException是线程被中断时抛出的异常,用于协作停止执行,常见于... 目录报错问题报错原因解决方法Java.lang.InterruptedException 是 Jav

Java获取当前时间String类型和Date类型方式

《Java获取当前时间String类型和Date类型方式》:本文主要介绍Java获取当前时间String类型和Date类型方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,... 目录Java获取当前时间String和Date类型String类型和Date类型输出结果总结Java获取

Python实现批量提取BLF文件时间戳

《Python实现批量提取BLF文件时间戳》BLF(BinaryLoggingFormat)作为Vector公司推出的CAN总线数据记录格式,被广泛用于存储车辆通信数据,本文将使用Python轻松提取... 目录一、为什么需要批量处理 BLF 文件二、核心代码解析:从文件遍历到数据导出1. 环境准备与依赖库

Spring Boot 中的默认异常处理机制及执行流程

《SpringBoot中的默认异常处理机制及执行流程》SpringBoot内置BasicErrorController,自动处理异常并生成HTML/JSON响应,支持自定义错误路径、配置及扩展,如... 目录Spring Boot 异常处理机制详解默认错误页面功能自动异常转换机制错误属性配置选项默认错误处理

SpringBoot 异常处理/自定义格式校验的问题实例详解

《SpringBoot异常处理/自定义格式校验的问题实例详解》文章探讨SpringBoot中自定义注解校验问题,区分参数级与类级约束触发的异常类型,建议通过@RestControllerAdvice... 目录1. 问题简要描述2. 异常触发1) 参数级别约束2) 类级别约束3. 异常处理1) 字段级别约束

Spring的RedisTemplate的json反序列泛型丢失问题解决

《Spring的RedisTemplate的json反序列泛型丢失问题解决》本文主要介绍了SpringRedisTemplate中使用JSON序列化时泛型信息丢失的问题及其提出三种解决方案,可以根据性... 目录背景解决方案方案一方案二方案三总结背景在使用RedisTemplate操作redis时我们针对

Spring Boot中的路径变量示例详解

《SpringBoot中的路径变量示例详解》SpringBoot中PathVariable通过@PathVariable注解实现URL参数与方法参数绑定,支持多参数接收、类型转换、可选参数、默认值及... 目录一. 基本用法与参数映射1.路径定义2.参数绑定&nhttp://www.chinasem.cnbs

Linux系统性能检测命令详解

《Linux系统性能检测命令详解》本文介绍了Linux系统常用的监控命令(如top、vmstat、iostat、htop等)及其参数功能,涵盖进程状态、内存使用、磁盘I/O、系统负载等多维度资源监控,... 目录toppsuptimevmstatIOStatiotopslabtophtopdstatnmon

c++ 类成员变量默认初始值的实现

《c++类成员变量默认初始值的实现》本文主要介绍了c++类成员变量默认初始值,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧... 目录C++类成员变量初始化c++类的变量的初始化在C++中,如果使用类成员变量时未给定其初始值,那么它将被

go中的时间处理过程

《go中的时间处理过程》:本文主要介绍go中的时间处理过程,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录1 获取当前时间2 获取当前时间戳3 获取当前时间的字符串格式4 相互转化4.1 时间戳转时间字符串 (int64 > string)4.2 时间字符串转时间