본문 바로가기

Long short term memory

LSTM-based Encoder-Decoder for Multi-sensor Anomaly Detection(EncDec-AD)
Time Series Analaysis/Time Series Anomaly Detection 2024. 1. 29. LSTM-based Encoder-Decoder for Multi-sensor Anomaly Detection(EncDec-AD) 본 글은 다변량 시계열 데이터 이상치 기반 모델인 LSTM-based Encoder-Decoder(EncDec)에 대해 논문 [LSTM-based Encoder-Decoder for Multi-sensor Anomaly Detection(EncDec-AD)(2016)]을 바탕으로 작성하였습니다. Long Short Term Memory Networks based Encoder-Decoder for Anomaly Detection(EncDec-AD)는 정상 시계열 데이터 재건축(reconstruct)을 목적으로 학습하며 reconstruct error를 기반으로 이상치(anomaly)를 탐지하는 모델입니다. ▶ Main Idea of EncDec-AD LSTM based encoder: 시계열 데이터의 입..
Long Short Term Memory(LSTM)
Time Series Analaysis/Time Series Analysis 2024. 1. 22. Long Short Term Memory(LSTM) 본 글에서는 Long Short Term Memory(LSTM)에 대해 살펴보도록 하겠습니다. 이전글에서 살펴보았던 Recurrent Neural Network(RNN)은 파라미터(parameter)가 업데이트 되는 과정에서 기울기가 1보다 작은 값이 계속 곱해짐으로써 기울기가 사라지는 기울기 소멸 문제( vanishing gradient problem)가 존재합니다. 이에 대한 해결방안으로 LSTM은 은닉층의 각 노드(혹은 뉴런)에 망각 게이트(forget gate), 입력 게이트(input gate), 출력 게이트(output gate)라는 새로운 요소를 추가하였습니다. ※ 그림 참고자료: Understading LSTM networks ▶ LSTM의 key point망각 게이트(forget gate..

티스토리툴바