AI/Deep Learning
2022. 3. 17.
[DL] Exploding & Vanishing Gradient 문제와 Residual Connection
Residual connection은 대표적으로 컴퓨터 비전 분야에서의 ResNet 모델과 자연어 처리 분야에서의 transformer 모델에서 더 좋은 성능을 내기 위해 사용되었다. 간단히 말하자면, residual connection은 아주 deep한 신경망에서 하위 층에서 학습된 정보가 데이터 처리 과정에서 손실되는 것을 방지하기 위한 방법이다. '정보 소실'이란 무엇인지, 그리고 왜 일어나는지 이해하기 위해서는 신경망을 학습하는데 있어 고질적인 문제인 exploding gradient problem과 vanishing gradient problem에 대해 먼저 알아볼 필요가 있다. Exploding gradient & Vanishing gradient problems 층이 많은 신경망에서 grad..
![[DL] Exploding & Vanishing Gradient 문제와 Residual Connection](http://i1.daumcdn.net/thumb/C450x300/?fname=https://blog.kakaocdn.net/dn/dB3d7e/btrwfcP8BuI/KtEISBaZkfCTNvRQMj7XpK/img.png)