[G검정/4장] 적층 오토 인코더

オートエンコーダ (오토 인코더) 란?

[Certificate/G検定] - [G검정/4장] 오토 인코더

[G검정/4장] 오토 인코더

 

積層オートエンコーダ (적층 오토 인코더 ; Stacked Autoencoder)

: 오토 인코더를 쌓아서 신경망의 각 층에서 추상적인 특징 표현을 학습하는 방법

• 한 층씩 학습을 진행하고 마지막에는 전부 쌓아서 파인 튜닝을 통해 미세 조정을 수행함
• 하지만, 최근 딥러닝 성능이 발전해서 한 층씩 학습하지 않고 동시에 모든 층을 학습하는게 가능해짐
• 입력층에 가까운 순으로 순차적으로 수행함
• 사전학습을 위해 사용함 (사전학습을 통해 기울기 소실 문제로 인한 학습 속도 저하를 방지함)
• 教師なし学習 (비지도 학습 ; Unsupervised Learning) 에 해당함

적층 오토 인코더

 

ファインチューニング (파인 튜닝)

오토 인코더를 쌓는 것 만으로는 라벨(label) 을 출력할 수 없다는 문제가 있다. 또한, 오토 인코더의 출력(output) 은 입력(input) 그 자체인 教師なし学習 (비지도 학습 ; Unsupervised Learning) 에 해당하므로 教師あり学習 (지도 학습 ; Supervised Learning) 으로는 사용할 수 없게 된다.

이러한 문제는 오토 인코더의 마지막에 로지스틱 회귀층 (sigmoid함수, softmax 함수) 을 더하는 방식으로 해결할 수 있다. 이 방식을 사용하면 오토 인코더에서도 教師あり学習 (지도 학습 ; Supervised Learning) 을 구현할 수 있게 된다.

• 분류 문제에서는 ロジスティック回帰層 (로지스틱 회귀층) 사용
• 회귀 문제에서는 線形回帰層 (선형 회귀층) 사용

https://www.webtomoblg.net/ai/deep-learning-gkentei/

ディープラーニング【G検定 学習】 | TomoOne BLOG（ともわんブログ）