[Deep Learning] 훈련, 검증 정확도를 통한 최적 모델얻기

참고 자료 : http://aikorea.org/cs231n/neural-networks-3/

훈련/ 검증 정확도는 학습 시 최적의 모델을 얻기 위해 참고해야 하는 또다른 지표이다. 

이 그래프는 훈련데이터에 과도하게 피팅된 과적합(Over-fitting) 중인지 발견할 수 있다.

빨간색 : 학습 데이터에 대한 정확도, 초록색 : 검증 데이터 정확도(약한 오버피팅), 파란색 : 검증 데이터 정확도(강한 오버피팅) 

파란색 그래프는 빨간색 그래프(훈련 그래프)에 비하여 매우 낮은 검증 정확도를 보이고 있으며, 강한 오버피팅임을 보여주고 있다. 

어느 시점 이후에 검증 정확도가 급격하게 떨어졌는지 확인함으로써, 최적의 모델 값을 찾을 수 있다. 

또한, 정규화(Regularization)방법 - (L2 Loss, 드랍아웃, 데이터 증대(Augmentation) 등), Early Stopping을 사용하여 문제를 완화시킬 수 있다.