반응형 Deep Learning (Computer Vision)/Label smoothing1 논문으로 알아보는 Label smoothing. When Does Label Smoothing Help? 논문: When Does Label Smoothing Help? 저자: Rafael Müller∗ , Simon Kornblith, Geoffrey Hinton 소속: Google Brain (Toronto) 학회: 2019 NIPS 인용 수: 1423 (2023.05.23기준) Baseline - 기존의 One-hot 방식의 hard label을 사용하는 것 보다 soft label을 사용하는 것이 더 성능이 좋았다. - 왼쪽이 Soft-Label 방식으로, 레이블 마다 중요도를 바탕으로 label을 다시 만드는 방법이 있으며, Label-smoothing은 우측 그림과 같이 정답에서 일정한 부분을 빼서 나머지에 나눠주는 방식이다. - hypterparameter a만큼 정답 label에서 빼준 후, .. 2023. 5. 26. 이전 1 다음 반응형
