반응형 Deep Learning (Computer Vision)/Self-Supervised Learning2 논문 요약[SiameseIM] - Siamese Image Modeling for Self-Supervised Vision Representation Learning 오늘은 CVPR 2023 Contrastive Learning / Self-Supervised Learning 관련 논문을 찾아보다가 인용 수가 많은 논문이 있길래 간단하게 정리해보려고 한다. 저자: Chenxin Tao 소속: Tsinghua University(칭화대) 학회: CVPR2023 인용: 36 (2023.08.18 기준) 2022년 11에 Arxiv에 올라왔으니 꽤 오래되긴 했으나, 그래도 CVPR Contrastive/Self-Suervised Learning 코너에서 인용수가 가장 높았다. 링크: https://arxiv.org/abs/2206.01204 Github: https://github.com/OpenGVLab/Siamese-Image-Modeling/tree/main Tabl.. 2023. 8. 19. 논문 파헤치기 - What Do Self-Supervised Vision Transformers Learn? Self supervised Learning을 시도할 때, 크게 2가지 방법이 있다. Contrastive Learning(CL)과 Masked Image Modeling이다. 하지만 최근에 MIM이 주목을 받으면서, 많은 사람들이 MIM을 사용하지만 왜 사용하는지, 언제 사용해야하는지에 대한 내용은 모를 것이다. 이 논문은 이러한 점을 ViT를 사용하여 분석하는 논문이다. 이 논문에서는 최근 주목받는 MIM이 항상 정답이 아님을 보여주며, 그렇다면 어떤 상황에서 어떤 모델을 쓸 수 있는지에 대한 가이드가 될 수 있다 생각한다. 저자: Namuk park 소속: Prescient Design Genentech, NAVER AI Lab 날짜: 2023.05.01 Arxiv 등재 학회: ICLR 2023 G.. 2023. 5. 4. 이전 1 다음 반응형
