반응형 분류 전체보기100 논문 읽기 - MaskFeat: Masked Feature Prediction for Self-Supervised Visual Pre-Training 저자: Chen Wei 소속: Facbook AI Research and Johns Hopkins University. 학회: CVPR2022 인용: 2023.04.28일 기준 228회 BaseLine hand-crafted feature descriptor - Image, Video에서 기초적인 특징(Color, shape, texture, motion)을 묘사하는 방법. (ex HOG, SIFT) Histogram of Oriented Gradient (HOG) - 지정된 이미지 pixel의 magnitude와 direction을 계산한 후, 더 큰 영역에 대해 계산하며 feature descriptor로써 동작한다. - 본문에 나오는 Figure 1. Middle 부분처럼 Original image.. 2023. 4. 29. 논문 읽기 - Img2Vec: A Teacher of High Token-Diversity Helps Masked AutoEncoders 저자: Heng Pan 소속: Zhejiang Univ 출판: 2023.04.27 Arxiv 기초 개념 Masked Image Modeling(MIM)은 pre-training 단계에서 입력 이미지는 masked되어, unmasked부분을 바탕으로 original 이미지를 복원한다. 원본 이미지로 잘 복원시키는 모델은 downstream task에서 잘 동작할 것이라 믿어짐. Problem - 어떤 type의 deep feature가 MIM에서 적절한지 알아보기 위해 잘 훈련된 model을 feature extractor (teacher)로 사용 - 이미지의 특징을 생성하는 teacher model이 가벼울수록 성능이 더 좋은 현상 발견 - 기존의 Knowledge Distilation(KD)에서 Tea.. 2023. 4. 28. 논문 읽기 - Missing Modality Robustness in Semi-Supervised Multi-ModalSemantic Segmentation 저자: Harsh Maheshwari 소속: Georgia Institute of Technology 발행일자: 2023년 4월 24일 Arxiv에 올라온 논문이다. 최근 추세인 Masked Autoencoder를 Segmentation에서의 multi modalities에 적용시킨 논문이 올라와 관심이 생겨 읽어보았다. Problem - Sementic Segmentation은 labeling cost가 많이 듬. -> Semi supervised 상황에서 label이 누락된 상황이라 가정. - semi-supervised 에서의 semantic segmentation은 대부분 uni-modal. - 기존 multi-modal을 사용한 경우 fully supervised -> semi or un sup.. 2023. 4. 26. Contrastive Learning (2) MoCo (Momentum Constrastive for Unsupervised Visual Representation Learning) Contrastive learning의 대표적인 논문 중 하나인 MoCo에 대해서 소개하도록 하겠습니다. FaceBook, 현재 Meta인 Facebook AI research에서 Kaimming He께서 작성한 논문입니다. (ResNet 만드신 분) MoCo에 대한 개념 설명 및 동작원리에 조금 더 초점을 맞추고 설명을 하도록 하겠습니다. MoCo의 sudo코드와 실제 동작원리가 와닫지 않을 수 있어서 그림 및 차원을 통해 설명하도록 하겠습니다. + MoCo그림에서 x^key_i, k0 과 같은 부분이 와닿지 않을 수 있어서 그부분을 조금 더 풀어보았습니다. BackGround. 배경지식으론, Representation Learning과, Contrastive Learning에 대해서 알고 넘어가야 합.. 2023. 4. 24. 논문으로 알아보는 Contrastive Learning (1) - DrLIM (Dimensionality Reduction by Learning an Invariant Mapping) MoCo Review를 하기 전, MoCo에서 많이 언급되며, Contrastive Loss를 처음으로 사용한 논문으로 소개되는 Hadsell - Dimensionality Reduction by Learning an Invariant Mapping (DrLIM) in 2006 CVPR 논문에 대해서 먼저 정리하고 넘어가려고 한다. 처음부터 MoCo를 들어 갈 수 있지만, Contrastive Learning이라는 개념이 와닿지 않아 이 논문부터 시작했다. 내용도 짧고 어렵지 않아 가볍게 소개하고 넘어가겠다. (HadSell이 구글 소속인 것과, 논문의 지도 교수님으로 얀 르쿤 교수님이 들어가 있어서 호기심이 컸던 것도 있다) 논문의 주요 Keypoint는 1. 2개의 입력 데이터를 space에 매핑하는.. 2023. 4. 4. 리스트 안에 numpy array나 Tensor 배열이 갇혀 있을 때 해결방법. Numpy array나 Tensor 형태의 배열이 list로 감싸져 있을 때 벗겨내는 방법 Unsupervised/Semi-Supervised Learning을 하기 위해 Training set을 재정의 한다던가, Custom Dataset을 만들었을 때 Training sample을 만들기 위해, 등등 여러가지 경우로 아래의 코드와 같이 리스트 안에 또 다른 배열, numpy array, tensor 등을 정의할 때가 생긴다. 이 때 이 배열에서 빼내는 방법에 대해서 알아보자. MNIST 데이터 셋을 예시로 들었을 때 이미지의 크기는 (1, 28, 28) 정도가 된다. 하지만 시각화 하기 어렵기에, 임의로 정의한 np.ones((1, 4, 4)) 크기의 numpy array를 예시로 들어보자. tens.. 2023. 3. 28. Sigmoid 미분하기 우선 시그모이드는 다음과 같이 정의된다. $$ \sigma(x) = \frac{1}{1+e^{-x}} $$ 따라서 도함수를 이요한 몫의 미분법을 이용해 아래와 같은 수식이 유도된다는 것을 먼저 인지하자. $$ \frac{1}{g(x)'} = \lim\limits_{h\to 0} \frac{ \frac{1}{g(x+h)} - \frac{1}{g(x)}}{h} = \lim\limits_{h \to 0} \frac{ \frac {g(x) - g(x+h)} {g(x+h)g(x)}}{h} = \lim\limits_{h \to 0} - \frac{g(x+h) - g(x)}{h g(x+h) g(x)} = \lim\limits_{h \to 0} - \frac{g(x)'}{g(x+h)g(x)} = - \frac{g(x).. 2022. 9. 20. 윈도우 검색 안될 때 윈도우 + R 눌러서 실행창 msdt.exe -ep WindowsHelp id SearchDiagnostic 다음 누르고 첫번째 옵션인 검사를 시작하거나 볼 수 없습니다. 체크 후 검사를 관리자 권한으로 실행. 검사가 안끝났다면 다시 한번더 실행. 해결. 2022. 9. 15. YOLOv5 Custom Model 만들기(2) - Custom Model 학습 YOLO 커스텀 모델을 만들기 2번째 단계 -> Custom Model 만들기! 1번째 단계인 라벨링 작업은 하단 링크를 참조하세요 YOLOv5 Custom Model 만들기(1) - LabelImg 사용법 우선 version 별 YOLO 모델의 특징을 간단하게 요약 YOLOv1 : "one-stage Detector", 실시간 탐지 가능, Loss Function 을 통해 바운딩 박스의 크기, 위치, Class 종류까지 학습. YOLOv2 - v1에 마지막에 들어가.. 187cm.tistory.com 프로젝트를 진행하며 좌석 상태를 탐지하는 Custom Model 1, 좌석 모양을 탐지하는 Custom Model 2를 만들어야 했다. 학습 데이터 라벨링이 끝났다면 다음과 같이 만들어준다. 1. 데이터 .. 2022. 9. 12. Python numpy 지수표기, e+ 표기 없이 출력하기 np.set_printoptions(precision=6, suppress=True) np.set_printoptions -> 소숫점과 관련된 numpy 옵션 precision -> 반올림 옵션 -> 소숫점 6번째 자리에서 반올림함. suppress = True 일 경우 고정 소숫점 방식을 사용하여 소숫점 표기 2022. 9. 5. 이전 1 ··· 5 6 7 8 9 10 다음 반응형
