전체 글22 [Paper Review] FixMatch: Simplifying Semi-Supervised Learningwith Consistency and Confidence FixMatch: Simplifying Semi-Supervised Learningwith Consistency and Confidence https://arxiv.org/abs/2001.07685 목차 FixMatch는 최근 연구에서 나온 semi-supervised learning 방법 중 하나로, 라벨이 없는 대량의 데이터를 이용하여 모델의 성능을 향상시키는 방법이다. 이전에는 labeled 데이터가 많지 않은 경우에는 모델의 성능을 높이기가 어려웠는데, FixMatch는 이러한 한계를 극복하고자 한다. 해당 리뷰 글은 논문 원본에 근거하여 개인 정리 용도로 작성하였으니 참고바랍니다. Abstract 본 논문에서는 기존 Semi-Supervised Learning 방법을 크게 단순화한 algorit.. 2023. 3. 17. [Paper Review] LWF: Learning Without Forgetting "LWF: Learning Without Forgetting" 논문 리뷰입니다. https://arxiv.org/abs/1606.09282 해당 논문은 ECCV 2016에 실린 초창기 Continual Learning에 관한 논문입니다. 목차 LWF Introduction 해당 논문은 새로운 task에 대해서 Continual 한 상황에서 학습하는 방법을 제안합니다. 우리의 목적은 new task와 old task의 parameters를 공유하면서 forgetting 하지 않고 old task을 학습하기를 원합니다. 즉, LWF는 Distillation network와 Fine-Tuning을 결합한 것입니다. 논문을 이해하기 위해서, 몇 가지 parameters를 정의할 필요가 있습니다. - Shared.. 2022. 12. 19. [Paper Review] Transformer: Attention Is All You Need "Transformer: Attention Is All You Need" 논문 리뷰입니다. https://arxiv.org/pdf/1706.03762.pdf 오늘은 현재까지 자연어 처리 분야뿐만 아니라 최근에는 이미지 분야 딥러닝 모델에 중대한 영향을 끼치고 있는 논문인 Transformer( NIPS 2017 )를 소개해보도록 하겠습니다. 목차 Transformer 소개 전반적인 Transformer model의 구조입니다. Transformer는 기존 encoder, decoder를 발전시킨 딥러닝 모델입니다. 가장 큰 차이는 RNN을 사용하지 않는다는 점입니다. Transformer를 한 단어로 설명한다면 병렬화라고 할 수 있습니다. 쉽게 말해서 Transformer는 이를 최대한 한 번에 처리합니.. 2022. 7. 12. Google Developers Machine Learning Bootcamp 3기 지원 및 합격 후기 + 웰컴기프트(모자,반팔,스티커) 안녕하세요 :) Google Machine Learning Bootcamp 3기에 합격하여 현재 활동 중인 학생입니다! 이번 글에서는 지원 방법, 자격과 합격한 후기에 대해서 포스팅을 해보겠습니다~ 먼저 기다리고 기다렸던 웰컴기프트부터..! 너무 영롱합니다. 감사합니다 Google..😍🥰 집안의 가보가 될 예정입니다. 앞으로 더 많은 영광스러운 기프트들을 얻기 위해서 열심히 활동하겠습니다! 목차 지원 방법 및 일정 지원 방법은 Google Forms 양식을 통해 제출하게 됩니다. 올해 3기의 제출 기한은 2022. 5. 16(월) 오전 9시 ~ 2022. 6. 2(목) 오전 9시로 원래는 29일이 마감이었지만 프로그래밍 레벨테스트 난이도로 인하여 4일 정도 연장되었다고 합니다! 결과 발표는 22.06.1.. 2022. 7. 3. Google Developers Machine Learning Bootcamp 2022 소개 안녕하세요 :) 이번에 Google Machine Learning Bootcamp 3기에 합격하여 현재 활동 중인 학생입니다! 😎😊 이번 포스팅에서는 Google Machine Learning Bootcamp를 소개해드리는 내용으로 구성해보겠습니다 ! 목차 Google Machine Learning Bootcamp 란? 머신러닝 개발자로 발돋움하고 싶은 분들을 위한 프로그램입니다. 해당 프로그램은 참가자들이 머신러닝 이론을 공부하는 것뿐만 아니라 현업의 엔지니어링 문제를 해결하는 수준까지 이르는 것을 목표로 합니다. 또한 자유로움을 추구하는 Google의 업무 문화처럼 스스로 공부하실 수 있는 환경과 동기부여를 위한 다양한 기회를 드립니다. 선발된 참가자들은 약 3개월(22.06.22 ~ 22.09.15.. 2022. 7. 3. [Paper Review] MobileNet V1 "MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications" 논문 리뷰입니다. https://arxiv.org/pdf/1704.04861.pdf 2017년 4월에 Google Inc. 에서 발표한 MobileNet v1 논문을 간략하게 정리해보겠습니다. - 성능 저하를 최소화하면서 딥러닝 모델 파일의 크기를 줄이는 것이 목적 - 요점 3가지: Depthwise separable convolution, Width multiplier, Resolution multiplier 목차 MobileNet 소개 ConvNet은 computer vision 분야라면 어디서든 사용되었지만, 모델의 크기가 너무 커지고 가성비가 좋지.. 2022. 5. 26. 이전 1 2 3 4 다음
