본문 바로가기

분류 전체보기22

[Paper Review] SENet: Squeeze-and-Excitation Networks SENet이라고 널리 알려진 "Squeeze-and-Excitation Networks" 논문 리뷰입니다. https://arxiv.org/pdf/1709.01507.pdf 목차 SENet 소개 SENet : ILSVRC'17 classification winner SENet은 2017년 마지막으로 열린 ImageNet 대회에서 우승을 차지한 알고리즘입니다. 그림에서 볼 수 있듯이 사람의 능력을 뛰어넘었음을 알 수 있습니다. 그러한 이유로 ImageNet 대회는 2017년을 마지막으로 더이상 진행하지 않게 되었습니다. SENet의 main idea를 간략하게 설명해보겠습니다. 기본적으로는 Channel간의 상관성을 지금까지는 볼 수 없었습니다. 하지만, SENet에서는 Channel 간의 상관성을 보겠다.. 2022. 5. 16.
고장난 나침반 난 어디에 있는 걸까 난 어디로 향하는 걸까 정해진 길로 간다면 난 행복할 수 있을까 삶은 여행이라는 말처럼 나는 잠시 이곳에 정착 중이다 언제 다음 여행을 떠날지 모르니 후회 없는 길을 가자 정해진 길은 없다 고장 난 나침반처럼 내가 가는 길이 항상 북쪽이길 2022. 4. 16.
소나무 머릿속으로 조립했던 논리들을 아무리 뜯어봐도 의미 있는 결론으로 나아가지 못했다. 새벽 4시쯤 됐을까 다시 원점으로 돌아가 노래를 들어보기로 했다. 그리고 내 주관이 아니라 두 노래가 똑같이 들릴 수 밖에 없는 진짜 이유를 고민해보기 시작했다. 아, 그리고 두 곡이 정말 다르지 않다는 것을 확인하게 됐다. 이렇게 간단한 것이었지만 내가 남들이 잠든 시간 사무실에 남아 조그만 열풍기를 쐬며 컵라면을 먹으며 답이 보이지 않는 그 순간들을 견디지 않고 포기했다면 그 간단한 답이라도 얻을 수 있었을까? 다른 인턴들과 이야기해보니 의외로 내가 생각했던 해답은 손쉽게들 생각해냈던 것 같지만, 누구에게 쉬운 해답이라도 나는 그 시간을 견뎌야 하는 것이었다. 지금까지 내 앞의 도전들, 크고 작은 어려움에 맞서 해답을 .. 2022. 4. 12.
[Paper Review] Batch Normalization Batch Normalization은 2015년 arXiv에 발표된 후 ICML 2015에 게재된 아래 논문에서 나온 개념입니다. "Batch Normalization: Accelerating Deep Network Training b y Reducing Internal Covariate Shift" https://arxiv.org/pdf/1502.03167.pdf 현대 딥러닝 아키텍처에서 학습 속도(training speed)를 비약적으로 향상시킬 수 있었던 방법 중 하나인 배치 정규화(Batch Normalization)에 대한 설명을 해보겠습니다! Paper에 대한 real review는 아니지만, 참고 학습 영상(https://youtu.be/m61OSJfxL0U)을 학습하며 스스로 이해시켰던 방.. 2022. 3. 31.
[Jazz] Be my love - Keith Jarrett https://youtu.be/NoZgqNnAQVA 가끔은 좋은 가사로 이루어진 노래 보다 피아노 하나로 만들어진 아름다운 선율의 재즈음악이 나의 마음을 더욱 대변하는 순간들이 있습니다. 상상력을 자극해서 일까요, 가사 하나 없는 재즈음악을 들을 때면 스스로 머릿속에서 작사를 하며 하나의 이야기를 써내립니다. 누군가는 재즈음악이 "과거의 음악이며 죽어가고 있다" 라고 생각할 수 있지만 영화 '라라랜드'에서 나온 대사처럼 재즈는 과거에 있지 않고 미래에 있다고 생각합니다. 2022. 3. 22.
[CNN-Algorithm] ResNet 본 내용은 https://bskyvision.com/644 https://hnsuk.tistory.com/31?category=958494 https://youtu.be/vRtM4K8e_Q4(고려대학교 산업경영공학부 DSBA 연구실) 참고하여 제작하였습니다. CNN Algorithms 중에서 이미지 분류용 Algorithms 중 ResNet에 대해 포스팅해보겠습니다. 목차 CNN Algorithm - ResNet ResNet 소개 이번 포스팅에서 알아볼 알고리즘은 ResNet입니다. ResNet은 2015년 이미지넷 이미지 인식 대회(ILSVRC)에서 우승을 차지한 알고리즘입니다. ResNet은 마이크로소프트에서 개발한 알고리즘입니다. 층수에 있어서 ResNet은 급속도로 깊어집니다. 2014년의 Goo.. 2022. 3. 22.