KUBIG 2022-2 활동 블로그

작성자: 1팀 이제윤 1. Abstract ILVRC14에서 우승한 모델! GoogleNet ! GoogLeNet 모델의 주요 특징은 연산 자원 사용 효율의 개선이다. 정교한 설계로 네트워크의 depth와 width를 늘려도 연산량이 증가하지 않고 유지된다. 또한 Google 팀에서는 성능을 최적화하기 위해 Hebbian principle과 multi-scale processing을 적용하였다고 한다. 2. Introduction 2017년까지 3년간 딥러닝과 CNN 분야에서 큰 발전이 이루어져 왔다. 이는 하드웨어, 큰 데이터셋뿐만 아니라 새로운 아이디어와 알고리즘, 그리고 개선된 신경망 구조 덕분이었다. 이 논문에서도 Software 측면에서 노력했고, 이들이 개발한 GoogLeNet은 AlexNet..

심화 스터디 2022. 9. 15. 16:57

작성자: 15기 조우영 Introduction 목적: 기존(해당 논문 이전)의 검색 기법들에 만연한 문제인 query에 존재하는 단어들과 document에 존재하는 단어들을 match하려는 문제를 해결하기 위한 새로운 접근, 방법을 소개하기 위함 문제는 사용자들은 의미에 기반하여 검색을 하지만 문서에 존재하는 각 단어는 문서의 개념적 주제나 의미와 매치하지 않거나 무관하기 때문에 발생 Synonymy: 똑같은 개념을 표현할 수 있는 다양한 단어들이 존재하기 때문에 user가 제공한 query에 존재하는 단어가 document에는 존재하지 않는 현상 Polysemy: 한 단어에 다양한 의미가 존재하기 때문에 user가 제공한 query에 존재하는 단어가 실제로 document에 존재해 match가 되기는 ..

심화 스터디/Advanced ML & DL paper review 2022. 9. 15. 16:33

작성자: 15기 박지우 1. 배경 1) object detection & image classification의 차이 object detection은 더 많은 challenging task -> multi stage pipelines 모델들이 많다 (느리고 inelegant) detection은 물체의 정확한 localization / 물체 지역에 대한 수많은 후보지를 처리해야하고 후보지들은 rough한 localization을 제공해서 더 정확한 것을 도달하기 위해 처리가 필요하다 2) R-CNN R-CNN(Region-based Convolutional Network method) 깊은 ConvNet을 이용하여 물체의 proposal를 분류하여 object detection을 성공한 모델 select..

심화 스터디/Advanced ML & DL paper review 2022. 9. 15. 13:56

ABSTRACTION Object detection 분야에서 당시 SPPnet 과 Fast R-CNN 도입으로 성능 올라왔지만, 여전히 region proposal computation에서 bottleneck이 존재하였다.(CPU의 근본적인 한계로 인해) 본 논문에서 Region Proposal Network(RPN)을 제안하였다. RPN은 GPU에서 돌아갈 수 있었기에 region proposal에서의 시간이 단축되었다. 또한 RPN과 Detection network에서 같은 Convolutional feature map을 공유하여 결과적으로 a region proposal에 필요한 computation은 사실상 없기에 추가적으로 시간이 단축되었다. RPN은 각각의 position에 대한 object ..

심화 스터디/CV 논문 리뷰 2022. 9. 15. 02:25

Faster R-CNN: Towards Real-Time Object Detection with Region Proposal Networks Reference https://arxiv.org/abs/1506.01497 Faster R-CNN은 R-CNN, 그리고 Fast R-CNN에 이어 2015년에 발표된 object detection 논문이다. Concept of Object Detection: classification: 이미지를 보고 어떤 class인지 분류하는 것 Localization: 사물의 위치를 bounding box(좌표)로 알아내는 것. Object Detection: 물체의 위치를 알아내고, Classification을 진행하는 것. Instance Segmentation: 검출된 ..

심화 스터디/CV 논문 리뷰 2022. 9. 14. 16:20

Abstract 논문 출판 당시 object detection 분야에서의 SOTA 모델은 object의 위치를 가정하는 region proposal algorithm에 의존하였다. 대표적으로 SPPnet과 Fast R-CNN은 region proposal(RP = 영역추정) 계산을 사용하여 이러한 detection networks의 running time을 감소시켰다. 그러나 여전히 RP단계에서 bottleneck현상이 생긴다는 단점이 있었다. 본 논문에서는 RPN(Region Proposal Network)를 소개하는데, 이는 전체 이미지를 convolution 시킨 feature map을 공유하는 네트워크로 RP를 cost 부담없이 사용할 수 있고(nearly cost-free) fully convo..

심화 스터디/CV 논문 리뷰 2022. 9. 14. 09:47

작성자: 15기 최민경 본 포스팅은 https://www.youtube.com/watch?v=pxG4ZlHJ570&list=PLpIPLT0Pf7IqSuMx237SHRdLd5ZA4AQwd&index=6를 를 바탕으로 작성되었습니다. Q1. 시계열 데이터 구성요소 4가지는? A. 추세, 계절, 순환, 불규칙 💡 시계열 회귀분석(TIme Series Regression) yt: t시점에서의 값 TRt: t시점에서의 트렌드 et: error term, 트렌드 부분으로 설명하기 어려운 부분 (설명할 수 없는 부분) Q2. error term의 조건(특징)은? A. iid(independent identically distributed) mean=0, variance=시그마제곱 💡 Trends No Trend : ..

심화 스터디/시계열 2022. 9. 14. 00:35

4. Variants considering graph type and scale 4.2 Heterogeneous graphs Node와 edge가 다른 타입인 경우 4.2.1 Meta-path-based methods Meta-path가 path에 있는 각 노드의 type을 결정, 학습 과정에서 meta path는 node의 sequence로 이용. 직접적으로 연결되어있지 않더라도 두 노드간의 유사도를 구할 수 있음. ∴ One heterogeneous graph → Several homogeneous graph HAN - Hierarchical Attention Network : Meta-path-based neighbors를 이용하여 graph attention을 적용하고 최종 representati..

심화 스터디/Graph Study 2022. 9. 13. 14:25