KUBIG 2022-2 활동 블로그

작성자 : 14기 김태영 논문링크 : Zero-shot Learning Through Cross-Modal Transfer 1. Introduction 1) Zero-Shot Learning Zero-Shot Laerning이란 "unseen example에 대해서 문제를 잘 해결할 수 있도록 모델을 학습하는 것"을 의미한다. 일반적으로 딥러닝 모델들은 training에 사용된 class만을 예측할 수 있다. 따라서 unseed example이 입력되더라도 내부 메커니즘에 의해 학습했던 seen class 중 하나로 예측하는 문제가 생기게 되는데 zero-shot learning은 이 때 train set에 포함되지 않는 unseen class를 예측하는 분야이다. 즉 다시 말하자면 unseen exam..

심화 스터디/Advanced ML & DL paper review 2022. 9. 22. 18:27

작성자: 15기 이병주 기존 clustering 알고리즘 기존엔 두가지 clustering 알고리즘이 존재. - partitioning 알고리즘 1단계: 목적함수를 최소화하는 k를 지정해준다. 2단계: 각 개체들을 대표 객체와 가장 가까운 클러스터에 할당한다. -hierarchical 알고리즘 여러개의 군집 중에서 가장 유사도가 높은 혹은 거리가 가까운 군집 두 개를 선택하여 하나로 합치면서 군집 개수를 줄여 가는 방법 가장 처음에는 모든 군집이 하나의 데이터만을 가진다. 따라서 최초에는 데이터 개수만큼 군집이 존재하지만 군집을 합치면서 최종적으로 하나의 군집만 남게 된다. 밀도 기반 클러스터링 클러스터를 인식할 수 있는 이유는 클러스터의 점들이 밀도가 높기 때문이다. 그리고 바깥부분은 밀도가 매우 낮은..

심화 스터디/Advanced ML & DL paper review 2022. 9. 22. 17:56

1.Introduction Ciresan과 그의 동료들은 픽셀의 local region(patch)을 주어 window sliding 방식으로 학습을 시키는 network를 구축한다. 이 network은 ISBI 2012, EM segmentation challenge에서 우승하는 쾌거를 이루는데 해당 논문에서는 당시 SOTA 모델의 단점과 이에 대한 개선점을 제시하며 U-Net을 제안한다. 1) First, it is quite slow because the network must be run separately for each patch, and there is a lot of redundancy due to overlapping patches. 각각의 patch에 대해 network가 개별적으로 학..

심화 스터디/CV 논문 리뷰 2022. 9. 22. 17:52

작성자: 15기 우명진 논문: Sequence to Sequence Learning with Neural Networks 저자: Ilya Sutskever, Oriol Vinyals, Quoc V. Le 논문 링크: https://s3.us-west-2.amazonaws.com/secure.notion-static.com/89be664f-f572-42b3-acb9-c5277b392000/5346-sequence-to-sequence-learning-with-neural-networks.pdf?X-Amz-Algorithm=AWS4-HMAC-SHA256&X-Amz-Content-Sha256=UNSIGNED-PAYLOAD&X-Amz-Credential=AKIAT73L2G45EIPT3X45%2F20220922%..

심화 스터디/Advanced ML & DL paper review 2022. 9. 22. 17:06

Abstract 기존까지 deep network들을 성공적으로 훈련시키려면 필연적으로 수천개 이상의 annotated된 training sample이 필요했음. 본 논문에서 제시하는 네트워크와 training 방법은 data augmentation에 focus를 하여 available한 annotated sample을 더 효과적으로 활용할 수 있게 하였음. U-Net은 context를 포착하는 contracting path와 정확한 localization을 위한 expanding path로 구성되어 있고, 이 두 path는 서로 symmetric.(localization = 이미지 안에서 bbox등을 사용하여 객체의 위치 정보를 출력해 주는 것(bbox에선 왼쪽 위, 오른쪽 아래 좌표 출력)) U-Net..

심화 스터디/CV 논문 리뷰 2022. 9. 22. 15:10

1. Introduction 최근 Link prediction, Graph classification, Node classification 과 같은 중요한 그래프 문제에 대해서 딥러닝으로 접근하여 큰 발전을 이루고 있다. Node embedding 방법의 경우, random walk나 matrix factorization을 통해서 바로 개별 노드의 embedding을 학습한다. 이 방법은 Node 자체의 feature를 사용하지 않고(단점이 될 수 있다) 주로 비지도학습적인 방법(가까운 노드의 similarity가 높아지도록 or adjacency matrix와 비슷한 A행렬을 만들도록)을 사용한다. 그래프 구조와 Node feature를 이용하는 방법도 존재한다. Spectral graph convol..

심화 스터디/Graph Study 2022. 9. 22. 06:07

작성자: 이제윤 Paper Title User Diverse Preference Modeling by Multimodal Attentive Metric Learning Authors:Fan Liu, Zhiyong Cheng, Changchang Sun, Yinglong Wang, Liqiang Nie, Mohan Kankanhalli https://arxiv.org/abs/1908.07738 KEYWORDS : Personalized Recommendation Metric Learning Attention Mechanism Multimodal Information 1. Introduction 기존 추천시스템 방식 (MF) Bayesian Personalized Ranking(BPR) 같은 전통적인 추천시..

심화 스터디/Advanced ML & DL paper review 2022. 9. 22. 04:37

Fully Convolutional Networks for Semantic Segmentation Paper: Fully Convolutional Networks for Semantic Segmentation Convolutional networks are powerful visual models that yield hierarchies of features. We show that convolutional networks by themselves, trained end-to-end, pixels-to-pixels, exceed the state-of-the-art in semantic segmentation. Our key insight is to build arxiv.org Sementic Segme..

심화 스터디/CV 논문 리뷰 2022. 9. 22. 01:06