KUBIG 2022-2 활동 블로그

작성자: 15기 우명진 지난주에 GAN 논문에 대해서 리뷰를 진행했습니다. 이후 Deep Convolutional Generative Adversarial Networks(DCGAN)이라고 하여 GAN에서 파생된 모델이 있다는 것을 알게 되어 추가적인 공부를 진행해보았습니다. GAN의 단점으로는 구조가 불안정하고, NN이 가진 한계점('어떠한 과정을 거쳐서 이런 결과가 나오는건가'에 대한 설명)을 지녔습니다. DCGAN의 가장 큰 차이점은 Generator와 Discriminator에서 convolution(합성곱 신경망)과 convolution-transpose(전치 합성곱 신경망)을 사용했다는 점입니다. 구체적으로는, Discriminator에서는 convolution 계층, batch norm 계층..

심화 스터디/Advanced ML & DL paper review 2022. 11. 24. 00:51

작성자 : 채윤병 1. Introduction 기존의 GNN은 이웃한 노드사이의 반복적인 message passing을 통해서 node의 representation을 update하고 graph representation을 만드는 pooling 방식을 사용했다. Neighborhood aggregation 방식은 GNN을 더 발전하게 했고 MPNN(Message passing neural network)으로 형식화하였다. MPNN 특징 L번째 representation을 나타내기 표현하기 위해 (L-1)번째 representation을 사용함. Aggregate, Combine, Readout은 각각 parameterized neural network DAG(Directed Acyclic Graph)에서는..

심화 스터디/Graph Study 2022. 11. 23. 15:11

작성자 : 16기 하예은 본 포스팅은 다음 자료들을 참고하여 작성되었습니다. - https://tutorials.pytorch.kr/beginner/basics/data_tutorial.html - https://justkode.kr/deep-learning/pytorch-cnn 1) CIFAR Dataset을 활용하여 실제 CNN을 간단하게 학습시키기 CNN 구현에 필요한 라이브러리를 import 해줍니다. 먼저, batch size를 8로 지정해줍니다. 보통 batch size는 computational capacity를 고려하여 지정합니다. 그리고 CIFAR Dataset에서 train set과 test set을 불러옵니다. root : 데이터가 저장되는 경로 train : True이면 train ..

심화 스터디/Dive into Deep Learning 2022. 11. 21. 01:50

작성자 : 16기 천원준 본 포스팅은 다음 자료들을 참고하여 작성되었습니다. - https://www.youtube.com/watch?v=bNb2fEVKeEo&list=PL3FW7Lu3i5JvHM8ljYj-zLfQRF3EO8sYv&index=5 - https://velog.io/@fbdp1202/CS231n-%EC%A0%95%EB%A6%AC-5.-Convolutional-Neural-Networks - https://d2l.ai/chapter_convolutional-neural-networks/index.htmlhttps://wikidocs.net/28#_9 1. Convolution layer Convolution은 합성곱을 의미한다. CNN에서는 Filter라고 부르는 weight를 이미지에 곱해준..

심화 스터디/Dive into Deep Learning 2022. 11. 18. 15:25

작성자 : 16기 윤지현 본 포스팅은 다음 자료들을 참고하여 작성되었습니다. https://sdsclub.com/stochastic-gradient-descent-vs-gradient-descent-a-head-to-head-comparison/ 1. Gradient Descent (=Batch-all training data set-Gradient Descent) loss function을 최소화하는 지점(미분 값, 즉 기울기가 0인 지점)을 찾는 것을 목적으로 한다. 단순히 방정식을 계산하는 것처럼 미분 값이 0인 지점을 구하는 것과는 무엇이 다른가 하는 의문에서 시작 실제로 다루는 loss function은 닫힌 형태가 아니거나 복잡한 형태를 가져 계산에 어려움 존재 《 원리 》 loss funct..

심화 스터디/Dive into Deep Learning 2022. 11. 16. 23:27

작성자 : 16기 윤지현 본 포스팅은 다음 자료들을 참고하여 작성되었습니다. https://www.datamaker.io/posts/34/ https://bskyvision.com/421 AlexNet 소개 논문 ImageNet Classification with Deep Convolutional Neural Networks 저자 : Alex Krizhevsky, Ilya Sutskever, Geoffrey E.Hinton https://proceedings.neurips.cc/paper/2012/file/c399862d3b9d6b76c8436e924a68c45b-Paper.pdf 1. AlexNet 이란? AlexNet은 2012년 개최된 ILSVRC(ImageNet Large Scale Visual ..

심화 스터디/Dive into Deep Learning 2022. 11. 16. 23:25

태블로 신병훈련소 Day5는 다양한 지리 정보 시각화를 진행했습니다! 과제1 배경 이미지를 이용한 Custom Map 가장 붐비는 지하철 역은 어디일까요? 위치 정보를 활용하면, 이를 표현할 수 있습니다. 이번에는 수도권 지하철 노선도 위에 일 별 평균 승/하차 승객수를 시각화해봤습니다. 지하철 이미지(사용자 지정 이미지)를 배경으로 활용한 후, 평균 승/하차 승객수를 계산식을 활용해 만들 수 있었습니다. (Day3 매개변수 사용하기 참고!) 마찬 가지로 집계 기준을 평균으로 변경해, 해당 역의 승/하차 승객수를 표시할 수 있습니다! 과제2 공간 테이블 계산을 이용한 맵 이번에는 출발점과 도착점을 경도/위도 값을 사용해 표현해보겠습니다. MAKEPOINT 함수로 출발/도착지의 위치를 점으로 나타내는 계산..

심화 스터디/태블로 2022. 11. 14. 13:02

태블로 신병 스터디 4일차 과제: 다양한 시각화를 이용해 "시간 분석" 해보기 태블로 신병 훈련소 Day4에는 다양한 차트를 활용해 시간 분석을 진행했습니다! 도시대기 미세먼지 데이터와 빅맥 지수 데이터를 활용했습니다 :) 과제1 라인 차트 먼저 라인 차트를 활용해 데이터 패턴을 확인해보았습니다. 월 별 미세먼지 평균 지수를 구하기 위해서 기준년월을 열 선반에, 집계 형태를 평균으로 변경해 차트를 만들었습니다! 과제2 하이라이트 테이블 하이라이트 테이블은 라인 테이블에서 텍스트에 색상을 추가하고, 행 선반에 시도를 추가한 후에 마크 모양을 사각형을 변경해 표현했습니다. 과제3 테이블 계산식 활용 이번에는 테이블 계산식을 이용해 국가별 가격 상승 비율을 비교해보았습니다. 퀵 테이블 계산으로 비율 차이를 사..

심화 스터디/태블로 2022. 11. 14. 12:45