본문 바로가기

전체 글

(108)
Review: development of GANs Generative Adversarial Networks (2014) Ian J. Goodfellow, Jean Pouget-Abadie, Mehdi Mirza, Bing Xu, David Warde-Farley, Sherjil Ozair, Aaron Courville, Yoshua Bengio https://arxiv.org/abs/1406.2661
GAN PR12 GAN: infoGAN: https://www.youtube.com/watch?v=_4jbgniqt_Q&list=PLWKf9beHi3Tg50UoyTe6rIm20sVQOH1br&index=19 PR-048: Towards Principled Methods for Training Generative Adversarial Networks https://www.youtube.com/watch?v=RlAgB0Ooxaw&list=PLWKf9beHi3Tg50UoyTe6rIm20sVQOH1br&index=49 PR-051: Conditional Generative Adversarial Nets https://www.youtube.com/watch?v=iCgT8G4PkqI&list=PLWKf9beHi3Tg50U..
Resnet (2015) 1. Introduction 2. Realted Work Residual Representations Shortcut Connections 3. Deep Residual Learning 3.1 Residual learning 3.2 Identity Mapping by Shortcuts 3.3 Network Architectures Plane Network Residual Network 3.4 Implementation 4. Experiments 4.1 ImageNet Classification Plain Network Residual Network Identity vs Projection Shortcuts Deeper bottleneck Architectures 50-layer ResNet 101-lay..
GoogLeNet (2014) https://arxiv.org/pdf/1409.4842.pdf 1.Introduction 지난 3년간, 딥러닝의 발전으로 인해, 이미지 인식과 물체 검출의 성능은 극적으로 성장하고 있다. 더 좋은 소식은, 이런 성장은 하드웨어의 발전, 데이터 수의 증가, 모델 크기의 확장 등이 아니라, 새로운 아이디어와 알고리즘과 향상된 신경망 구조 덕분이라는 것이다. 2012년에 비해 데이터셋 크기는 달라지지 않았지만, 우리의 GoogLeNet은 12배 적은 파라미터로 더 정확한 결과를 얻었다. 물체 검출에서 가장 큰 소득은 딥러닝을 사용하거나 더 큰 모델을 사용한 것이 아닌, R-CNN처럼 딥러닝 구조와 기존 컴퓨터 비전 알고리즘의 시너지에서 얻어졌다. 파워와 메모리 사용 면에서 우리 알고리즘의 효율성이 모바일과 ..
AlexNet (2012) https://papers.nips.cc/paper/4824-imagenet-classification-with-deep-convolutional-neural-networks.pdf 1. Introduction 최근 물체 인식 기술은 머신 러닝을 필수적으로 사용한다. 이들은 성능을 높이기 위해 많은 데이터를 모으거나, 좋은 모델을 사용하거나, 오버피팅을 방지하기 위한 기술을 사용한다. 그러나 최근까지 라벨된 이미지는 수만개 정도로 적었다. 간단한 인식 문제는 이 정도 크기의 데이터셋과 데이터 증폭으로 처리 가능했다. 예를들어 MNIST 숫자 구분 문제는 사람 수준의 에러율에 도달했다. 그러나 실제 환경에서 물체들은 훨씬 다양한 모습을 보이기 때문에, 이들을 인식하기 위해서는 더 많은 트레이닝 세트가 필요..
딥러닝 시작하기 딥러닝 사용 환경 딥러닝을 처음 시작했을 때, 그야말로 개고생했다. 윈도우에서 딥러닝을 사용하기 어렵다고 해서 리눅스로 포맷했는데, 리눅스에서 딥러닝 환경을 세팅하는 것만해도 일주일은 걸렸다. 원래 리눅스를 쓰는 사람은 어떨지 모르겠지만, 그때 난 리눅스도 처음이고 딥러닝도 처음이었기 때문에 너무 힘들었다. 지금은 윈도우에서 딥러닝을 쓰고 있는데, 상당히 편하다. 딥러닝 사용 환경은 아래와 같은 구성 요소들이 필요하다. 0. GPU 1. 아나콘다 + 파이썬 2. CUDA + cudnn 3. 파이참 + 파이토치 4. git + github 설치과정은 아래와 같다.(윈도우 기준) 1. 아나콘다 설치 (python이 자동으로 설치됨) 2. CUDA 10.0 설치 (NVIDIA Driver가 자동으로 설치됨) ..
딥러닝을 시작한 계기 1. 딥러닝을 처음 접하다. 2016년 초, 알파고를 기점으로 인공지능이 막 수면 위로 떠오르고 있었다. 그때는 딥러닝이 나랑 상관없는 기술이라고 생각했고, 대학원에 진학할때도 별로 관심이 없었다. 내가 대학원으로 진학했을 때(2017년)는 딥러닝을 다루는 연구실이 많지도 않았다. 그러다 딥러닝을 손에 잡은 건 석사 학위 논문 발표일에서 두 달도 안남은 시점이었다. 2. 석사 학위 논문 주제를 고민하다. 2018년 4월 30일, 과제 종료일 저녁에 석사 학위 논문을 준비하기 시작했다. 봄학기가 끝나기 직전인 6월 22일 안에는 석사 학위 논문 발표를 마쳐야 했기 때문에, 50일 안에 모든 걸 끝내야 했다. 하지만 졸업 주제도 없었고, 지난 1년 동안 과제를 위해 시제품을 만드느라 연구다운 연구를 하지 못..
Checklist Pytorch Documentation에 구현되어 있는 모델들을 하나씩 파헤쳐보자. https://pytorch.org/docs/stable/torchvision/models.html#torchvision-models https://pytorch.org/docs/stable/_modules/index.html checklist - paper [ - ] Fully Convolutional Network [ ] Alexnet (2012) [ ] densenet (2016) [ ] faster rcnn (2015) [ ] mask rcnn (2017) [ ] googlenet [ ] inception [ ] mnasnet [ ] mobilenet [ ] resnet [ ] resnext [ ] wide res..