본문 바로가기

Deep Learning/CNN Models

(4)
Resnet (2015) 1. Introduction 2. Realted Work Residual Representations Shortcut Connections 3. Deep Residual Learning 3.1 Residual learning 3.2 Identity Mapping by Shortcuts 3.3 Network Architectures Plane Network Residual Network 3.4 Implementation 4. Experiments 4.1 ImageNet Classification Plain Network Residual Network Identity vs Projection Shortcuts Deeper bottleneck Architectures 50-layer ResNet 101-lay..
GoogLeNet (2014) https://arxiv.org/pdf/1409.4842.pdf 1.Introduction 지난 3년간, 딥러닝의 발전으로 인해, 이미지 인식과 물체 검출의 성능은 극적으로 성장하고 있다. 더 좋은 소식은, 이런 성장은 하드웨어의 발전, 데이터 수의 증가, 모델 크기의 확장 등이 아니라, 새로운 아이디어와 알고리즘과 향상된 신경망 구조 덕분이라는 것이다. 2012년에 비해 데이터셋 크기는 달라지지 않았지만, 우리의 GoogLeNet은 12배 적은 파라미터로 더 정확한 결과를 얻었다. 물체 검출에서 가장 큰 소득은 딥러닝을 사용하거나 더 큰 모델을 사용한 것이 아닌, R-CNN처럼 딥러닝 구조와 기존 컴퓨터 비전 알고리즘의 시너지에서 얻어졌다. 파워와 메모리 사용 면에서 우리 알고리즘의 효율성이 모바일과 ..
AlexNet (2012) https://papers.nips.cc/paper/4824-imagenet-classification-with-deep-convolutional-neural-networks.pdf 1. Introduction 최근 물체 인식 기술은 머신 러닝을 필수적으로 사용한다. 이들은 성능을 높이기 위해 많은 데이터를 모으거나, 좋은 모델을 사용하거나, 오버피팅을 방지하기 위한 기술을 사용한다. 그러나 최근까지 라벨된 이미지는 수만개 정도로 적었다. 간단한 인식 문제는 이 정도 크기의 데이터셋과 데이터 증폭으로 처리 가능했다. 예를들어 MNIST 숫자 구분 문제는 사람 수준의 에러율에 도달했다. 그러나 실제 환경에서 물체들은 훨씬 다양한 모습을 보이기 때문에, 이들을 인식하기 위해서는 더 많은 트레이닝 세트가 필요..
Checklist Pytorch Documentation에 구현되어 있는 모델들을 하나씩 파헤쳐보자. https://pytorch.org/docs/stable/torchvision/models.html#torchvision-models https://pytorch.org/docs/stable/_modules/index.html checklist - paper [ - ] Fully Convolutional Network [ ] Alexnet (2012) [ ] densenet (2016) [ ] faster rcnn (2015) [ ] mask rcnn (2017) [ ] googlenet [ ] inception [ ] mnasnet [ ] mobilenet [ ] resnet [ ] resnext [ ] wide res..