Faster R-CNN : Toward Real-Time Object Detection with Region Proposal Networks

U-Net: Convolutional Networks for Biomedical Image Segmentation

[pdf] Abstract Deep neural network를 학습시키기 위한 annotated sample들을 더 효율적으로 사용하기 위한 data augmentation method 차원을 축소하여 context를 추출하기 위한 contracting path와, 이와 대칭 형태로 다시 차원을 확장시키는 expanding path로 구성 적은 개수의 이미지로도 end-to-end training이 가능하며 기존 모델의 성능을 추월 Segmentation 등 localization(지역화)이 필요한 태스크에 강점 Introduction 최근 몇 년간 Computer vision 분야는 네트워크의 깊이를 늘리고 parameter의 개수를 늘리는 방법으로 성능을 개선 이러한 convolution netwo..

Show, attend and tell: Neural image caption generation with visual attention

[pdf] Abstract 자연어처리에 이용되던 Attention Mechanism을 기반으로 이미지를 설명할 수 있는 모델을 개발 이미지의 핵심적인 부분을 output sequence의 단어로 변환하는 과정에서, 모델이 자신이 집중해서 보는 부분을 스스로 어떻게 보정해 가는지 시각화함 Flickr8k, Flickr30k, MS COCO Dataset에서 SOTA 성능을 달성 Introduction Image caption generation: CV와 NLP 양 측면에서 모두 높은 성능이 필요함 본 논문에서 제안한 방식은 Attention mechanism을 이용하는 모델 → soft attention, hard attention 두 가지 종류 단어를 생성할 때, 그 단어에 해당하는 이미지의 부분에 집중..

Neural machine translation by jointly learning to align and translate

[pdf] Abstract Neural machine translation은 기존의 통계적 기계 번역과는 달리 translation task를 위한 단일 neural network를 디자인함 최근 (논문 작성 기준) 제안된 모델들은 Encoder-decoder 구조를 따르는데, fixed-length vector로 인코딩하는 과정에서 bottleneck 현상이 발생하는 것으로 보임 이를 해결하고자 model이 output의 각 target word와 source sentence의 단어들과의 alignment를 자동으로 학습할 수 있도록 하는 메커니즘을 개발 Introduction Neural Machine Translation: Input sentence → single, large neural netw..

Attention is All You Need

[pdf] Abstract 현재 (논문 작성 당시) sequence transduction 모델은 주로 Encoder/Decoder 구조의 RNN 혹은 CNN으로 이루어짐 Transformer: Attention Mechanism만을 이용한 더 단순한 구조를 제안 더 높은 quality를 얻으면서도 병렬화하기 쉬움 WMT 2014 English→German 번역 태스크에서 28.4 BLEU score 달성 WMT 2014 English→French 번역 태스크에서 8GPU로 3.5일간 학습하여 41.8 BLUE score (new SOTA) 달성 Transformer가 여러 태스크에 generalization이 쉬움을 보임 Introduction Recurrent Model RNN, LSTM, GRU(G..

C언어로 콘솔 게임 만들기 2-1. 시분할이란?

C언어로 게임 만들기 2. 시분할 (1) 시분할이란? 반갑습니다. 이번 강의에서는 슈팅 게임을 개발할 때 필수적으로 구현해야 할 시분할 기법에 대해 알아보도록 하겠습니다. 시분할은 무엇인가? 우선 시분할(Time sharing)에 대해 알아보도록 하겠습니다. 시분할은 한 컴퓨터에서 여러 프로세스를 동시에 작동시킬 수 있도록 하는 기법으로, 시간을 매우 작은 단위로 나누어(Time slicing) 각 프로세스에 분배해 주며 실행하는 방식입니다. 프로세스 간의 전환이 매우 빠르므로 사용자는 마치 여러 프로세스가 동시에 실행되는 것처럼 느끼게 됩니다. 가까운 예로, 우리가 매일 사용하는 운영체제가 시분할 기법을 통해 프로세스를 관리하고 있습니다. 다만 우리는 운영체제 레벨이 아니라 로직 레벨에서의 시분할 기법..

Faster R-CNN : Toward Real-Time Object Detection with Region Proposal Networks

U-Net: Convolutional Networks for Biomedical Image Segmentation

[pdf] Abstract Deep neural network를 학습시키기 위한 annotated sample들을 더 효율적으로 사용하기 위한 data augmentation method 차원을 축소하여 context를 추출하기 위한 contracting path와, 이와 대칭 형태로 다시 차원을 확장시키는 expanding path로 구성 적은 개수의 이미지로도 end-to-end training이 가능하며 기존 모델의 성능을 추월 Segmentation 등 localization(지역화)이 필요한 태스크에 강점 Introduction 최근 몇 년간 Computer vision 분야는 네트워크의 깊이를 늘리고 parameter의 개수를 늘리는 방법으로 성능을 개선 이러한 convolution netwo..

Show, attend and tell: Neural image caption generation with visual attention

[pdf] Abstract 자연어처리에 이용되던 Attention Mechanism을 기반으로 이미지를 설명할 수 있는 모델을 개발 이미지의 핵심적인 부분을 output sequence의 단어로 변환하는 과정에서, 모델이 자신이 집중해서 보는 부분을 스스로 어떻게 보정해 가는지 시각화함 Flickr8k, Flickr30k, MS COCO Dataset에서 SOTA 성능을 달성 Introduction Image caption generation: CV와 NLP 양 측면에서 모두 높은 성능이 필요함 본 논문에서 제안한 방식은 Attention mechanism을 이용하는 모델 → soft attention, hard attention 두 가지 종류 단어를 생성할 때, 그 단어에 해당하는 이미지의 부분에 집중..