Faster R-CNN : Toward Real-Time Object Detection with Region Proposal Networks

U-Net: Convolutional Networks for Biomedical Image Segmentation

[pdf] Abstract Deep neural network를 학습시키기 위한 annotated sample들을 더 효율적으로 사용하기 위한 data augmentation method 차원을 축소하여 context를 추출하기 위한 contracting path와, 이와 대칭 형태로 다시 차원을 확장시키는 expanding path로 구성 적은 개수의 이미지로도 end-to-end training이 가능하며 기존 모델의 성능을 추월 Segmentation 등 localization(지역화)이 필요한 태스크에 강점 Introduction 최근 몇 년간 Computer vision 분야는 네트워크의 깊이를 늘리고 parameter의 개수를 늘리는 방법으로 성능을 개선 이러한 convolution netwo..

Show, attend and tell: Neural image caption generation with visual attention

[pdf] Abstract 자연어처리에 이용되던 Attention Mechanism을 기반으로 이미지를 설명할 수 있는 모델을 개발 이미지의 핵심적인 부분을 output sequence의 단어로 변환하는 과정에서, 모델이 자신이 집중해서 보는 부분을 스스로 어떻게 보정해 가는지 시각화함 Flickr8k, Flickr30k, MS COCO Dataset에서 SOTA 성능을 달성 Introduction Image caption generation: CV와 NLP 양 측면에서 모두 높은 성능이 필요함 본 논문에서 제안한 방식은 Attention mechanism을 이용하는 모델 → soft attention, hard attention 두 가지 종류 단어를 생성할 때, 그 단어에 해당하는 이미지의 부분에 집중..

Neural machine translation by jointly learning to align and translate

[pdf] Abstract Neural machine translation은 기존의 통계적 기계 번역과는 달리 translation task를 위한 단일 neural network를 디자인함 최근 (논문 작성 기준) 제안된 모델들은 Encoder-decoder 구조를 따르는데, fixed-length vector로 인코딩하는 과정에서 bottleneck 현상이 발생하는 것으로 보임 이를 해결하고자 model이 output의 각 target word와 source sentence의 단어들과의 alignment를 자동으로 학습할 수 있도록 하는 메커니즘을 개발 Introduction Neural Machine Translation: Input sentence → single, large neural netw..

Attention is All You Need

[pdf] Abstract 현재 (논문 작성 당시) sequence transduction 모델은 주로 Encoder/Decoder 구조의 RNN 혹은 CNN으로 이루어짐 Transformer: Attention Mechanism만을 이용한 더 단순한 구조를 제안 더 높은 quality를 얻으면서도 병렬화하기 쉬움 WMT 2014 English→German 번역 태스크에서 28.4 BLEU score 달성 WMT 2014 English→French 번역 태스크에서 8GPU로 3.5일간 학습하여 41.8 BLUE score (new SOTA) 달성 Transformer가 여러 태스크에 generalization이 쉬움을 보임 Introduction Recurrent Model RNN, LSTM, GRU(G..

Show, attend and tell: Neural image caption generation with visual attention

[pdf] Abstract 자연어처리에 이용되던 Attention Mechanism을 기반으로 이미지를 설명할 수 있는 모델을 개발 이미지의 핵심적인 부분을 output sequence의 단어로 변환하는 과정에서, 모델이 자신이 집중해서 보는 부분을 스스로 어떻게 보정해 가는지 시각화함 Flickr8k, Flickr30k, MS COCO Dataset에서 SOTA 성능을 달성 Introduction Image caption generation: CV와 NLP 양 측면에서 모두 높은 성능이 필요함 본 논문에서 제안한 방식은 Attention mechanism을 이용하는 모델 → soft attention, hard attention 두 가지 종류 단어를 생성할 때, 그 단어에 해당하는 이미지의 부분에 집중..

NVSPL2 스크립트 언어

1. NVSPL2 언어 1-1. 개요 NVSPL2는 필자가 개발 중인 토이 프로젝트로, 적은 명령어로도 프로그래밍을 할 수 있는 난해한 스크립트 언어입니다. 현재 표준 v1, v2(2015)를 거쳐 표준 v3(2020)까지 제정되어 있습니다. 본 설명서는 최신 표준을 따릅니다. 1-2. 특징 튜링 완전한 언어입니다. 간단한 숫자 및 문자 출력부터, 구구단 또는 더 복잡한 프로그램까지도 작성할 수 있습니다. 모든 명령어들이 하나의 문자로 이루어져 있으며, 대소문자를 구분하지 않습니다. 공백, 개행 등 명령어가 아닌 문자는 실행에 영향을 주지 않으므로 코딩 스타일의 선택이 자유롭습니다. 1-3. 메모리 8바이트 부동 소수점 실수 1024개의 배열, 총 8192바이트의 메모리를 지원합니다. 기본값이 0인 인덱..

C언어로 콘솔 게임 만들기 1-1. 기초 함수들

C언어로 게임 만들기 1. 기초 & 플레이어 움직이기 (1) 기초 함수들 반갑습니다. 본격적인 첫 강의입니다. 1장에서는 콘솔 게임을 만들 때 쓰이는 기초 함수의 구현과, 플레이어를 움직이는 방법에 대해 설명합니다. 그중 챕터 (1)은 화면 출력을 위해 가장 중요한 기초 함수들을 다룹니다. gotoxy() 함수 우리가 만드는 게임은 텍스트 모드에서 돌아갑니다. 플레이어를 움직이라는 명령을 내리면, 먼저 터미널 위의 커서가 이동하고 그 위에 플레이어를 출력하게 됩니다. 이때, 커서의 위치를 지정된 좌표로 옮기는 함수가 gotoxy() 함수입니다. gotoxy(x좌표, y좌표); 의 형태로 사용합니다. // WINAPI 버전 void gotoxy(int x, int y) { COORD CursorPositi..

C언어로 콘솔 게임 만들기 - 시작

본 강의는 옛 블로그에 올렸던 강의를 재구성하고 오류를 수정한 후 재업로드한 것입니다. 강의가 아직 완결되지 않았으므로 남은 부분은 이곳에서 완성할 것입니다. https://blog.naver.com/PostList.nhn?blogId=moon44432&from=postList&categoryNo=175 에서 아직 옮기지 못한 부분을 미리 읽어볼 수 있습니다. 간단한 강의 소개 C언어를 이용하여 텍스트 터미널(윈도우 콘솔 등) 상에서 실행되는 간단한 탑뷰 슈터 게임을 만듭니다. 강의 순서 개발 환경 설정하기 기초 & 플레이어 움직이기 (1) 기초 함수들 (2) 플레이어 움직이기 시분할 (1) 시분할이란? (2) 시분할 구현 및 새로운 키 입력 함수 적 플레이어 만들기 (1) 적 플레이어 생성 (2) 적 ..

Neural machine translation by jointly learning to align and translate

[pdf] Abstract Neural machine translation은 기존의 통계적 기계 번역과는 달리 translation task를 위한 단일 neural network를 디자인함 최근 (논문 작성 기준) 제안된 모델들은 Encoder-decoder 구조를 따르는데, fixed-length vector로 인코딩하는 과정에서 bottleneck 현상이 발생하는 것으로 보임 이를 해결하고자 model이 output의 각 target word와 source sentence의 단어들과의 alignment를 자동으로 학습할 수 있도록 하는 메커니즘을 개발 Introduction Neural Machine Translation: Input sentence → single, large neural netw..