Generative Model 기초 이론부터 실무 적용까지!

PyTorch를 활용한
Generative Model 입문 CAMP

  • generative model 이해를 위한
    베이지안 이론 및 확률통계

  • GAN과 VAE
    최신 기술 이해

  • pytorch를 활용한
    generative model 실습

  • 기간

    2019년 3월 2일
    ~ 2019년 4월 20일
    (주 1회, 총 8주)

  • 일정

    매주 토요일
    10:00 - 13:00
    (회당 3시간,총 24시간)

  • 장소

    패스트캠퍼스
    강남 강의장

  • 문의

    이샘 매니저
    02-518-4822
    help-ds@fastcampus.co.kr

강의 목표 .

Generative Model 기초 베이스(베이지안 이론 및 확률통계)부터 최근 모델인 GAN과 VAE까지 학습하는 것.

대표적인 비지도학습 모델인
Generative Model 활용예시.

Generative Model이 이미지에 많이 활용되었지만, 최근에는 음성이나 자연어 등의 데이터에도 활용되고 있습니다. 머지않아 음성 생성과 편집, 음성 변환이나 복원 등도 가능하여 질 것으로 예상됩니다. 이 밖에도 다양한 분야에서 Generative Model을 적용하기 위해 활발히 연구가 이뤄지고 있습니다. 본 강의에서는 특히 대표적인 Generative Model인 GAN과 VAE에 대해 중점적으로 다룹니다.

강의 특징.

icon_test

비지도학습의 일종인
Generative Model을 활용한
데이터라벨링 문제해결법 학습

하나의 물체를 인식하는 모델을 학습하려고 해도, 수 만장의 영상 데이터를 라벨링을 해주어야 합니다. 실제 회사에서는 한정된 인원과 시간으로 수만장의 데이터의 라벨링 작업을 하기란 쉽지 않습니다. Generative Model을 활용한다면 이와 같은 데이터라벨링에 대한 인사이트를 제공하여 효율적으로 문제해결할 수 있는 방법을 찾아볼 수 있습니다.

icon_knowhow

GAN을 활용해 한정된 데이터로도
모델의 성능을 향상시키는 법 학습

Deep Learning, Machine Learning에 관심은 있으나 본인이 가지고 있는 데이터가 적어 이를 활용할 수 없다고 생각하신 분들이 많으실 거라 생각합니다. 제대로 된 분석을 위해서는 몇백, 몇천의 데이터는 보유해야 하니까요. 하지만 데이터 수집이 어려운 경우도 있고, 한정된 데이터로만 분석을 해야하는 경우도 생기기 마련입니다.이 때, GAN을 이용한다면 적은 데이터로도 다양한 학습데이터를 충분히 만들어 모델의 성능향상 및 accuracy를 한층 더 높여 줄 수 있습니다.

icon_project

체계적인 수식/통계 설명과
다양한 활용 사례 공유

GAN과 VAE 등 Generative Model도 다른 딥러닝 모델과 같이 블랙박스로 생각하여 동작원리를 설명하기 힘들거라 예상합니다. 하지만 Generative Model은 어느 정도 수학적 설명이 가능합니다. 즉, 논리적으로 설명할 수 있는 Deep Learning이란 얘기입니다. 딥러닝으로 학습된 결과를 수학적으로 설명가능하기 때문에 실제 현업에서 많은 활용을 할 수 있습니다. 그러나 많은 사람들이 수학적/통계적 허들로 인하여, 블랙박스 일 것이라는 잘못된 생각으로 인하여 시도조차 하지 않습니다. 본 강의에서는 강사님께서 수식적인 설명 뿐만 아니라 모델의 활용예시를 직관적으로 제시하여 주시기 때문에 수식의 이해와 함께 gan, vae 등의 모델링까지 할 수 있는 수준까지 이를 수 있습니다.

커리큘럼.

1회차 : Generative Model의 초석이 되는 기초 이론

이론
-가장 기초적이고 핵심적인 Generative Model들
– Gaussian Discriminant Analysis, Gaussian Mixture Model, Naive Bayes
– Discriminator Model과 Generative Model의 차이
– EM-algorithm

실습
– 기본 PyTorch 라이브러리 및 모듈 사용법
– Gaussian Mixture Model : EM-algorithm 구현 실습

2회차 : 기초 정보 이론및 Variational Inference

이론
– 기초 정보 이론, 확률 및 Bayesian Theorem
– 변분 추론 (Variational Inference)

실습
– Variational Inference with Coin-Toss 구현 실습
– Probabilisitic (Gaussian) Layer 구현 실습

3회차 : 대표적 Deep Generative Model ① VAE (Variational Auto-Encoder)

이론
– VAE (Variational Auto-Encoder)
– VAE 장단점과 이슈
– (Semi-) Supervised Learning with VAE (CVAE and its variants)Controllable Data Generation

실습
– Variational Auto-Encoder 구현
– Conditional Variational Auto-Encoder 구현

4회차 : 대표적 Deep Generative Model ② GAN (Generative Adversarial Network)

이론
-GAN (Generative Adversarial Network의 이해 및 이론)
– Game Theory / Adversarial Training
– GAN 구현 이슈 및 장단점 (GAN vs VAE 비교)

실습
– 기본 GAN / DCGAN 구현 실습

5회차 : Improved GAN and VAE

이론
-(Semi-) supervised Learning with GAN
– CGAN, SGAN, CatGAN, ACGAN, InfoGAN
– Improved GAN Objective and Training Stability
– LSGAN, AAE(Adversarial Auto-Encoder)

실습
– InfoGAN / AAE 구현 실습

6회차 : Recent Applications of Generative Models

이론
– Super-Resolution (EnhanceNet)
– Simulation (SimGAN)
– Domain Transfer (Pix2Pix, CycleGAN)
– Anomaly detection with GAN (AnomalyGAN)

실습
– Pix2Pix / CycleGAN 구현 실습

7회차 : Other Important Deep Generative Models

이론
– Auto-Regressive Model (PixelRNN / PixelCNN / WaveNet)
– Bayesian Neural Networks (Data / Model Uncertainty)
– Mixture Density Network (MDN)

실습
– PixelCNN / MDN (Mixture Density Network) 구현 실습

8회차 : Generative Model 리뷰 및 활용

이론
-Unsupervised Learning과 Generative Model의 연관성 및 개념 총정리
– Self-Supervision, Semi-Supervision
– Positive / Negative mining, Simulation

실습
– TBA

실습 예시.

VAE learning to generate images

GAN learning to generate images

추천 대상.

icon_man3_2_happy

GAN과 VAE를 공부해보려 했지만,
어려움을 겪고 포기한 분

icon_man4_2_happy

Generative model 이론은 공부했지만
실제 구현 방법은 모르겠는 분

icon_woman4_2_happy

Generative Model에 대한
최신 논문을 꼼꼼히 리뷰하고
실무 활용법을 배우고 싶은 분

강사 소개.

unnamed-3

강사 전인수

[ 약력 ]
● 서울대학교 – 시각 및 학습 연구실, 박사과정, 딥러닝 및 컴퓨터 비전, 2016 ~ Present
● 서울대학교 – AILAB 연구실, 석사, 기계학습 및 컴퓨터 비전 2013 ~ 2016
● University of California, Los Angeles, 학사, 컴퓨터 공학 전공, 통계학 부전공, 2009 ~ 2012

[ Teaching Experience ]
● 2014~2015 기계학습 (Machine Learning) 과목 조교
● 2017 컴퓨터 비전 (Computer Vision) 과목 조교
● 2017 서경대학교 딥러닝 특강
● 2017 서울대학교 4차 산업혁명 아카데미 선행교육 강사 – 선형대수 및 확률, 조합론
● 2017 패스트캠퍼스 챗봇 딥러닝 세미나 CAMP 2,3기 조교
● 2017 서울대학교 빅데이터 아카데미 – 빅데이터 엔지니어 과정 – 딥러닝 이론 강의 및 실습
● 2017 서울대학교 Probabilistic Graphical Model 과목 조교

증명사진_2017

조교 편명장

[ 약력 ]
현) 서울대학교 시각 및 학습 연구실, 딥러닝 및 컴퓨터 비전 연구
전) 연세대학교 의과대학 이론뇌시스템과학 연구실, 딥러닝을 이용한 음성 감정 분석 연구
전) 연세대학교 소프트컴퓨팅 연구실, 딥러닝을 이용한 화자식별 연구

[ Teaching Experience ]
– 2018 서울대학교 빅데이터 아카데미, 빅데이터 엔지니어링 과정, 실습조교

강의와 관련해 궁금한 내용은 강의뿐아니라 Facebook 그룹을 통해서 언제든 질문을 받고 있습니다. 수료 후에도 궁금한 내용이 있으시면, 본 강의 수강생만을 위해 운영되는 Facebook 그룹을 활용해주세요!

수강 후기.

수업에서 Generative Model을 이용한 Semi-supervised, Unsupervised Model에 관한 여러 논문을 소개해주는 수업을 들으면서, GAN을 이용한 데이터 부족 문제를 해결할 수 있는 인사이트를 얻게 되었습니다. 추후 포스팅 이미지 분석할 때, 수업에서 배운 지식을 적용해 볼 예정입니다.

연구가 활발한 만큼 다양한 GAN 모델이 쏟아져 나오고 있습니다. 이 수많은 GAN이 쏟아져 나오는데 현업에서 일하는 경우 이 모든모델을 적용해보기엔 시간도 아깝고, 그만한 인력도 없는 곳이 대부분이라 생각이 드네요. 그런 시간을 최소화시켜주고, 적절한 모델을 빠르게 찾아갈 수 있도록, 주요 GAN에 대해 바로 적용이 가능하도록 짧은 시간에 효율적으로 배웠습니다.

다양한 Generative Model들의 개념적 이해와 해당 모델들의 구조적 특징을 배웠던 것이 가장 좋았습니다. 무수히 많은 Generative Model들을 모두 다룰 수는 없지만 그 안에서 중요하고 핵심이 되는 모델들을 발전과정에 따라 배움으로써 Generative Model의 굵직한 흐름을 이해 할 수 있었습니다. 그 과정에서 수식적인 부분도 세심하게 다루어 주셔서 논문 이해에도 많은 도움이 되었습니다.

수강 전에 꼭 확인하세요!

아래 항목 중 2개 이상 yes라고 답하실 수 있어야,
수강에 어려움이 없습니다.

1) 대학에서 확률/통계 기초 교양 수업을 수강한 적이 있다.

2) 딥러닝을 공부한 경험이 있다.

3) PyTorch를 사용해본 경험이 있다.

위 항목 중 2개 이상 No라고 답하신 경우, 진도를 소화하기 어려울 수 있습니다. 다만, 수강 전 아래 강의를 통해 예습하고 오시면 수강이 가능합니다. 자세한 내용은 꼭 담당매니저와 상의해주세요.

# 김성훈 교수님의 PyTorch 딥러닝 입문 강좌 (보러가기 ▶)
# PyTorch 튜토리얼 (보러가기 ▶)
# Bayesian statistics : a comprehensive course(보러가기 ▶)
# 세상에서 가장 쉬운 베이즈 통계학 입문 (참고 서적)

수강료 안내.

Generative Model 기초 이론부터 실무 적용까지!

PyTorch를 활용한 Generative Model 입문 CAMP

일    정 2019.3.2.~ 2019.4.20.
매주 토요일 10:00 ~ 13:00 | 총 8회
준비물 개인 노트북 사용 추천
(본인 PC에 맞는 개발 환경 설정 및 원활한 개별 실습을 위하여)
장    소 강남역 4번출구 부근
문    의 이샘 매니저 : 02-518-4822
궁금하신 사항이 있으면 언제든 연락주세요 🙂

정가:150만원

조기마감하였습니다.

※할인가는 매주 목요일 자정에 변경됩니다.
※ 카드 12개월 무이자 할부 가능!

출알신청하기

강의 장소.