[Meta Learning] Few-Shot Learning을 알아보자!

1. Background
#

들어가기 전에 먼저 Few Shot Learning을 포함하는 개념인 Meta Learning이라는 개념을 먼저 짚고 넘어가고자 한다.

AI는 궁극적으로 AGI(Artificial General Intelligence, 일반 인공지능/범용 인공지능)로 나아갈 수 있어야하는데, Meta Learning은 AGI로 나아가는데 매우 중요한 디딤돌이 될 개념으로, 사람의 인식과정과 유사하게, “구분하는 방법"을 배우는 개념이다.

차이점을 구분하는 방법을 배운다


구분	학습방법
전통적 Deep Learning	아르마딜로 사진 1000장 vs 천산갑 사진 1000장 반복 학습
Meta Learning	두 Class의 차이점을 구분하는 방법을 학습

예를들어 천산갑과 아르마딜로를 전혀 보지 못한 어린아이가 위 사진(support set)만으로

Query 사진의 동물을 분류한다고 생각해보자.

→ 아마, 어린 아이는 아주 쉽게 query가 ‘천산갑’임을 알 수 있을 것이다.

HOW?
#

사람은 데이터가 충분하지 않더라도 제시된 자료간의 차이점을 이해하는, 즉,**“구분하는 법”**을 배웠기 때문이다.

이렇게 사람의 인지과정과 유사하게 “구분하는 방법을 배우는 것"을 구현하는 학습 방법을 ‘Meta Learning’이라고 한다.

2. Few-Shot Learning ?
#

Few Shot Learning은 이름처럼 아주 작은 데이터만으로 학습이 가능하다는 의미인가?

→ NO!
#

Few Shot Learning은 Meta Learning의 방법론에 착안한 하나의 학습방법이며,

**“배우는 법”**을 배우기 위해서는 결국 “많은” 데이터가 필요하다.

다만, 기존의 학습방법과 다른점은 구분하려는 문제(아르마딜로냐 천산갑이냐)의 데이터는 Training set에 없어도 된다는 것이다.

→ pre-trained model을 활용한 medical image segmentation task에 적용해볼만하다.

선행 학습이 필요한 Training Set

1. 기존 Supervised Learning :

Training set에 있는 Class에 해당하는 데이터를 예측

기존 Supervised Learning

2. Few Shot Learning :

Training set에 없는 Class를 맞추는 문제

Few Shot Learning

Few Shot Learning을 위해서는 아래 세가지 Data set이 필요하다


데이터 종류	Desc.
Training Set	prediction해야할 class와 관련없는 데이터들로 먼저 학습을 진행 → 차이점을 토대로 class를 분류하는 방법을 학습
Support Set	예측할 class와 관련된 1개(one-shot) 또는 n개(few-shot)의 support set을 학습
Query image	예측할 data를 Input

Few Shot Learning은 “Support Set"의 형태에 따라 Accuracy가 달라진다.

Support set의 클래스 개수와 샘플 수(데이터 개수)에 따라k-way(k개의 클래스), n-shot(클래스별 데이터 개수)로 표현하는데,

클래스가 많아질수록, 클래스별 데이터가 적을수록 정확도는 낮아진다.