본문 바로가기
딥러닝공부

Prototypical Networks for Few-shot Learning _ 논문 리뷰_미완성

by 부자독개 2021. 4. 8.
반응형

퓨샷 러닝을 보통 적은 양의 데이터를 가지고 인고지능을 학습시키는 방법중 하나라고한다.

세미나를 통해 느낀점은 퓨샷 러닝은 새로운 데이타가 모델에 주어졌을때 이를 잘 처리할수 있게끔 훈련시키는 방법에 더 가깝다는 점이다. 예를 들자면, 개와 고양이에 대해서 학습한 모델이 말이라는 새로운 클래스를 추가적으로 분류시킬수 있도록 하는것이다.

 

 

우선 퓨샷 러닝에서 사용하는 용어인 N-way K-shot에 대해서 알아보자.

N-way 는 N개의 클래스가 있다는 말이다.

K-shot 은 각각의 클래스에 K개의 라벨 데이타가 존재한다는 의미다.

 

다음은 Meta-learning 학습 방법에 대해서 알아보자.

여기서 Meta가 왜 붙었는지는 잘 모르겠다.

왼쪽의 데이타 모음이 Meta-dataset이다.

이로부터 Episode라는 것을 만들어낸다. 

Support set 은 에피소드 안에있는 train set으로 이해하자.

Query set은 에피소드 안에서 훈련이 잘 되었는지 확인하기 위한 valiation set으로 이해했다.

 

위의 그림처럼 Meta 데이타셋으로부터 N-way K-shot에 따라 여러 에피소드를 만들어내고 훈련에 사용한다.

나는 이해하기 쉽게 mini-batch의 느낌으로 받아들였다.

기존의 퓨샷 러닝들과는 다르게 prototype이라는 뭔가 centroid 혹은 VQ-VAE의 임베딩 벡터와 같은 대표 역할을 하는 녀석을 사용하여 훈련시켰다는 것이 이 논문의 특징이다.

 

 

반응형

댓글