반응형
퓨샷 러닝을 보통 적은 양의 데이터를 가지고 인고지능을 학습시키는 방법중 하나라고한다.
세미나를 통해 느낀점은 퓨샷 러닝은 새로운 데이타가 모델에 주어졌을때 이를 잘 처리할수 있게끔 훈련시키는 방법에 더 가깝다는 점이다. 예를 들자면, 개와 고양이에 대해서 학습한 모델이 말이라는 새로운 클래스를 추가적으로 분류시킬수 있도록 하는것이다.
우선 퓨샷 러닝에서 사용하는 용어인 N-way K-shot에 대해서 알아보자.
N-way 는 N개의 클래스가 있다는 말이다.
K-shot 은 각각의 클래스에 K개의 라벨 데이타가 존재한다는 의미다.
다음은 Meta-learning 학습 방법에 대해서 알아보자.
여기서 Meta가 왜 붙었는지는 잘 모르겠다.
왼쪽의 데이타 모음이 Meta-dataset이다.
이로부터 Episode라는 것을 만들어낸다.
Support set 은 에피소드 안에있는 train set으로 이해하자.
Query set은 에피소드 안에서 훈련이 잘 되었는지 확인하기 위한 valiation set으로 이해했다.
위의 그림처럼 Meta 데이타셋으로부터 N-way K-shot에 따라 여러 에피소드를 만들어내고 훈련에 사용한다.
나는 이해하기 쉽게 mini-batch의 느낌으로 받아들였다.
기존의 퓨샷 러닝들과는 다르게 prototype이라는 뭔가 centroid 혹은 VQ-VAE의 임베딩 벡터와 같은 대표 역할을 하는 녀석을 사용하여 훈련시켰다는 것이 이 논문의 특징이다.
반응형
'딥러닝공부' 카테고리의 다른 글
[pytorch] inference시 memory leak (0) | 2021.06.18 |
---|---|
파이토치 에러 (0) | 2021.06.17 |
Unsupervised speech representation learningusing WaveNet autoencoders _ 논문 리뷰 (0) | 2021.04.07 |
A Wavenet for Speech Denoising (0) | 2021.01.04 |
Processing Sequences Using RNNs and CNNs (0) | 2020.05.24 |
댓글