본문 바로가기
AI/딥러닝

[AI 부트캠프] DAY 98 - 트랙학습 CV 12

by HOHHOH 2023. 12. 8.

[오늘의 일지]

트랙학습 녹화 강의 - Few-shot Learning, Meta-learing

[상세 내용]

Few-shot Learning

- Few-shot Learning은 기계 학습의 한 분야로, 모델이 매우 적은 양의 예제 데이터로도 새로운 작업을 학습하고 수행할 수 있도록 하는 기술을 다룹니다. 일반적으로 기계 학습 모델은 많은 양의 훈련 데이터가 필요하며, 이 데이터를 사용하여 모델이 일반적인 패턴과 특징을 학습하게 됩니다. 그러나 Few-shot Learning에서는 매우 제한된 양의 훈련 데이터만 사용할 수 있습니다. 이러한 상황에서 모델은 새로운 작업을 학습하기 위해 몇 개의 (일반적으로는 1개에서 10개 사이) 예제만을 사용합니다. 이것은 현실 세계에서 많은 작업이 적은 양의 레이블링 된 데이터만으로 이루어진 경우에 유용합니다.

 

출처:https://www.kdnuggets.com/2020/03/few-shot-image-classification-meta-learning.html

 

Meta-learning

- Few-shot Learning에서 Meta-learning은 중요한 개념 중 하나입니다. Meta-learning은 모델이 작은 "메타 훈련 세트"에서 학습하고, 이러한 작은 작업에서 얻은 지식을 사용하여 새로운 작업을 수행할 수 있도록 하는 방법입니다. 

 

Meta-learning 관련 개념

Training Set

  • 훈련 세트는 기계 학습 모델을 훈련시키는 데 사용되는 큰 데이터셋을 의미합니다. 모델은 이 세트에 포함된 레이블이 지정된 예제들을 사용하여 데이터의 패턴, 관계, 특징을 학습합니다.

Support Set

  • 지원 집합은 Few-shot Learning 작업에서 사용되는 작은 데이터의 하위 집합입니다. 주로 모델이 메타 훈련 단계에서 다양한 작은 작업에 노출될 때 각 작업에 대한 지원 집합이 정의됩니다. 지원 집합은 모델이 학습하고 새로운 작업에 대해 일반화하기 위한 예제를 제공합니다.

Query Sample

  • 쿼리 샘플 또는 쿼리 세트는 모델이 지원 집합에서 학습한 후에 성능을 평가하기 위해 사용되는 데이터 세트입니다. 이는 모델이 쿼리 샘플을 기반으로 예측하거나 분류해야 하는 예제들로 구성됩니다.

Similarity Measure

  • 유사성 측정은 두 데이터 포인트 또는 데이터 집합이 얼마나 비슷한지를 측정하는 데 사용됩니다. Few-shot Learning에서는 주로 지원 집합의 예제들과 쿼리 세트의 예제들을 비교하는 데 유사성 측정이 활용됩니다. 이 측정은 모델이 지원 집합에서 학습한 지식을 얼마나 잘 쿼리 세트에 전이할 수 있는지를 결정하는 데 중요한 역할을 합니다. 주로 사용되는 유사성 측정 방법으로는 코사인 유사도, 유클리드 거리 등이 있습니다.

 

[마무리]

 오늘은 Few-shot Learning와 Meta-learing에 개념에 대해서 공부했습니다. 수업에서는 실습 과정도 포함되어 있었지만 저는 개념을 익히는 정도로만 이해하고 넘어가기로 해서 실습 내용을 따로 정리하지는 않았습니다. 나중에 시간이 되면 복습하면서 실습도 해보면 좋을 거 같습니다. 그리고 사실 오늘이 부트캠프의 공식적인 수업일정의 마지막 날이었습니다. 앞으로는 프로젝트만 두 번 하면 부트캠프도 마무리될 거 같습니다. 다만 마지막 프로젝트는 거의 한 달이 넘는 기간이기 때문에 그때 따로 공부할 시간이 많을 거 같습니다.

반응형

댓글