open:gpt

GPT

Improving Language Understanding by Generative Pre-Training

주요 연관 모델 용어 구분 방법
GPT-1 파인 튜닝 fine tuning 기존 모델에 다른 자업에 대한 추가 데이터를 이용하여 추가 훈련을 실시ㅣ하여 모델을 학습시키는 방법. 입력값으로 제공하는 수준을 넘어 모델 가중치 자체를 매번 업데이트해야 함
GPT-2 제로샷 러닝 zero-shot learning 입력값으로 주어진 예시가 없고, 해야 하는 작업의 명세만으로 다른 작업에 기존 모델을 그대로 사용하는 방법
GPT-3 퓨샷 러닝 few-shot learning 기존 모델에 입력값 몇 개를 예시로 해서 다른 작업을 수행하도록 학습시키는 방법
원샷 러닝 one-shot learning 기존 모델에 하나의 입력값을 에시로 해서 다른 작업을 수행하도록 학습시키는 방법

  • open/gpt.txt
  • 마지막으로 수정됨: 2021/12/30 12:26
  • 저자 127.0.0.1