NLP에서 Downstream task 란 무엇일까?

Downstream task는 pretrained model 혹은 feature를 supervised-learning task에 적용시키는 것이라고 한다.

 

어디서 많이 본 learning 방법이 생각나지 않나? 바로 Transfer learning 이다. 그래서 Transfer learning의 정의를 찾아보았다.

 

Transfer learning은 대규모 데이터 셋에서 모델을 학습한 후, pretrained 모델을 사용하여  downstream task에 대한 학습을 하는 프로세스이다.

 

 

참조

https://stackoverflow.com/questions/53248838/definition-of-downstream-tasks-in-nlp

https://medium.com/dair-ai/a-light-introduction-to-transfer-learning-for-nlp-3e2cb56b48c8