23. Transfer Learning

github에서 코드 뿐만 아니라 모델의 파라미터까지도 다운받을 수 있다.

- pretrained model 이라고 한다.

 

이후 모델의 Output layer를 수정하거나 출력을 위한 layer를 추가하여 재학습 시킨다

- 이때는 다운받은 모델의 파라미터를 학습시킬지, 학습시키지 않을지 정할 수 있다.

- 마지막 Layer만 학습시킨다고 생각하면 편하다.

- 단, 새로운 task를 위한 data가 적을 때.

 

if 새로운 task를 위한 data가 많을때는 가능한 많은 모델의 파라미터를 학습시키는것이 좋다.

새로운 task에 대한 데이터가 얼마나 있냐에 따라 전략이 달라질 수 있다.