NAVER AI Tech/Pytorch

9. Hyper-parameter tuning

코딩소비 2023. 11. 17. 13:49

마른 수건도 짜보자! 개념

 

성능에 있어서 영향을 끼치는 것

1. 모델

2. 데이터

3. 하이퍼 파라미터

 

이때 모델은 알려져있는바가 다 같아서 크게 중요 x

데이터가 상대적으로 중요한 추세.

하이퍼 파라미터는 마른 수건도 짜보는 마지막 쥐어짜기 단계.

 

기본적으로 grid-search / random search

- 근데 시간 너무 많이 걸림

최근엔 베이지안 기법들이 추세.