9. Hyper-parameter tuning

2023. 11. 17. 13:49NAVER AI Tech/Pytorch

마른 수건도 짜보자! 개념

 

성능에 있어서 영향을 끼치는 것

1. 모델

2. 데이터

3. 하이퍼 파라미터

 

이때 모델은 알려져있는바가 다 같아서 크게 중요 x

데이터가 상대적으로 중요한 추세.

하이퍼 파라미터는 마른 수건도 짜보는 마지막 쥐어짜기 단계.

 

기본적으로 grid-search / random search

- 근데 시간 너무 많이 걸림

최근엔 베이지안 기법들이 추세.

'NAVER AI Tech > Pytorch' 카테고리의 다른 글

10. GPU OOM(Out Of Memory) 해결방법  (0) 2023.11.17
8. multi-GPU  (0) 2023.11.17
7. pytorch monitoring tools  (0) 2023.11.17
6. 모델 저장, 불러오기  (0) 2023.11.17
5. pytorch dataset  (0) 2023.11.16