3. Basic recipe for machine learning

1. check high bias ? 

- training data performance

- and then, more iteration or change to bigger network

 

2. check high variance ?

- dev set performance

- more data always work

- Regularization or chage to bigger network

 

1-2를 반복.

 

딥러닝 시대 이전. "bias vs variance trade off"

- 빅데이터 + 딥러닝모델 시대에서는 bias를 크게 해치지 않으면서 variance를 줄일 수 있다!