1. Orthogonalization

Orthogonalization : 직교화. 무슨의미?

- 차 컨트롤러 : 핸들, 엑셀, 브레이크.

- if 조이스틱(0.3 각도, -0.8 브레이크, 2엑셀)이 있다면 미세하기 조절하기가 훨씬 힘들다. 

- 따라서 하나의 변수가 하나의 효과만 가져오도록 하는 것을 직교화(Orthogonalization)이라고 한다.

직교로 이루어져 하나의 변수가 다른 변수에 영향을 안미친다(=곱이 0이다)

 

ML 에서 직교화?

if 학습이 잘 되지 않는 경우 : bigger network , change optimizer etc...

if 검증이 잘 되지 않는 경우 : Regularization, bigger train set

if 실험이 잘 되지 않는 경우 : bigger dev set

if real world에서 성능이 좋지 않은 경우 : change cost function, change dev set

 

이렇게 각 부분별로 수정해야할 전략(변수)들이 직교화처럼 이루어져있는데, 자세한거는 이번주 강의를 통해 알아보자.

중요한건 네 가지중에 무엇을 고쳐야하는지 인지하는 것.