Deep Learning for CF

딥러닝 장점

1. Nonlinear Transformation : activate function(ReLU, Sigmoid, Tanh)

2. Representation Learning : No feature Engineering and Heterogeneous contents(multi-modality)

3. Sequence Modeling

4. Flexibility

 

딥러닝 단점

1. Interpretability

2. Data Requirement(need too large data amout)

3. Extensive Hyperparameter Tuning

 

 

 

AutoEncoder CF

- user-item matrix제작(rating 표시 등, Top-K의 경우 interaction을 발생할 확률을 입력)

- reconstruction을 통해 weight update

- inference 진행

AutoEncoder CF

**Activate function에 따라 성능 차이가 큼, Hidden layer 수나 뉴런의 수를 높이면 좀 더 좋은 성능을 보임.

 

 

 

Collaborative Denoising AutoEncoder for Top-K Recommender Systems(CDAE)

- Denoising AutoEncoder 사용(일부 interaction을 랜덤하게 0으로 수정. dropout 효과)

- Input layer에 User Node를 추가함. 이로써 User bias를 자연스럽게 모델링 가능.

 

 

Multi-VAE(Variational AutoEncoder)

- multinomial likelihood for the data distribution

- partially regularizes VAE via KL annealing

 

 

 

 

 

 

Embarrassingly Shallow AutoEncoders(in Reverse order : EASE)

- user-free 모델

- closed-form solution 유도 가능(즉 gradient 과정 없이 numpy로도 간단히 계산 가능)