Machine Learning/Dimensionality Reduction
2022. 12. 21.
Supervised Selection - Forward/Backward/Stepwise
Wrapper는 variable selection 방법 중 하나로 반복되는 알고리즘을 사용하는 지도 학습 기반의 축소 알고리즘이다. Wrapper에는 forward selection, backward elimination, stepwise selection, genetic algorithm이 존재한다. 1. Exhaustive Search(ES) Exhaustive Search(ES, 완전탐색)는 variable selection 중 가장 단순한 방식이다. 예를 들어, $x1, x2, x3$ 데이터가 존재하는 경우, ES 방법을 사용하면 다음과 같이 가능한 모든 조합을 찾는다. $$f(x_1), f(x_2), f(x_3) $$ $$f(x_1, x_2), f(x_1, x_3), f(x_2, x_3)$$ $..
