통계 톺아보기/02.Regression (1) 썸네일형 리스트형 [03_01_01] L1, L2 norm, Regularization 일반적으로 Over-fitting 문제를 해결하기 위한 방법으로 3가지 방법을 사용합니다. 1. 기존보다 더 많은 데이터를 이용하기 2. Feature 개수를 줄이기 3. Cross-Validation 4. Regularization(정규화) 언급한 4가지 중에서 Regularization 을 이해하기 위해, Norm을 먼저 이해하고자 합니다. Norm Norm은 벡터의 길이 혹은 크기를 측정하는 방법(함수) 이다. 두 벡터 사이의 거리를 측정하는 방법이기도 하다. 수식에서 p는 Norm의 차수를 의미한다. p=1 이면, L1 Norm 이고, p=2 이면, L2 Norm을 의미한다. n은 벡터의 원소 수이다. 1. L1 Norm p=1 인 Norm이며, L1 Norm을 Taxicab Norm 혹은 맨허튼.. 이전 1 다음