ML을 해보자: 선형 모델편 (Lasso)

오랜만에 돌아온 'ML을 해보자' 입니다. 

 

오늘은 Lasso에 대해 알아볼려고 합니다. 

Lasso는 희소계수를 추정하는 선형모델입니다. 

 

Lasso는 번역하면 우리말로 올가미라는 뜻입니다. 회귀 모델로 두 변수의 선택과 정규화 결과의 예측 정밀도 및 해석 능력을 향상시키기 위한 통계적 모델입니다. 라소는 선형 회귀 모델 용으로 알려져있고 능선 회귀와 최상의 하위 집합 선택 과의 관계, 올가미 계수 추정과 소위 소프트 임계 값의 간의 연결이 포함됩니다.  

 

기존 선형 회귀에서는 가중치와 편향을 찾는 것이 가장 큰 숙제였는데요. 라소는  거기에 덧붙여서 추가 제약 조건을 주웠습니다. 어떤 제약을 줬냐하면 MSE(평균제곱오차)가 최소가 되게 하는 가중치와 편향을 찾는데 동시에 가중치들의 절대값들의 합, 즉 가중치의 절대 값들이 최소값이 되게 하는 것입니다. 다시말해 가중치가 0에 가깝게 되도록 설계해야합니다. 따라서 어떤 특성들은 모델을 만들때 사용되지 않습니다. 

 

이제 설명은 그만하고 실습해볼게요 ^^

 

 

 

 

이렇습니다. 자세한건 사이킷런 도큐먼트에 나와있습니다~