인공지능/머신러닝 (8) 썸네일형 리스트형 ML을 해보자 (선형모델: 로지스틱 회귀편) 오늘은 제가 조금 알고 있는 모델이 나왔네요! 로지스틱 회귀는 이름에도 불구하고 회귀가 아닌 분류를위한 선형 모델입니다. 로지스틱 회귀는 문헌에서 로짓 회귀, 최대 엔트로피 분류 (MaxEnt) 또는 로그 선형 분류기로도 알려져 있습니다. 이 모델에서 단일 시행의 가능한 결과를 설명하는 확률은 로지스틱 함수를 사용하여 모델링 됩니다 ML을 해보자:선형 모델편( Bayesian Regression) 다시돌아온ML을 해보자입니다. 통계 , 베이지안 선형 회귀 에 대한 접근 인 선형 회귀 통계적 분석의 컨텍스트 내에서 수행되는 베이지안 추론 . 회귀 모델 에 정규 분포 가있는 오류 가 있고 특정 형태의 사전 분포 를 가정 하면 모델 모수 의 사후 확률 분포 에 대해 명시 적 결과를 사용할 수 있습니다 . ML을 해보자:선형 모델편(OPM: Orthogonal Matching Pursuit) ML을 해보자:선형 모델편 (Elastic Net Regression) 안녕하세요 오늘은 Elastic Net에 대해 공부해보도록 합시다. Elastic Net은 큰 데이터 셋에서 잘 작동합니다. L1, L2 norm(norm: 벡터의 크기 혹은 길이를 측정하는 방법 또는 함수입니다.)을 사용하는데 앞서 설명한 Ridge나 Lasso의 장점을 모두 가지고 있어서 변수의 수도 줄이고 분산도 줄여줍니다. 이제 한번 코딩하러 가실까요? 코드는 이렇습니다 그리고 결과는 네 Lasso와 Elastic-net을 비교하려고 구성했습니다. 감사합니다 ML을 해보자:선형 모델편 (Multi_task Lasso) 안녕하세요 이번에는 여러 테스크(Multi-task)가 있는 라소에 대해 공부해봅시다. 따로 길게 설명안하고 바로 코드 보시죠 따로 수학 부분은 말하지 않겠습니다(저번이랑 같음) ML을 해보자: 선형 모델편 (Lasso) 오랜만에 돌아온 'ML을 해보자' 입니다. 오늘은 Lasso에 대해 알아볼려고 합니다. Lasso는 희소계수를 추정하는 선형모델입니다. Lasso는 번역하면 우리말로 올가미라는 뜻입니다. 회귀 모델로 두 변수의 선택과 정규화 결과의 예측 정밀도 및 해석 능력을 향상시키기 위한 통계적 모델입니다. 라소는 선형 회귀 모델 용으로 알려져있고 능선 회귀와 최상의 하위 집합 선택 과의 관계, 올가미 계수 추정과 소위 소프트 임계 값의 간의 연결이 포함됩니다. 기존 선형 회귀에서는 가중치와 편향을 찾는 것이 가장 큰 숙제였는데요. 라소는 거기에 덧붙여서 추가 제약 조건을 주웠습니다. 어떤 제약을 줬냐하면 MSE(평균제곱오차)가 최소가 되게 하는 가중치와 편향을 찾는데 동시에 가중치들의 절대값들의 합, 즉 가중치의 .. ML을 해보자: 선형 모델편 ( 릿지 회귀 및 분류) 다시 돌아온 ML을 해보자입니다. 오늘은 선형 모델에서 회귀라는 단어도 많이 들어보셨을 것 같은데요 회귀는 즉 다시 돌아온다는 표현으로 관찰된 연속형 변수들에 대해 두 변수 사이의 모형을 구한 뒤 적합도를 측정해 내는 분석 방법입니다. 회귀의 종류로는 다중 회귀 단순 회귀가 있는데요 아시겠지만 다중회귀는 하나의 종속 변수와 여러 독립 변수를 회귀 분석으로 할 때 다중 회귀 하나이 종속 변수와 하나의 독립 변수를 회귀 분석할 때 단순 회귀라고 합니다. 아 참고로 저희가 하고 있는 회귀 분류는 Ridge(산등성이) 회귀 및 분류입니다 자 그럼 시작해 볼까요? 아래 그림처럼 되었다면 성공이 싱겁니다. 소스코드는 이렇습니다 저번처럼 소스코드 하나씩 알아보도록 할까요? 만약 여기서 언급이 안되었는데 어렵거나 모르.. ML을 해보자:선형 모델편 ( 보통 최소 제곱 ) 이제부터 간단하게 ML이론들을 하나하나씩 구현해볼려고 합니다 맨 처음시작은 많은 분들께서 가장 많이 알고있는 선형 모델인 보통 최소 제곱을 해볼려고 합니다 아마 ML을 조금이라도 공부하셨다면 ML은 크게 종류가 3가지인걸 아실겁니다 1. 지도, 비지도, 준지도, 강화학습 2. 온라인 학습과 배치 학습 3. 사례 기반 학습과 모델 기반 학습 당연히 지금 저희가 하고 있는 보통 최소 제곱 모델은 1번에 지도 학습이겠죠? 설명은 여기까지하고 코드를 봅시다 참고로 지금 현재 코드는 사이킷런 튜토리얼 사이트를 참고하여 만들고 설명하고 있습니다 먼저 import부분입니다 그 다음 코드부분으로 가시죠 만약 캡쳐사진을 따라 코드를 작성하셨다면 맨 처음 제가 보여드렸던 그래프가 생기실겁니다(pycharm기준) impor.. 이전 1 다음
