🌷나의 선인장🌵

Logistic Regression 범주형 변수 예측 모델 Logistic Regression을 알기전에 linear regression을 먼저 알아야. Multiple Linear Regression (다중선형회귀) 수치형 설명변수 X와 연속형 숫자로 이뤄진 종속변수 Y간의 관계를 선형으로 가정하고 이를 가장 잘 표현할 수 있는 회귀계수를 데이터로부터 추정하는 모델 이때 회귀계수는 모델의 예측값과 실제값의 차이(오차제곱합 error sum of squared)을 최소로 하는 값 설명변수가 p개인 다중선형회귀의 일반 식 예시 - 1 나이와 혈압 데이터가 주어졌을 때, 오차제곱합을 최소로 하는 회귀계수 구하기 설명변수 X : 나이 종속변수 Y : 혈압 앞서 종속변수 Y는 ‘혈압’으로 연속형 숫자였음. 그렇..

단순선형회귀 하나의 특성을 이용해서 타겟 예측 y = wx + b y : 예측값 x : 특성 w : 가중치/계수(coefficient) b : 편향(offset) 주어진 sample data들을 이용하여 가장 적합한 w와 b를 찾아야 함 -> 보통 경사하강법(gradient descent)를 이용해서 찾는다 다중선형회귀 여러 개의 특성을 이용해서 타겟 예측 y = w0x0 + w1x1 = w2x2 + ... + b 역시 MSE를 최소화하는 가장 적합한 w들과 b를 찾는 것이 목표 문제 : 과대적합 될 때가 종종 있다 => 일반화 능력이 떨어진다 릿지(Ridge)와 라쏘(Lasso) 방법으로 해결