비용함수 2

[ML] 지도학습 알고리즘 - 비용함수, 평가지표

■ 비용함수 로지스틱 회귀의 비용함수 또한 경사 하강법을 이용하여 최적의 w를 찾지만, 비용함수로 평균 제곱 오차를 사용하지 않는다. 로지스틱 회귀에서 사용하는 비용함수를 크로스 엔트로피(Cross Entropy) 함수라고 한다. Cross Entropy Error (CEE) 이진분류의 경우 예측값과 정답값이 2개로, 하나는 참(1)이고 두 번째는 거짓(0)이다. 따라서, 이진분류에 대한 CEE는 다음과 같다. ■ 분류모델의 평가지표 ▶ Confusion Matrix (혼동행렬) 분류 모델에서 알고리즘의 성능을 보기 쉽게 시각화 하는 테이블 형태의 레이아웃 분류 모델에 의한 분류 예측이 실제와 같은지 다른지를 표시하고 이를 평가하는 방법 실제와 예측을 비교하면서 예측과 실제가 같으면 True, 다르면 F..

[ML] 지도학습 알고리즘 - 회귀분석

■ 회귀분석(Regression Analysis) * 정의 - 매개변수 모델을 이용하여 통계적으로 변수들 사이의 관계를 추정하는 분석방법 * 용도 - 독립변수가 종속변수에 미치는 영향을 확인하고자 사용하는 분석방법 - 종속변수와 관련이 있는 독립변수를 찾을 때, 또 독립변수들 간의 관계를 이해하고자 할 때 사용 - 가격, 주가, 수량 등 연속적인 값을 갖는 연속 변수를 예측하는데 주로 활용 * 종류 - 단순회귀분석 : 하나의 종속변수와 하나의 독립변수 사이의 관계를 분석할 때 - 다중회귀분석 : 하나의 종속변수와 여러 독립변수 사이의 관계를 규명하고자 할 때 ■ 선형 관계 - 독립변수가 종속변수에 영향을 준다면 두 변수 사이에 선형관계가 있다고 할 수 있다. * 과학에서 볼 수 있는 현상 - 속도와 거리..