로지스틱 회귀 모델 구현과 시그모이드 함수

- 2023.03.20

 

---

로지스틱 회귀

로지스틱 회귀 (Logistic regression)

 

: 선형 결합을 이용하여 사건의 발생 가능성을 예측하는 데 사용되는 통계 기법

• 참과 거짓 중 하나를 내놓는 과정
• 참(1)과 거짓(0) 사이를 구분하는 S자 형태의 선

출처:Amazon AWS

 

시그모이드 함수 (Sigmoid Function)

: S자 형태로 그래프가 그려지는 함수로, 항상 범위 [0,1] 사이에 있도록 함

 

▷ ax + b 

• a값 증가시 경사가 커지고, a값 감소시 경사가 작아짐
  • a값과 오차와의 관계 : a 감소시 오차는 무한대로 증가, but a  증가시 오차가 사라지진 않음
• b값은 그래프의 좌우 이동을 의미함
  • b값과 오차와의 관계 : b 값이 너무 크거나 작을 경우 오차 증가

 

로그 함수 (Logarithmic Function)

• 선형 회귀에서의 평균 제곱 오차 함수 = 로그 함수에서의 교차 엔트로피 오차 (Cross Entropy Error)
• 실제 값이 1일 때 예측 값이 0에 가까워지면 오차가 커지는 것을 공식으로 만듦
  • 파란색 (실제 값이 1) - 예측 값이 1일 때, 오차가 0. (예측 값이 0에 가까울수록 오차는 커짐)
  • 빨간색 (실제 값이 0) - 예측 값이 0일 때, 오차가 X. (예측 값이 1에 가까울수록 오차가 매우 커짐)

 

 

TensorFlow로 로지스틱 회귀 모델 구현

 

• API 호출

 

• 데이터 준비

 

• 모델 실행 

 

• 교차 엔트로피 오차 함수를 이용하기 위해 'binary_crossentropy'로 설정

 

• 그래프로 확인

 

• 임의의 학습 시간을 입력해 합격 예상 확률 예측