교육/혁펜하임의 AI DEEP DIVE

Chapter5 이진분류와 다중분류

zzangyeah 2023. 2. 5. 08:25
728x90

chapter5-1 선형분류와 퍼셉트론

unit step function

선형분류에 쓰일 수 있음

hidden layer없이 unit step function을 activation으로 사용하면 퍼셉트론

unit step function을 3d로 보면 이런 형태!

단점

  1. 미분불가(gradient descent 못  씀)
  2. 너무 빡빡하게 분류

sigmoid

파란선이 sigmoid

  1. 전구간 미분 가능
  2. 좀 더 부드러운 분류 가능

확률(혹은 정도)로 해석가능

가장 멀리 분류하는 합리적인 분류 기준 선을 찾게 됨

chapter5-2 Sigmoid를 이용한 이진 분류

chapter5-3 MSE vs likelihood(왜 log-likelihood를 써야할까)

-log q가 훨씬 더 민감함(1이 나와야하는데 0이 나왔다면? (q-1)^2은 1, -log q 는 무한)

chapter5-4 인공신경망은 'MLE 기계'다!

chapter5-5 softmax를 이용한 다중 분류(결국 MLE라는 뿌리)

chapter5-6 summary

 

 

 

 

본 게시글은 패스트캠퍼스 [혁펜하임의 AI DEEP DIVE] 체험단 활동을 위해 작성되었습니다.

https://bit.ly/3GV73FN