패스트캠퍼스 환급챌린지 16일차 미션 (2월 16일) : 딥러닝·인공지능 Signature 초격차 패키지 Online. 강의 후기

 

자, 오늘은 

 

Part1. 딥러닝을 시작하기전에

CH04-01. 퍼셉트론을 이용한 이진 분류

&

CH04-02. 이진 분류(1)

 

 

 

CH04-01. 퍼셉트론을 이용한 이진 분류

앞서 알아본 것과 같이 ax+b linear activation 깊은 관계를 나타낼 수가 없다.
(신경망에서 ax+b의 x 에 ax+b를 아무리 집어 넣어도 1차식 으로밖에 안나오기 때문임)

깊어지는 효과를 못낸다.

 

그래서 우리는 non-linear activation을 써야한다.

그런데 우리가 강의에서 배운 non-linear activation이 하나 있다.

Unit step function인데, 이걸로 뭘 할 수 있을까? → 이진분류

 

입력: 키와 몸무게

출력: 1(빼야할 사람), 0(쪄야할 사람) 

선형 분류에 쓰일 수있다.

중요! : hidden layer 없이 unit step function을 activation으로 사용하면 퍼셉트론 이라 함.

 

특징. 미분불가. 불연속 함수이므로 미분을 할 수가 없다.

         그리고 융통성이 없다... 모아니면 도라서 (이진 분류의 큰 특징인 것 같다.)

 

 

 

 

그래서 나온게 Sigmoid

"너무팍팍한 계단에 곡선을 주는 것입니다" 

전구간 미분이 가능하고, 좀 더 부드러운 분류가 가능한 것이다.

또한 0과 1 사이에 값이 매겨지기 때문에 확률로 표현할 수 있다. 즉 정도를 얘기할 수있다.

 

가장 멀리 찢어놓는 합리적인 기준선을 찾게 해준다.

 

CH04-02. 이진분류(1)

이미지의 사이즈가  3 x 100 x100 일때, 이미지로 분류를 해보자.(사진은 3차원 행렬이다. R, G, B 3개의채널)

100, 100 만개의 픽셀로 이루어져 있는 것!

 

한장의 데이터 사이즈는 30000개다. 이게 인공신경망에 들어가면 어떻게 표현할까?

 

출력에 필요한 node의 수는 어떻게 될까?

이진 분류에서는 단 하나만 있으면 충분하다. 1이면 강아지, 0이면 고양이 이다. 라고 머신이 판단하도록 하자.

 

강아지 사진이면 1이 나오도록, 고양이 사진이면 0이 나오도록 w, b를 계속 업데이트 해나가면 된다!

 

 

 

그래서 총 우리는 3만 1개의 그라디언트 디센트를 찾아야 하고, 3만 1개에 대한 w를 업데이트 해야한다.

(웨이티드 썸)

 

머신의 출력을 강아지 사진 확률로 정의하면 강아지가 나올 확률을 q로 해보자.

 

자 그럼 저기서 로스에 대한 미분을 해보자.

 

q =1 나오게 하자 라는 의미는 q를 키우자,

q = 0 나오게 하자 라는 의미는 1-q를 키우자 라는 의미가 되고.

 

q의 p 지수승(1-q)의  1-p 지수승의 형태를 키우자! 이렇게 한줄로 정의할 수있다.

 

데이터를 넣는 행위는 독립시행이기 때문에 곱하기, 곱하기를 키워야 예측을 잘하는 모델이 된다.

 

 

 

16일차 끝.

 

본 포스팅은 패스트캠퍼스 환급 챌린지 참여를 위해 작성하였습니다.

https://bit.ly/48sS29N