드롭킥
100
2019-07-21 16:59:09 작성 2019-07-21 18:07:40 수정됨
1
453

경사하강법 공식에 관하여 질문드립니다.


안녕하세요. 머신러닝을 공부하고 있는 초급개발자입니다.

경사하강법 알고리즘에 대해 공부하는 중 어려운점이 생겨서 이렇게 조언을 얻고자 글을 올림니다.

아래 이미지는 인프런 머신러닝 강좌인 '모두를 위한 딥러닝 - 기본적인 머신러닝과 딥러닝 강좌' 강의에서 캡처했습니다.


이미지 안에 w에 대한 정의 부분에서 학습률 알파 값을 cost(W)에 대한 미분값 Σ(Wx(i) - y(i))x(i)를 곱해주는데, 여기서 미분에 대한 공식이 왜 제곱하지 않은 손실값에 x를 곱해줘서 미분 값이나오는지 이해하는데 어려움이 있습니다. 


f(x) = x^2일때 f'(x) = 2x처럼 도함수와 관련있는건가요? 왜 미분식이 이렇게 나왔는지 논리적으로 설명해주실 수학 고수분들께 조심스럽게 도움요청 드립니다. 

0
0
  • 답변 1

  • hotvar
    2
    2019-07-21 19:24:54

    제곱하지 않은 손실값이 아니라 손실값을 미분했기 때문에 제곱수가 앞으로 빠져나간것입니다(^2 -> *2). 곱해진 x값 역시 손실함수의 wx값의 미분으로 빠져나온것이고요.


    0
  • 로그인을 하시면 답변을 등록할 수 있습니다.