RESEARCH/MATH2 sigmoid, tanh 함수 미분 Logistic Sigmoid (Activation) Function 미분 $$g\left(a\right) = \frac{1}{1+e^{-a}}$$ Using $$ \frac{d}{dx} \left( \frac{u}{v} \right) = \frac{v\left(du/dx\right) - u\left(dv/dx\right)}{v^{2}},$$ $$ g'\left(a\right) = \frac{e^{-a}}{\left( 1 + e^{-a} \right)^2} = \frac{1 + e^{-a} - 1}{\left( 1 + e^{-a} \right)^2} = \frac{1}{\left( 1 + e^{-a} \right)} - \frac{1}{\left( 1 + e^{-a} \right)^2}$$ $$= \fr.. 2015. 3. 27. 원점에서 판정경계까지의 거리 판별식이 아래와 같을 때, $$y\left(\mathbf{x}\right) = \mathbf{\omega}^{T}\mathbf{x} + \omega_{0}$$ 판정경계(hyperplane)는 아래 그림과 같이 나타낼 수 있다. 거리 $l$은 원점에서 판정경계까지의 거리로 다음과 같이 정리 된다. $$ l = \frac{\mathbf{\omega}^{T}\mathbf{x}}{\lVert \mathbf{\omega}\rVert} = - \frac{\omega_{0}}{\lVert \mathbf{\omega} \rVert } $$ 이를 다시 풀어 정리해 보면, 아래 그림과 같이 벡터 $\mathbf{x}$는 벡터 $\omega$ 위로 정사영된 $proj_{\omega}^{\mathbf{x}}$와 $\mathb.. 2015. 1. 19. 이전 1 다음