logとの合成関数 log f(x) の微分であたふたしたので証明についてメモ

 \begin{equation}\frac{\partial}{\partial u_{k}}  (\log \sum \limits_{k} \exp{(u_{k}})) = \frac {\exp{(u_{k})}}{ \sum\limits_{k} \exp{(u_{k})}} 　　　\\
\end{equation}\\
\scriptsize * ここでの\logは 自然対数なので底はeね。

\small 合成関数「\log f(x)」の形のものを微分（ここでは偏微分）している\\

\{ \log f(x)\}' = \frac{1}{f(x)} \cdot f'(x)

\small y= f(u),　u = g(x) 　のとき、u=g(x)　を　y=f(u)に代入すると、\\

\small y=f(g(x)) \\

\smallとなる。\\

\small これを y=f(u), u = g(x)の合成関数という。

\small 合成関数の導関数は、

\frac {d{y}}{d{x}} = \frac {d{y}}{d{u}} \cdot \frac {d{u}}{d{x}}

\small あるいは

\small 合成関数　y = f(g(x))　を導関数の定義にもとづいて微分します。

 \begin{split}
\frac{dy}{dx} &= \lim_{h \to 0 } \frac{f(g(x + h)) - f(g(x))}{h}\\
&= \lim_{h \to 0 } \{ \frac{f(g(x + h)) - f(g(x))}{g(x+h)-g(x)} \cdot\frac{g(x+h) - g(x)}{h} \}\\
\end{split}

\small ここで、

\small g(x+h)-g(x) = j ,　u=g(x)とおくと

\small g(x+h) = g(x) + j = u + j　となる。

\small よって、

= \lim_{h \to 0 } \lbrace\frac{f(u + j) - f(u)}{j} \cdot \frac{g(x+h) - g(x)}{h} \rbrace \\

\small となる。このときh \to 0ならば、j \to 0となる。

\small よって、

= \lim_{j \to 0 } \lbrace\frac{f(u + j) - f(u)}{j} \rbrace \cdot \lim_{h \to 0}\lbrace\frac{g(x+h) - g(x)}{h} \rbrace \\

= f'(u) \cdot g'(x)\\

= \frac {d{y}}{d{u}} \cdot \frac {d{u}}{d{x}}

\small である。ここで、

\frac {d{y}}{d{x}} =\{ f(g(x))\}'\\

 \frac {d{y}}{d{u}} = \{ f(u)\}' = f'(u) = f'(g(x))\\

 \frac {d{u}}{d{x}} = \{ g(x)\}' = g'(x)\\

\small であるので、

\{ f(g(x))\}' =  f'(g(x)) \cdot g'(x)\\

\smallとなる。
\\また、

(\log{x})' = \frac{1}{x}　

\small であるので（普通の対数の微分についてはもういいってことで。。。）、

\small 対数とf(x)の合成関数　\log f(x)　を微分すると、

\{ \log f(x)\}' = \frac{1}{f(x)} \cdot f'(x)\\

\small となる。

 \frac{\partial}{\partial u_{k}}  (\log \sum \limits_{k} \exp{(u_{k}})) = \frac {\exp{(u_{k})}}{ \sum\limits_{k} \exp{(u_{k})}} 　　　(1)\\

f(u_k) = \sum_k \exp(u_k)

\small と考えると、

\{ \log f(u_k)\}' = \frac{1}{f(u_k)} \cdot f'(u_k)\\

\small ということ（u_kで偏微分）であって、ここで、

f'(u_k) = \{\sum_k \exp(u_k)\}'
\small の部分は、u_kで偏微分しているため\\\exp(u_k)がかかっている項だけが残るので、

 \begin{split}
\{ \log f(u_k)\}' &= \frac{1}{f(u_k)} \cdot f'(u_k)\\
&= \frac {1}{ \sum\limits_{k} \exp{(u_{k})}} \cdot \exp{(u_{k})} \\
&= \frac {\exp{(u_{k})}}{ \sum\limits_{k} \exp{(u_{k})}} \\
\end{split}