第4回プログラマのための数学勉強会のノート (多変数関数の微分法 / 方程式の数値解法)
このページはプログラマのための数学勉強会を聴講したときの個人的なノートである。
第4回プログラマのための数学勉強会(2013/10/03)の資料
http://nineties.github.io/math-seminar/4.html
第4回プログラマのための数学勉強会(2013/10/03)の動画
http://www.youtube.com/watch?v=KhMVwkLOoMg
多変数関数の微分法(続き) 2013/11/17
http://nineties.github.io/math-seminar/4.html#/3
- 一変数関数の微分係数での近似式
- \[ \begin{align} \Delta f &= f(x+\Delta x) - f(x) \\ &= f^{\prime}(x) \Delta x + \mathcal{O}(\Delta x^2) \\ &= \frac{df}{dx}(x) \Delta x + \mathcal{O}(\Delta x^2) \end{align} \]
- 二変数関数の微分係数での近似式
- \[ \begin{align} \Delta f &= f(x+\Delta x, y+\Delta y) - f(x,y) \\ &= \frac{\partial f}{\partial x}(x, y) \Delta x + \frac{\partial f}{\partial y}(x, y) \Delta y + \mathcal{O}(\Delta x^2 + \Delta y^2) \end{align} \]
- 全微分可能
- 多変数関数の増分 \( \Delta f \) を独立変数の増分 \( \Delta x \), \( \Delta y \) で表せること
- 全微分可能なとき、\( \Delta x_i \) を十分小さくして以下のように表す \[ df = \sum_i \frac{\partial f}{\partial x_i} dx_i \]
- 勾配 \( \mathrm{grad} f(\mathbf{a}) = \left( \frac{\partial f}{\partial x_1}(\mathbf{a}), \cdots, \frac{\partial f}{\partial x_n}(\mathbf{a}) \right) \) を使うと以下のように表せる \[ df = \mathrm{grad} f(\mathbf{a}) d\mathbf{a} \]
- 合成微分法
http://nineties.github.io/math-seminar/4.html#/11 - 一変数関数のテイラーの定理
- \[ f(x) = \sum_{k=0}^{n} \frac{1}{k!}(x-a)^{k} \left(\frac{d}{dx}\right)^k f(a) \\ + \frac{1}{(n+1)!}(x-a)^{n+1} \left(\frac{d}{dx}\right)^{n+1} f(c) \] ただし、\( a < c < x \) または \( x < c < a \)
- 多変数関数のテイラーの定理
http://nineties.github.io/math-seminar/4.html#/16- \[ f(x_1, \cdots, x_n) = \sum_{k=0}^{n} \frac{1}{k!}\left(\sum_j (x_j-a_j) \left(\frac{\partial}{\partial x_j}\right)\right)^k f(a_1, \cdots, a_n) \\ + \frac{1}{(n+1)!}\left(\sum_j (x_j-a_j) \left(\frac{\partial}{\partial x_j}\right)\right)^{n+1} f(c_1, \cdots, c_n) \] ただし、\( a_i < c_i < x_i \) または \( x_i < c_i < a_i \)
- 多変数関数の極値と偏導関数の関係
http://nineties.github.io/math-seminar/4.html#/18- \(f(a_1, \cdots, a_n)\) が極値ならば、いずれの\(i\)に対しても \( \frac{\partial f}{\partial x_i}(a_1, \cdots, a_n)=0 \) が成り立つ
- 最小二乗法での例
http://nineties.github.io/math-seminar/4.html#/18
方程式の数値解法 2013/11/20
http://nineties.github.io/math-seminar/4.html#/25
- 微分法を使って方程式 \( f(x) = 0 \) や 多変数関数の方程式 \( f(x_1, \cdots, x_n) = 0 \) を数値的に解くこと
- 線形反復法
http://nineties.github.io/math-seminar/4.html#/27- \( f(x) = x \) の解を \( \alpha \) とする
テイラーの定理により \[ f(x) - f(\alpha) = f^{\prime}(c)(x - \alpha) \] 解が \( \alpha \) なので、また両辺の絶対値をとって \[ \left|f(x) - \alpha\right| = \left|f^{\prime}(c)\right|\left|x - \alpha\right| \]
- \( f(x) = x \) の解を \( \alpha \) とする
書きかけ