第2回プログラマのための数学勉強会のノート (計算機での浮動小数点数 / 極限・微分)

このページはプログラマのための数学勉強会を聴講したときの個人的なノートである。

第2回プログラマのための数学勉強会(2013/09/19)の資料
http://nineties.github.io/math-seminar/2.html

第2回プログラマのための数学勉強会(2013/09/19)の動画
http://www.youtube.com/watch?v=_vhGa5jj9dI

計算機での浮動小数点数 2013/11/06

http://nineties.github.io/math-seminar/2.html#/3

• IEEE 754
  • 最も広く使用されている浮動小数点数の規格
  • 値の種類
    • 正規化数
    • 非正規化数
    • +0 と -0
    • +Inf と -Inf
    • NaN
  • 精度
    • 単精度: 32ビット
    • 倍精度: 64ビット
    • 四倍精度: 128ビット
  • よく使われる倍精度では
    • 十進数にして15桁〜16桁程度の精度
    • 正規化数では絶対値は 10e-308 〜 10e+308 程度
    • 非正規化数では 10e-323 〜
  • 計算結果の丸め方: 再近接偶数丸め
    http://nineties.github.io/math-seminar/2.html#/12
• 誤差の種類
  • オーバーフロー
    • 絶対値が許容範囲を超えると +Inf または -Inf になってしまう現象
  • アンダーフロー
    • 絶対値が許容範囲を下回ると +0 または -0 になってしまう現象
  • 情報落ち
    • 絶対値が大きく異る2つの数を加減算すると絶対値の小さい方の数が無視されてしまう現象
  • 桁落ち
    • 2つの非常に近い値の差を計算すると有効桁数が落ちる現象
  • 打ち切り誤差
    • テイラー展開などの無限の反復を途中で止めることで発生する誤差
  • 二進数と十進数の変換時に発生する誤差

極限・微分 2013/11/06

http://nineties.github.io/math-seminar/2.html#/30

• ε-N論法
  http://nineties.github.io/math-seminar/2.html#/39
• ε-δ論法
  http://nineties.github.io/math-seminar/2.html#/41
• 微分係数
  • \[ \lim_{h \rightarrow 0} \frac{f(a+h) - f(a)}{h} \] が収束するとき \[ f^{\prime}(a) \] \[ \frac{df}{dx}(a) \] \[ \left. \frac{d}{dx}f(x) \right|_{x=a} \] などと書く
• 導関数
  • \[ f^{\prime}(x) \] \[ \frac{d}{dx}f(x) \] などと書く
• 高階導関数
  • \[ f^{n}(x) \] \[ \frac{d^{n}}{dx^{n}}f(x) \] \[ \left(\frac{d}{dx}\right)^{n}f(x) \] などと書く
  • 高次導関数ともいう