メモの日々


2019年05月21日(火) [長年日記]

[math] 相対誤差

相対誤差の定義をメモ。

近似値xの真値Tに対する相対誤差は、

\Large | \frac{T - x}{T} |

で求める。Tが0の場合には計算できないことに注意。

[ruby] test-unitでの浮動小数点の比較

test-unitで浮動小数点の値を比較するためのアサーションをメモ。

test-unitで使えるアサーションの一覧は

を見るとわかる。この中で、浮動小数点比較用のアサーションは次の4つになると思われる。

_in_deltaは絶対誤差、_in_epsilonは相対誤差で誤差の許容範囲を指定する。