日々学習〜人の役に立てるITエンジニアを目指して〜

ITエンジニアが日々学んだ事を書き記します

【応用情報】誤差の種類

丸め誤差

数値を有限ビット数で表現するため、最下位けたより小さい部分について四捨五入や切上げ、切捨てが行われることにより発生する誤差

情報落ち

絶対値の非常に大きな数と小さな数の加減算を行ったとき、指数部が小さいほうの数の仮数部の下位部分が計算結果に反映されないために発生する誤差

けた落ち

絶対値のほぼ等しい2つの数の差を求めたとき、有効けた数が大きく減るために発生する誤差

打切り誤差

浮動小数点数の計算処理を途中で打ち切ることによって発生する誤差