2020-05-28から1日間の記事一覧

【応用情報】誤差の種類

資格試験

丸め誤差数値を有限ビット数で表現するため、最下位けたより小さい部分について四捨五入や切上げ、切捨てが行われることにより発生する誤差情報落ち絶対値の非常に大きな数と小さな数の加減算を行ったとき、指数部が小さいほうの数の仮数部の下位部分が計…