こばちょの情報処理
情報処理技術者試験の情報セキュリティスペシャリスト試験の勉強メモ
2014年2月28日金曜日
誤差
■桁落ち誤差
値のほぼ等しい二つの数値の差を求めたとき、有効桁数が減ることによって発生する誤差
■丸め誤差
指定された有効桁数で演算結果を表すために、切捨て、切上げ、四捨五入などで下位の桁を削除することによって発生する誤差
■情報落ち誤差
絶対値の非常に大きな数値と小さな数値の加算や減算を行ったとき、小さい数値が計算結果に反映されないことによって発生する誤差
■打ち切り誤差
無限級数で表される数値の計算処理を有限項で打ち切ったことによって発生する誤差
0 件のコメント:
コメントを投稿
‹
›
ホーム
ウェブ バージョンを表示
0 件のコメント:
コメントを投稿