No.137 浮動小数点形式で表現された数値の演算結果における丸め誤差の説明はどれか。
⭕️
❌
💾
| 🖊 | ☑️ |
| ⭕️ | [[ AnswerCalc[0] ]] % | A | [[ AnswerCalc[1] ]] |
|
|
|
|
|
|
|
|
- 演算結果がコンピュータの扱える最大値を超えることによって生じる誤差である。
オーバフローの説明です。 - 数表現のけた数に限度があるので，最下位けたより小さい部分について四捨五入や切上げ，切捨てを行うことによって生じる誤差である。
正しい。丸め誤差の説明です。 - 乗除算において，指数部が小さい方の数値の仮数部の下位部分が失われることによって生じる誤差である。
情報落ちの説明です。 - 絶対値がほぼ等しい数値の加減算において，上位の有効数字が失われることによって生じる誤差である。
けた落ちの説明です。
💾
✔️
| [[ d.CommentTxt ]] |
| < | > |
| 🥇 |