No.89 浮動小数点表示の仮数部が23ビットであるコンピュータで計算した場合，情報落ちが発生する計算式はどれか。
ここで，( )2内の数は2進法で表示されている。
ここで，( )2内の数は2進法で表示されている。
⭕️
❌
💾
| 🖊 | ☑️ |
| ⭕️ | [[ AnswerCalc[0] ]] % | A | [[ AnswerCalc[1] ]] |
|
|
|
|
|
|
|
|
情報落ちとは、浮動小数点演算において，絶対値の大きな数と絶対値の小さな数の加減算を行ったとき，絶対値の小さな数の有効けたの一部又は全部が結果に反映されないことが原因で生じる計算誤差です。
各選択肢の絶対値の差を知りたいので指数に注目すると、
各選択肢の絶対値の差を知りたいので指数に注目すると、
- (10.101)2×2-16－(1.001)2×2-15
-16と-15で差は1 - (10.101)2×216－(1.001)2×216
16と16で差は0 - (1.01)2×218＋(1.01)2×2-5
18と-5で差は23 - (1.001)2×220－(1.1111)2×221
20と21で差は1
💾
✔️
| [[ d.CommentTxt ]] |
| < | > |
| 🥇 |