る
ctr
に入れるのに最も適当なものを, 後
ケ
は同じもの
.
コ
問4 次の文章を読み, 空欄
ゲ
の解答群のうちから一つずつ選べ。 ただし, 空欄
~
を繰り返し選んでもよい。
10進法の小数は,コンピュータにおいて有限桁の2進法の小数に変換して扱
われる。 具体的には, 10進法の小数を2進法の小数に変換するとき,ある位ま
での小数で表すために,次の位以降を削除する丸め処理が行われる。丸め処理に
よって得られた数と元の数との差の絶対値を丸め誤差と呼ぶ。
桁数を制限することで
ここでは,以下の丸め処理を行うものとする。
起こる誤差
処理
・ある位の次の位が0の場合、 次の位を切り捨てる
・ある位の次の位が1の場合、次の位を切り上げる
丸め誤差の実例を見てみよう。
1.6875=1+0.5 + 0.125 + 0.0625
2th i
⑥進法
=1x2°+1x21+0x22+1x23+1x27
より, 10 進法の 1.6875 は 2進法の 1,1011 である。 条件より 1.1 →
1.5
10進法の1.6875を小数第1位までの2進法の小数に変換することにより生じ
る丸め誤差の絶対値は, 10進法の
ケ
である。
10 進法の 1.6875 を小数第2位までの2進法の小数に変換することにより生
る丸め誤差の絶対値は, 10 進法の コ である。
比べたときに出てくる数
1.6875
0.1875
1→1.75
進法→10進法
4百
1.75-16875=0.065
2
34
い
↓
0.5
0.251.25625
<-10->