2進数の計算と数値表現

2進数の計算と数値表現

小数点を含む数の表し方

固定小数点数で整数をあらわし、浮動小数点数で実数をあらわす 固定小数点数 「ビット列のどの位置に小数点があるか」を暗黙的了解として扱う表現方法 浮動小数点数 指数表記を用いて数値を扱う表現方法 0.00025 → 0000.25×10-3と...
2進数の計算と数値表現

誤差

誤差:実際の数値と、コンピュータ内部で表現できる数値との間に生じたズレを誤差と呼ぶ 桁溢れ誤差 演算した結果が、コンピューターの扱える最大値や最小値を超えることによって生じる誤差がけたあふれ誤差 情報落ち 絶対値の大きな値と絶対値の小さな値...
2進数の計算と数値表現

シフト演算と2進数の掛け算割り算

シフト演算:2進数をあらわすビット列を左もしくは右にずらす操作 論理シフト 符号を慮せずに行うシフト操作。最上位のビットも含めてシフトさせるという考え方。 左論理シフト:元の数値の 2n倍したもの 右論理シフト:元の数値の1/2n倍したもの...
2進数の計算と数値表現

2進数の足し算と引き算

足し算・引き算も基本は10進数を同じ。 1111+101=10100となるが・・・ 一番小さな桁が1+1=10となるので1繰り上げて残0 繰り上がってきた1と1111の下2桁目の1と101の下2桁目1を足して、1+0+1=10なので1繰り上...