FEメモ書き0
FE(基本情報技術者試験)
FEメモ書きまとめ
1章
- 情報量の単位
1byte - 8bit
- 2進数 8進数 16進数 変換
- 2進数(1bit) 8進数(3bit) 16進数(4bit) 10進数 変換 小数も含む one more
- 2の補数表現
0,1反転して1足す.
負数を「2の補数」で表すと,2進数減算を加算として扱える.
n[bit]のとき,表現範囲はまで - 浮動小数点.
符号部を0(正),1(負)で表現,
指数部を2の補数表現,
32bit浮動小数点の場合: 指数7bit 仮数24bit.
IEEE浮動小数点の場合: 指数8bit 仮数23bit. - 総和計算などで,多くの数値を加算する場合 丸め誤差
演算順序により絶対値の大きな数と小さな数の加減算 情報落ち
絶対値が同程度の大きな数の減算 桁落ち - 文字表現