始めてみた

なにか新しいことを始めるとき,モチベーション維持するためのBlog.

FEメモ書き0

FEメモ書きまとめ

1章

  1. 情報量の単位 
    1byte - 8bit
     \mu = 10^{-6} , n =10^{-9} , p=10^{-12}
  2. 2進数 8進数 16進数 変換
  3. 2進数(1bit) 8進数(3bit) 16進数(4bit) 10進数 変換 小数も含む  one more 
  4. 2の補数表現 
    0,1反転して1足す.
    負数を「2の補数」で表すと,2進数減算を加算として扱える.
    n[bit]のとき,表現範囲は-2^{n-1} \sim 2^{n-1}-1まで
  5. 浮動小数点.
    符号部を0(正),1(負)で表現,
    指数部を2の補数表現,
    32bit浮動小数点の場合: 指数7bit 仮数24bit.
    IEEE浮動小数点の場合: 指数8bit 仮数23bit.
  6. 総和計算などで,多くの数値を加算する場合 \to 丸め誤差
    演算順序により絶対値の大きな数と小さな数の加減算 \to 情報落ち
    絶対値が同程度の大きな数の減算 \to 桁落ち
  7. 文字表現