FEメモ書き1

基礎理論

浮動小数点

符号部　＋　指数部　＋　仮数部

符号部：

s=0：偶数

s=1：奇数

指数部 : 2の補数表現

example: -1なら

32ビット浮動小数点形式

符号部；1 bit
指数部；7 bit
仮数部；24 bit

IEEE浮動小数点形式

符号部；1 bit
指数部；8 bit
仮数部；23 bit

誤差

丸め誤差

切り捨て，切り上げ，四捨五入などによる

桁落ち

有効桁が減ること
0.11111111 - 0.11111110 = 0.00000001 = 0.1 × 2^-7
有効桁が，8から1に減る

情報落ち

絶対値の小さい数が演算結果に反映されないこと．

1. 総和計算などで，多くの数値を加算する場合　 丸め誤差
2. 演算順序により絶対値の大きな数と小さな数の加減算 情報落ち
3. 絶対値が同程度の大きな数の減算 桁落ち

文字表現

• 英語，数字，記号 1byte．半角
• 漢字，仮名 2byte ，全角

論理演算

排他的論理和XOR

• 0とのXORは，0，1 　そのまま　
• 1とのXORは，0，1 　反転