9.6 浮點數誤差
上一節種下的因,這一節收成。浮點數的誤差來自兩個層面,得分開認識。
¶誤差一:存進去的那一刻就不準了
尾數只有 52 位元,兩件事註定發生:
(1)多數小數存不準。 0.1 存進去就變 0.10000000000000000555\ldots(上一節示範過)。更驚人的是,誤差會在運算後浮上檯面:
上一節種下的因,這一節收成。浮點數的誤差來自兩個層面,得分開認識。
尾數只有 52 位元,兩件事註定發生:
(1)多數小數存不準。 0.1 存進去就變 0.10000000000000000555\ldots(上一節示範過)。更驚人的是,誤差會在運算後浮上檯面: