- 帖子
- 23
- 主題
- 4
- 精華
- 0
- 積分
- 39
- 點名
- 0
- 作業系統
- Win7
- 軟體版本
- Office2007
- 閱讀權限
- 10
- 性別
- 女
- 註冊時間
- 2011-10-27
- 最後登錄
- 2021-5-13
|
回復 5# Hsieh
想請教, 為什麼我們期待出現以 0.01為差距的等差數列時
Excel計算的數值卻會在後面變成"近似值"而已呢?
是電腦不是以十進位計算, 所導致的誤差嗎?
若是這樣的話, 好像無從預防原Po的這個狀況?
剛剛(很無聊地)照著原Po的狀況, 一路拉到數列值302.57
Excel算出的值是寫"302.56 9999999994"尾數已經不是"9"了呢!
好像會越差越多, 越差越小耶!?
謝謝! |
|
發表於 2012-6-14 10:34
| 