科學記號轉換 - Excel程式區 - 麻辣家族討論版版

麻辣家族討論版版 » Excel程式區 » 科學記號轉換

返回列表下一主題上一主題發帖

[發問] 科學記號轉換

中學生 Rank: 2

帖子: 37
主題: 7
精華: 0
積分: 93
點名: 0
作業系統: WIN7
軟體版本: OFFICE2010
閱讀權限: 20
性別: 男
註冊時間: 2018-10-18
最後登錄: 2021-7-21

1^# 跳轉到 »

發表於 2019-1-17 16:13 | 顯示全部帖子

10進制和2進制的轉換會有誤差（浮點計算誤差）

EXCEL的計算精度是15位數，超過15位數的只能用科學符號表示

可參考這篇文章

https://hk.saowen.com/a/9bae933c09178963c6ccd34b27029328a1a637ddfdddba9950156edb69162e42

～熊貓界第一美男子～

靜思自在 : 小事不做、大事難成。

返回列表下一主題上一主題