返回列表 上一主題 發帖

[發問] 科學記號轉換

luckeyfly

帖子
37 
主題
7 
精華
0 
積分
93 
點名
0  
作業系統
WIN7 
軟體版本
OFFICE2010 
閱讀權限
20 
性別
男 
註冊時間
2018-10-18 
最後登錄
2021-7-21 
1# 跳轉到 »
發表於 2019-1-17 16:13 | 顯示全部帖子
10進制和2進制的轉換會有誤差（浮點計算誤差）

EXCEL的計算精度是15位數，超過15位數的只能用科學符號表示

可參考這篇文章

https://hk.saowen.com/a/9bae933c09178963c6ccd34b27029328a1a637ddfdddba9950156edb69162e42
∼熊貓界第一美男子∼

TOP

        靜思自在 : 有時當思無時苦，好天要積雨來糧。
返回列表 上一主題