標題:
[發問]
科學記號轉換
[打印本頁]
作者:
jcchiang
時間:
2019-1-17 12:42
標題:
科學記號轉換
請教如何將儲存格內的科學記號利用程式轉換為數值
已試過將儲存格格式改為數值,但程式抓取儲存格資料仍帶出科學記號
EX:
5.07102703909773E-06 ==>0.00000507102703909773
1.04926484787186E+15 ==>1049264847871860
-8.6598810597688E-07 ==>-0.00000086598810597688
作者:
luckeyfly
時間:
2019-1-17 16:13
10進制和2進制的轉換會有誤差(浮點計算誤差)
EXCEL的計算精度是15位數,超過15位數的只能用科學符號表示
可參考這篇文章
https://hk.saowen.com/a/9bae933c09178963c6ccd34b27029328a1a637ddfdddba9950156edb69162e42
作者:
jcchiang
時間:
2019-1-17 16:21
回復
2#
luckeyfly
感謝分享,再研究看看
作者:
hcm19522
時間:
2019-1-18 15:28
https://blog.xuite.net/hcm19522/twblog/586449729
作者:
jcchiang
時間:
2019-1-21 11:09
回復
4#
hcm19522
感謝先進指導
問題已解決
歡迎光臨 麻辣家族討論版版 (http://forum.twbts.com/)