Board logo

標題: [發問] 科學記號轉換 [打印本頁]

作者: jcchiang    時間: 2019-1-17 12:42     標題: 科學記號轉換

請教如何將儲存格內的科學記號利用程式轉換為數值
已試過將儲存格格式改為數值,但程式抓取儲存格資料仍帶出科學記號
EX:
5.07102703909773E-06  ==>0.00000507102703909773
1.04926484787186E+15 ==>1049264847871860
-8.6598810597688E-07 ==>-0.00000086598810597688
作者: luckeyfly    時間: 2019-1-17 16:13

10進制和2進制的轉換會有誤差(浮點計算誤差)

EXCEL的計算精度是15位數,超過15位數的只能用科學符號表示

可參考這篇文章

https://hk.saowen.com/a/9bae933c09178963c6ccd34b27029328a1a637ddfdddba9950156edb69162e42
作者: jcchiang    時間: 2019-1-17 16:21

回復 2# luckeyfly

感謝分享,再研究看看
作者: hcm19522    時間: 2019-1-18 15:28

https://blog.xuite.net/hcm19522/twblog/586449729
作者: jcchiang    時間: 2019-1-21 11:09

回復 4# hcm19522
感謝先進指導
問題已解決




歡迎光臨 麻辣家族討論版版 (http://forum.twbts.com/)