註冊
登錄
首頁
論壇版規
禁止列表
說明
地圖
數位書香
私人消息 (0)
公共消息 (0)
論壇任務 (0)
系統消息 (0)
好友消息 (0)
帖子消息 (0)
麻辣家族討論版版
»
Excel程式區
» 計算過程中溢位
返回列表
下一主題
上一主題
發帖
[發問]
計算過程中溢位
stillfish00
發短消息
加為好友
stillfish00
當前離線
UID
9276
帖子
1018
主題
15
精華
0
積分
1058
金錢
1058
點名
0
作業系統
win7 32bit
軟體版本
Office 2016 64-bit
閱讀權限
50
性別
男
來自
桃園
在線時間
1141 小時
註冊時間
2012-5-9
最後登錄
2022-9-28
大學生
帖子
1018
主題
15
精華
0
積分
1058
點名
0
作業系統
win7 32bit
軟體版本
Office 2016 64-bit
閱讀權限
50
性別
男
來自
桃園
註冊時間
2012-5-9
最後登錄
2022-9-28
1
#
跳轉到
»
發表於 2015-11-25 19:55
|
顯示全部帖子
本帖最後由 stillfish00 於 2015-11-25 20:00 編輯
回復
4#
EGBT
你可以看F1說明,尋找算術運算子中的 "* 運算子":
裡面有提到,
result 的資料型態通常與最精密的運算式相同。而精確度由最小到最大的順序是 Byte、Integer、Long、Single、Currency、Double和 Decimal。但以下是例外.......................(自己看說明的例外情況,我就不寫了)
2000 和 365 都是做為 Integer來運算,由上面說明知道運算結果也會存放在Integer資料型態的空間,但因超出 Integer資料型態可表達的範圍所以溢位了。
版大用 CLng(2000) * 365 解決,所以變成一個 Long乘上一個 Integer,因為 Long更精密,由上面說明知道運算結果也會存放在Long,所以沒溢位。
也可寫成 x= 2000& * 365,標明程式中的2000數字是一個Long的數字(或是兩個都標),意思是一樣的。
所以溢位跟你一開始說的四捨五入一點關係都沒有。
表達不清、題意不明確、沒附檔案格式、沒有討論問題的態度~~~~~~以上愛莫能助。
TOP
靜思自在 :
盡多少本份,就得多少本事。
返回列表
下一主題
上一主題
EXCEL專屬討論區
Excelㄧ般區
Excel程式區
進階應用專區
OFFICE 系列
Word
PowerPoint
Access
Office不分區
程式語言
VB 與 VB.Net
C 與 C#
Java 與 J#
程式設計不分區
資料庫
ORACLE
My SQL
MS SQL
網頁設計
ASP 與 ASP.NET
PHP
PHP+MySQL 入門實作
JavaScript
FLASH / ActionScript
HTM/ HTML/ CSS
網頁設計不分區
電腦與作業系統
電腦各種硬體討論
一般電腦軟體討論
論壇事務
管理公告
投訴反映
新手測試
愛 ‧ 生活
公益佈告欄
生活與感動
[收藏此主題]
[關注此主題的新回復]
[通過 QQ、MSN 分享給朋友]
申請友情鏈接
Facebook粉絲