EGBT

帖子: 127
主題: 38
精華: 0
積分: 166
點名: 0
作業系統: Microsoft
軟體版本: Windows 7
閱讀權限: 20
性別: 男
註冊時間: 2015-7-31
最後登錄: 2018-8-3

1^# 跳轉到 » 正序看帖

打印

字體大小: tT

發表於 2015-11-25 12:10 | 只看該作者

[發問] 計算過程中溢位

如標題：

想請教各位大大，在計算的過程中，我只需要取到小數點第二位(四捨五入)。

例如：2.2233 => 2.22，否則常常溢位...

請教各位大大如何處理?

樓主熱帖

EGBT

中學生 Rank: 2

帖子: 127
主題: 38
精華: 0
積分: 166
點名: 0
作業系統: Microsoft
軟體版本: Windows 7
閱讀權限: 20
性別: 男
註冊時間: 2015-7-31
最後登錄: 2018-8-3

8^#

發表於 2015-11-25 21:07 | 只看該作者

回復 6# stillfish00

大大感謝你~耐心回答的很清楚!

TOP

EGBT

中學生 Rank: 2

帖子: 127
主題: 38
精華: 0
積分: 166
點名: 0
作業系統: Microsoft
軟體版本: Windows 7
閱讀權限: 20
性別: 男
註冊時間: 2015-7-31
最後登錄: 2018-8-3

7^#

發表於 2015-11-25 21:07 | 只看該作者

回復 5# c_c_lai

太猛啦~!!!感恩大大

TOP

stillfish00

大學生 Rank: 4

帖子: 1018
主題: 15
精華: 0
積分: 1058
點名: 0
作業系統: win7 32bit
軟體版本: Office 2016 64-bit
閱讀權限: 50
性別: 男
來自: 桃園
註冊時間: 2012-5-9
最後登錄: 2022-9-28

6^#

發表於 2015-11-25 19:55 | 只看該作者

本帖最後由 stillfish00 於 2015-11-25 20:00 編輯

回復 4# EGBT
你可以看F1說明，尋找算術運算子中的 "* 運算子"：
裡面有提到，
result 的資料型態通常與最精密的運算式相同。而精確度由最小到最大的順序是 Byte、Integer、Long、Single、Currency、Double和 Decimal。但以下是例外.......................(自己看說明的例外情況，我就不寫了)

2000 和 365 都是做為 Integer來運算，由上面說明知道運算結果也會存放在Integer資料型態的空間，但因超出 Integer資料型態可表達的範圍所以溢位了。

版大用 CLng(2000) * 365 解決，所以變成一個 Long乘上一個 Integer，因為 Long更精密，由上面說明知道運算結果也會存放在Long，所以沒溢位。

也可寫成 x= 2000& * 365，標明程式中的2000數字是一個Long的數字(或是兩個都標)，意思是一樣的。
所以溢位跟你一開始說的四捨五入一點關係都沒有。

表達不清、題意不明確、沒附檔案格式、沒有討論問題的態度~~~~~~以上愛莫能助。

TOP

c_c_lai

博士班 Rank: 6 Rank: 6

帖子: 2035
主題: 24
精華: 0
積分: 2031
點名: 0
作業系統: Win7
軟體版本: Office2010
閱讀權限: 100
性別: 男
註冊時間: 2012-3-22
最後登錄: 2024-2-1

5^#

發表於 2015-11-25 17:38 | 只看該作者

回復 4# EGBT
從 Excel 『監看式』視窗中來觀察變數型態的變化：

Sub Ex2()
Dim x As Long, y
' Watch : : x : 0 : Long
' --------------- (舉例一) --------------------------
y = 20000
' Watch : : y : 20000 : Variant/Integer
x = y * 365
' Watch : : y * 365 : 7300000 : Variant/Long
' Watch : : 365 : 365 : Integer
' Watch : : x : 7300000 : Long
' --------------- (舉例二) --------------------------
x = 20000 * 365 ' 執行階段錯誤 '6'：溢位
' Watch : : 20000 : 20000 : Integer
' Watch : : 365 : 365 : Integer
' Watch : : 20000 * 365 : <溢位> : Empty
' --------------- (舉例三) --------------------------
x = CLng(20000) * 365
' Watch : : CLng(20000) : 20000 : Long
' Watch : : 365 : 365 : Integer
' Watch : : x : 7300000 : Long
End Sub

複製代碼

TOP

EGBT

中學生 Rank: 2

帖子: 127
主題: 38
精華: 0
積分: 166
點名: 0
作業系統: Microsoft
軟體版本: Windows 7
閱讀權限: 20
性別: 男
註冊時間: 2015-7-31
最後登錄: 2018-8-3

4^#

發表於 2015-11-25 16:08 | 只看該作者

回復 2# GBKEE

GBKEE大大..不好意思小弟還是模模糊糊的..

x = 2000 * 365
算出來是730000

Long範圍-2147483648 到 2147483647

-2147483648 < x < 2147483647

沒有超出範圍，為什麼會溢位?

還有在解決辦法那邊，為什麼要去轉換Clng(2000)...?

TOP

EGBT

中學生 Rank: 2

帖子: 127
主題: 38
精華: 0
積分: 166
點名: 0
作業系統: Microsoft
軟體版本: Windows 7
閱讀權限: 20
性別: 男
註冊時間: 2015-7-31
最後登錄: 2018-8-3

3^#

發表於 2015-11-25 14:32 | 只看該作者

回復 2# GBKEE

感恩大大耐心地回答~

TOP

GBKEE

超級版主 Rank: 8 Rank: 8

帖子: 5923
主題: 13
精華: 1
積分: 5986
點名: 0
作業系統: win10
軟體版本: Office 2010
閱讀權限: 150
性別: 男
來自: 台灣基隆
註冊時間: 2010-5-1
最後登錄: 2022-1-23

2017 雞年全勤獎章 2016猴年全勤獎章 2015羊年全勤獎章 2014馬年全勤獎章 2013蛇年全勤獎章 2012龍年全勤獎章論壇貢獻勳章熱烈參與勳章 2011兔年全勤獎章

2^#

發表於 2015-11-25 13:11 | 只看該作者

回復 1# EGBT

VBA 的說明

溢位 (錯誤 6)
當指定超出目標的限制時就會發生溢位。此錯誤有以下的起因和解決方法：
此指定的結果、計算或資料型態轉換太大以致於無法在變數型態所允許的範圍內表示出來。
指定值到足夠表示的型態之變數上。
指定給屬性時超出此屬性能接受的範圍。
確定您的指定適合此屬性的範圍。.
當您試圖在計算中使用數字時，數字被強迫轉換成一個整數，但是結果超出了整數的範圍。例如：
Dim x As Long

x = 2000 * 365 ' 錯誤：溢位
要解決該問題，按如下方式輸入數字：
Dim x As Long
x = CLng(2000) * 365
詳細資訊，可選取有疑問的項目並按下 F1 (在Windows中) 或 HELP (在Macintosh上)。

了解看看

Option Explicit
Sub Ex()
Dim x As Variant '任何型態
Range("A1") = 500
MsgBox TypeName([a1].Value)
'儲存格數字範圍都是Double 資料型態
MsgBox TypeName(2000)
'型態轉換函數 'CLng 'CDbl
MsgBox TypeName(CLng(2000))
MsgBox TypeName(CDbl(2000))
x = CLng(2000) * 365
MsgBox TypeName(x)
x = 10 ^ 10
MsgBox TypeName(x)
' x = CLng(x) * 365 '溢位
x = CDbl(x) * 365
MsgBox TypeName(x)
End Sub

複製代碼

感恩的心......(在麻辣家族討論區.用心學習會有進步的)
但資源無限,後援有限, 一天1元的贊助,人人有能力.

TOP