返回列表下一主題上一主題發帖

[發問] 計算過程中溢位

EGBT

中學生 Rank: 2

帖子: 127
主題: 38
精華: 0
積分: 166
點名: 0
作業系統: Microsoft
軟體版本: Windows 7
閱讀權限: 20
性別: 男
註冊時間: 2015-7-31
最後登錄: 2018-8-3

1^# 跳轉到 » 倒序看帖

打印

字體大小: tT

發表於 2015-11-25 12:10 | 顯示全部帖子

[發問] 計算過程中溢位

如標題：

想請教各位大大，在計算的過程中，我只需要取到小數點第二位(四捨五入)。

例如：2.2233 => 2.22，否則常常溢位...

請教各位大大如何處理?

樓主熱帖

EGBT

中學生 Rank: 2

帖子: 127
主題: 38
精華: 0
積分: 166
點名: 0
作業系統: Microsoft
軟體版本: Windows 7
閱讀權限: 20
性別: 男
註冊時間: 2015-7-31
最後登錄: 2018-8-3

2^#

發表於 2015-11-25 14:32 | 顯示全部帖子

回復 2# GBKEE

感恩大大耐心地回答~

TOP

EGBT

中學生 Rank: 2

帖子: 127
主題: 38
精華: 0
積分: 166
點名: 0
作業系統: Microsoft
軟體版本: Windows 7
閱讀權限: 20
性別: 男
註冊時間: 2015-7-31
最後登錄: 2018-8-3

3^#

發表於 2015-11-25 16:08 | 顯示全部帖子

回復 2# GBKEE

GBKEE大大..不好意思小弟還是模模糊糊的..

x = 2000 * 365
算出來是730000

Long範圍-2147483648 到 2147483647

-2147483648 < x < 2147483647

沒有超出範圍，為什麼會溢位?

還有在解決辦法那邊，為什麼要去轉換Clng(2000)...?

TOP

EGBT