[發問] 數值不同位數比較

帖子: 234
主題: 19
精華: 0
積分: 276
點名: 0
作業系統: Windows XP
軟體版本: office 2003
閱讀權限: 20
性別: 男
註冊時間: 2013-1-7
最後登錄: 2021-10-7

1^# 跳轉到 » 倒序看帖

打印

字體大小: tT

發表於 2019-1-15 16:11 | 顯示全部帖子

[發問] 數值不同位數比較

要比對2個數值是否相符,但因位數差異會判斷為不相符,請問如何將數值B與數值A一樣的位數比較
EX:
數值A             數值B
23.5871          23.5871004949897
22.98043       22.9804330365397

樓主熱帖

帖子: 234
主題: 19
精華: 0
積分: 276
點名: 0
作業系統: Windows XP
軟體版本: office 2003
閱讀權限: 20
性別: 男
註冊時間: 2013-1-7
最後登錄: 2021-10-7

2^#

發表於 2019-1-15 17:30 | 顯示全部帖子

目前是用Split(數值A ,"."),先算出小數位數
再用Round(數值B,len(數值A)(1))
將數值B的小數位進位與數值A做比較
除了這個方式,不知是否還有其他的方式可完成呢
請版上先進指教

帖子: 234
主題: 19
精華: 0
積分: 276
點名: 0
作業系統: Windows XP
軟體版本: office 2003
閱讀權限: 20
性別: 男
註冊時間: 2013-1-7
最後登錄: 2021-10-7

3^#

發表於 2019-1-15 17:38 | 顯示全部帖子

回復 3# ML089
已經用Round()了
想了解是否還有其他方法可運用

帖子: 234
主題: 19
精華: 0
積分: 276
點名: 0
作業系統: Windows XP
軟體版本: office 2003
閱讀權限: 20
性別: 男
註冊時間: 2013-1-7
最後登錄: 2021-10-7

4^#

發表於 2019-1-16 16:29 | 顯示全部帖子

回復 5# hcm19522
感謝先進指導
目前還有遇到一個問題,就是2個因進位差異造成判斷兩數不相符
實際上兩數值應為相符,因為數值A於系統計算時應進位未做進位,導致與數值B比對時因進位差異判斷為不符,是否有類似趨近的判斷方式可將這2個數值判斷為相符
EX:
數值A 數值B
23.5871-->應進位而未進位 23.58715-->數值B進位後為23.5872

帖子: 234
主題: 19
精華: 0
積分: 276
點名: 0
作業系統: Windows XP
軟體版本: office 2003
閱讀權限: 20
性別: 男
註冊時間: 2013-1-7
最後登錄: 2021-10-7

5^#

發表於 2019-1-16 18:03 | 顯示全部帖子

回復 7# hcm19522

感謝指導
因為系統提供數值並不是每筆都是該進位而未進位,有的是不該進位卻進位(困擾處)
所以想用類似趨近的方式比對
目前我應該會用進位比較 & 未進位比較
只要有一種成立,就判別為相符