问题描述
我很抱歉,我意识到这可能已经被问过无数次了,但我试过寻找,但找不到像我这样的情况。我还在学习中,我以前也从来没有在这里发过帖子,所以请对我温柔点。
我在 Excel VBA 中工作。我有两个单元格(PICKAmt 和 INVAamt,同一张表),它们每个都有完全相同的数字,例如399.80。
-
即使将单元格格式化为 0.00,VBA 仍然将它们读取为“399.8”,但仍然表示它们不相同
-
他们都是“双打”
-
同样的计算在完全相同的情况下在不同的工作表上工作
-
我的代码说:
Private Function INVACalc(ByVal INVAamt As Double,Holdcell As String,lastcell1 As String) As Double Dim PICKAmt As Double Dim APSdamt As Double Dim lastcell3 As String Dim SUND As String Dim APIE As String Worksheets("GL").Activate Range(lastcell1).Offset(0,9).NumberFormat = "0.00" Range(lastcell1).Offset(0,9).Value = Application.WorksheetFunction.Sum(Range("AL:AL")) 'add up total of all lines PICKAmt = Range(lastcell1).Offset(0,9).Value If PICKAmt = INVAamt Then 'do stuff Else 'do something else End if
它直接进入“其他”,就好像这两个金额不相同,它们是。它们没有多余的空格或字符。我能在它们之间找到的唯一区别是 INVAAmt 单元格的格式为“自定义”,而 PICKAmt 单元格的格式为“数字”,但同样,同样的代码在具有相同格式的其他工作表上也能很好地完成工作。我不知所措。
解决方法
问题是十进制以二进制表示的方式,如here 所述。 'same' 十进制可以有多个浮点表示,例如
Sub explain()
Dim n As Double,m As Double,k As Double
n = 0.6
m = 0.3 + 0.3
k = 0.1 + 0.1 + 0.1 + 0.1 + 0.1 + 0.1
Debug.Print Format(m - n,"0.000000000000000000")
Debug.Print Format(k - n,"0.000000000000000000")
End Sub
第一个结果是 0.000000000000000000
第二个 0.000000000000000111
。一种解决方案是将双打格式设置为字符串并比较字符串。
If Format(PICKAmt,"0.00") = Format(INVAamt,"0.00") Then