为什么Ruby在计算mod时会增加精度/数字？

参见英文答案 > Is floating point math broken?                                    28个
我需要用坐标进行一些计算并遇到
这(至少对我而言)奇怪的行为.
有人可以解释为什么会这样吗？

$long
=> 49.0126760222489
$long % long.floor
=> 0.012676022248896857

我期待最后一行只评估一段时间之后的数字,从长期开始,但是最后还有一个额外的6857.

为什么要添加数字？

信息来自哪里？

解决方法

我想我们只是看到浮动的诅咒.参见ie 0.0126760222489％1.0和1.0126760222489％1.0.你认为结果应该是相同的,但是没有 – IEEE754浮点/双精度不能保证完美的结果,默认情况下这些在Ruby中用于存储浮点值.

它甚至有点显示in the docs

6543.21.modulo(137)      #=> 104.21
6543.21.modulo(137.24)   #=> 92.9299999999996

你可以看到第二个结果有一个小错误.实际上,在Ruby 2.3.1上我运行了第一行并得到了：

pry(main)> 6543.21.modulo(137)
=> 104.21000000000004

它不一定与modulo相关,也不一定总是可见：

[30] pry(main)> 10.0126760222489 - 0.0
=> 10.0126760222489
[31] pry(main)> 10.0126760222489 - 1.0
=> 9.0126760222489
[32] pry(main)> 10.0126760222489 - 2.0
=> 8.0126760222489
[33] pry(main)> 10.0126760222489 - 3.0
=> 7.0126760222489
[34] pry(main)> 10.0126760222489 - 4.0
=> 6.0126760222489
[35] pry(main)> 10.0126760222489 - 5.0
=> 5.0126760222489
[36] pry(main)> 10.0126760222489 - 6.0
=> 4.0126760222489
[37] pry(main)> 10.0126760222489 - 7.0
=> 3.0126760222489004

使用标准浮动的每个软件都需要考虑这些小错误.如果由于某种原因无法处理,那么你可以使用bigdecimal(应该已经包含在你的Ruby中),定点或类似的数字库

require 'bigdecimal'

BigDecimal('6543.21').modulo(137).to_s
=> "0.10421E3"

BigDecimal('6543.21').modulo(137).to_f
=> 104.21

请记住,’bigdecimal’可能会更慢并且可能会占用更多内存.