是否在Ruby中的BigDecimal中使用String或Integer

参考BigDecimal类的文档,

n,m = a.precs
prec returns number of significant digits (n) and
maximum number of significant digits (m) of a.

我对以下与BigDecimal相关的输出感到困惑.

require 'bigdecimal'    
BigDecimal.new('1').precs # => [9,18] 
BigDecimal.new(1).precs   # => [9,27]

我无法弄清楚为什么在传递String时,与传递Fixnum时相比,最大有效位数会更少.

它还会导致任何精度问题吗?

解决方法

如果您可以阅读C代码,则可以从 https://github.com/ruby/ruby/blob/trunk/ext/bigdecimal/bigdecimal.c#L2509开始 – 这是任何BigDecimal对象的初始化程序.如果您将该代码跟随下一个方法(即 BigDecimal_new),您会注意到在传递整数参数时,在分配和创建内部大小数对象之前还需要执行一些步骤,而不是在传递字符串参数时.

在任何情况下,您都不必担心精度损失 – 有效数字属性更像是提示而不是绝对值.甚至文档都提到它:
The actual number of significant digits used in computation is usually larger than the specified number.

相关文章

validates:conclusion,:presence=>true,:inclusion=>{...
一、redis集群搭建redis3.0以前,提供了Sentinel工具来监控各...
分享一下我老师大神的人工智能教程。零基础!通俗易懂!风趣...
上一篇博文 ruby传参之引用类型 里边定义了一个方法名 mo...
一编程与编程语言 什么是编程语言? 能够被计算机所识别的表...
Ruby类和对象Ruby是一种完美的面向对象编程语言。面向对象编...