VB6中双精度和单精度数据类型的比较


单精度(Single)和双精度(Double)数据型是VB6里的两种浮点类型;它们被用来保存带有小数的数值。小数的位数可以变化(所以名字叫"浮点"),因为小数点的位置可以变化。例如:

1.23456

12.3456

123.456

双精度和单精度的差别

大多数程序员都知道双精度类型容纳的数值要比单精度的大,而双精度的类型同时要求更大的存储空间--即8个字节,而不是4个字节。

双精度和单精度的最大不同之处是数值能够表达的精度。例如,单精度类型的精度被限制为7位;所以,下面这些值都是单精度类型:

1.23

123999

79.098

但是,如果你把123456789保存为一个单精度类型,那么它就会被四舍五入为123456800。类似的,1.23456789会被缩减为1.234568。

相比而言,双精度类型可以实现15位的精度。所以对于需要大量数值计算的程序员来说,就要使用双精度类型,否则精度就会出问题。

:Visual Basic的帮助文档谈到了一个叫做Decimal的数据类型,它的精度是28位。这听起来很不错,但是不幸的是,它从来都没有被真正实现过。

相关文章

Format[$] ( expr [ , fmt ] ) format 返回变体型 format$ 强...
VB6或者ASP 格式化时间为 MM/dd/yyyy 格式,竟然没有好的办...
在项目中添加如下代码:新建窗口来显示异常信息。 Namespace...
转了这一篇文章,原来一直想用C#做k3的插件开发,vb没有C#用...
Sub 分列() ‘以空格为分隔符,连续空格只算1个。对所选...
  窗体代码 1 Private Sub Text1_OLEDragDrop(Data As Dat...