浮点数/双精度数/十进制数中精度数字的含义是什么?

问题描述

C# reference for floating-point numeric types 上可以读到

  • float 的精度为 6 到 9 位
  • double 的精度为 15 到 17 位
  • decimal 的精度为 28 到 29 位

precision 在这种情况下是什么意思,尤其是 precision 怎么可能是一个范围?由于指数和尾数的位数是固定的,precision 如何可变(在描述的范围内)?有人可以举个例子,例如floatprecision 为 6,precisionstring localappdata = Environment.GetEnvironmentvariable("LocalAppData"); operadriverDir = Directory.GetCurrentDirectory(); operadriverExe = @"operadriver.exe"; OperaOptions operaOptions = new OperaOptions { LeavebrowserRunning = false,BinaryLocation = localappdata + @"\Programs\Opera\58.0.3135.127\opera.exe" }; operaOptions.AddArgument("--user-data-dir=" + localappdata + @"\Google\Chrome\Opera\User Data"); var service_opera = OperaDriverService.CreateDefaultService(operadriverDir,operadriverExe); service_opera.EnabLeverboseLogging = true; service_opera.Start(); int port = service_opera.Port; operaOptions.AddArgument("--remote-debugging-port=" + port.ToString()); driver = new OperaDriver(service_opera,operaOptions); 为 9?

解决方法

浮动和双倍

(我将解释 float,即 IEEE-754 Single-precision floating-point format,但 double,即 IEEE-754 Double-precision floating-point format 相同,但数字更大。

通常,您可以将 float 想象为:

尾数₂ * (2 ^ 指数₂)

其中尾数 2 表示以 2 为底的尾数,exponent₂ 表示以 2 为底的指数

尾数 2 为 23 位,指数 2 为 8 位。符号有一个额外的位,并且指数 ₂ 具有特殊格式和特殊范围,我们将在下面看到很多

还有一个技巧:浮点数通常以“标准化”形式保存:

1₂ 尾数₂ * (2 ^ 指数₂)

所以第一个数字总是 12,所以尾数 2 是 12 加上 23 个二进制数字,所以完整的尾数 2 总共有 24 位。

现在,对于 24 位,您可以拥有 0 到 16,777,216 之间的数字,即 7 位完整数字加上“部分”的第 8 位(例如,您不能拥有 26,216)。事实上 log₁₀ 2^24 = 7.22471989594

指数“移动”一个浮动小数点,例如,您可以拥有

1212121212121212121212121212121212121212121212121212. 1₂(一共有24个二进制数字1,希望...我数过)

12121212121212121212121212121212121212121212121212 . 1212

121212121212121212121212121212121212121212121212121202

1212121212121212121212121212121212121212121212121212120202

等等。

指数 2 具有三个范围:[-1;-127][1;127]0 用于非规范化数字,255 用于 NaN 和无限(其中 255 表示所有指数的位在 1)

[-1;-127] 范围内,小数点向左移动,对于等于范围的步数,在 [1;127]` 范围内,小数点向右移动方式。

如果指数为 0,则该数字是“非规范化的”。它们是具有特殊处理的丑陋浮点数,因此速度较慢。当数字被“非规范化”时,数字的开头没有隐含的 12,所以你只有 23 位尾数,即 6 点的精度数字 (log₁₀ 2^23 = 6.9236899)

无法解释这 9 位精度是如何得出的。

十进制

使用 decimal 很简单:格式是:

尾数₂ / (10 ^ 指数₂)

其中尾数 2 是 96 位,指数 2 是 5 位(少一点,范围是 [0;28]),还有一个符号位,还有很多未使用的位。确切的格式写在 reference source 中。在 decimals 中没有隐含的初始 12,所以它是纯 96 位,并且 log₁₀ 2^96 = 28.8988795837,所以是 28 或 29 位。

,

float/double/decimal 中精度数字的含义是什么?

在文本和类型之间往返所需的十进制数字。

text-FP-text:当一个数字是十进制文本,然后转换为浮点类型,然后转换回具有相同位数的文本并获得相同的值时,在FP类型的整个指数范围内,文本版本中有效十进制数字的最大数量是较低的数字,例如 float 的 6。只要文本版本只显示 6 位数字,float 就可以编码一个足够接近的值。

FP-text-FP:当一个 FP 数字转换为十进制文本然后再转换回 FP 并得到相同的 FP 值时,文本版本所需的有效十进制数字的位数是较高的数字,例如 9 表示 { {1}}。文本版只要报告9位以上有效数字,就可以准确恢复原来的FP值。

float 有 24 位 二进制 进动。要将其转换为十进制,上述上下文很重要。最小的非零 float 需要大约 330+ decimal 数字才能准确打印出来,但很少有人将其视为该数字的进动。


有人可以举个例子吗?精度为 6 的浮点数和精度为 9 的浮点数?

6 decimal digits always works .... "9999979e3" and "9999978e3" both convert to 9.999978e+09,因此往返需要 9 个有效文本数字。