MySQL疯狂？浮点行为

问题描述

在MysqL 8.0.21上，我有一个空表（Tbl），其中只有一列：num，类型为float。

我插入一行，其值为0.1：

INSERT INTO Tbl(num) VALUES(0.1)

我运行以下查询并获得期望值0.1：

SELECT MAX(num) FROM Tbl

现在，我运行一个查询，该查询在语义上等效于第一个查询，并得到0.10000000149011612：

SELECT MAX(IF(TRUE,num,0)) FROM Tbl

有趣的是，这种行为在没有MAX的情况下不会重现，即以下返回0.1：

SELECT IF(TRUE,0) FROM Tbl

我知道浮点数不能总是准确地表示出来，并且我理解为什么算术运算会导致这种问题，但是为什么在IF中使用MAX会有所不同呢？

解决方法

它们返回不同的类型。当您使用MAX（）时，会将float值上采样为两倍：

CREATE TABLE T_MAX AS SELECT MAX(IF(TRUE,num,0)) AS max_num FROM Tbl;

mysql> SHOW CREATE TABLE T_MAX\G
*************************** 1. row ***************************
       Table: T_MAX
Create Table: CREATE TABLE `T_MAX` (
  `max_num` double DEFAULT NULL
) ENGINE=InnoDB DEFAULT CHARSET=utf8


CREATE TABLE T_IF AS SELECT IF(TRUE,0) AS if_num FROM Tbl;

mysql> SHOW CREATE TABLE T_IF\G
*************************** 1. row ***************************
       Table: T_IF
Create Table: CREATE TABLE `T_IF` (
  `if_num` float DEFAULT NULL
) ENGINE=InnoDB DEFAULT CHARSET=utf8

我们可以在不执行MAX（）的情况下进行从float到double的转换，并看到相同的效果：

mysql> SELECT CAST(num AS DOUBLE) AS dblnum FROM TBL;
+---------------------+
| dblnum              |
+---------------------+
| 0.10000000149011612 |
+---------------------+

请注意，如果我们将原始存储的num加倍，则不需要进行转换，因此不会更改表示形式。

CREATE TABLE TBL2 (num DOUBLE);

INSERT INTO TBL2 (num) VALUES (0.1);

SELECT MAX(IF(TRUE,0)) AS num FROM TBL2;
+------+
| num  |
+------+
|  0.1 |
+------+

因此，将float转换为double会引起问题。

Float and double无法完全保存，因此会产生分形

要摆脱它们，您有两个可能性

CREATE TABLE Tbl(num float(2,1))

INSERT INTO Tbl(num) VALUES(0.1)

SELECT MAX(IF(TRUE,0))   FROM Tbl

| MAX(IF(TRUE,0)) |
| --------------------: |
|                   0.1 |

CREATE TABLE Tbl2(num float)

INSERT INTO Tbl2(num) VALUES(0.1)

SELECT ROUND(MAX(IF(TRUE,0)),1)   FROM Tbl2

| ROUND(MAX(IF(TRUE,1) |
| -----------------------------: |
|                            0.1 |

db 提琴here

在这两种情况下，您都需要确切知道所需的cpmma /点后面的几位数字

这可能是部分答案，或者至少是对这里可能发生的情况的一些了解。如果我们考虑您的第二个查询：

SELECT MAX(IF(TRUE,0)) FROM Tbl

那么，评估它的方式很可能是，调用IF(...)的结果存储在某个中间浮点变量中。也就是说，调用IF()的结果（我们知道将是浮点值0.1）被分配到其他中间浮点变量。进行分配的行为可能会导致精度发生变化。

floating-accuracy floating-point mysql