哪些操作可使浮点数离开[0,1]范围?

问题描述

我经常使用floatdouble类型,它们在[0,1]范围内。我知道浮点运算是不精确的,因此我通常会限制我的值,以确保在运算之前/之后它们都在此范围内。

在某些情况下,我依赖于浮点数甚至不为负且正好为<= 1,因此这是必须的。

例如,以下任何功能是否有必要?

// x and y are guaranteed to be in [0,1]
float avg(float x,float y) {
    // the average of [0,1] values should always be in [0,1]
    return std::clamp<float>((x + y) / 2,1);
}

float mul(float x,float y) {
    // the product of [0,1]
    return std::clamp<float>(x * y,1);
}

float pow(float x,unsigned y) {
    // raising an [0,1] value to any unsigned power should also result in an [0,1] value
    return std::clamp<float>(std::pow(x,y),1);
}

算术运算何时可以使浮点数离开[0,1]范围是否有一致的规则?

解决方法

如果可以的话,将此答案限制为IEEE754。

012都可以完全表示为float。要求算术运算符返回可能的最佳浮点值。由于xy都不大于1,因此它们的总和不能大于2,因为否则,总和将有一个更好的float。换句话说,两个float1小一点的总和不能大于2

产品同样如此。

由于无法保证std::pow(x,y)返回最好的float,因此第三种方法需要钳位。

,

角落问题

float pow(float x,unsigned y) {
    // raising an [0,1] value to any unsigned power should also result in an [0,1] value
    return std::clamp<float>(std::pow(x,y),1);
}

使用std::pow(±0,0)可能会导致超出[0..1]范围(或导致域错误),因为std::pow()既未指定结果,也未通过数学方法解决:Zero to the power of zero。 / p>

如果跟随IEEE,则结果为1,但不需要遵循兼容的库。

如果不遵循IEEE,并且std::pow(0,0)返回NAN,我希望std::clamp(NAN,1)也返回NAN并破坏系统。

候选替代代码

return (y==0) ? 1 : x;

请注意,函数的结果可能为-0.0,但该值仍在[0 ... 1]范围内。

我不关心mul()avg()关于-0.0,以较高的精度进行中间计算以及使用变体舍入模式的问题。

相关问答

依赖报错 idea导入项目后依赖报错,解决方案:https://blog....
错误1:代码生成器依赖和mybatis依赖冲突 启动项目时报错如下...
错误1:gradle项目控制台输出为乱码 # 解决方案:https://bl...
错误还原:在查询的过程中,传入的workType为0时,该条件不起...
报错如下,gcc版本太低 ^ server.c:5346:31: 错误:‘struct...