检查 float64 转换为 float32 时的精度损失方法

IT行业相对于一般传统行业，发展更新速度更快，一旦停止了学习，很快就会被行业所淘汰。所以我们需要踏踏实实的不断学习，精进自己的技术，尤其是初学者。今天golang学习网给大家整理了《检查 float64 转换为 float32 时的精度损失方法》，聊聊，我们一起来看看吧！

我有一个场景，我收到一个 float64 值，但必须将其作为 float32 值通过线路发送到另一个服务。我们知道接收到的值应该始终适合 float32。但是，为了安全起见，我想记录我们通过转换为 float32 丢失数据的情况。

此代码块无法编译，因为您无法直接比较 float32 与 float64。

func convert(input float64) (output float32, err error) {
    const tolerance = 0.001
    output = float32(input)
    if output > input+tolerance || output < input-tolerance {
        return 0, errors.New("lost too much precision")
    }
    return output, nil
}

是否有一种简单的方法来检查我是否遇到了这种情况？此检查会频繁发生，因此我想避免进行字符串转换。

正确答案

您可以将 float32 值转换回 float64，仅用于验证。

要检查转换后的值是否表示相同的值，只需将其与原始值（输入）进行比较即可。仅返回 ok bool 信息（而不是 error）也足够/惯用了：

func convert(input float64) (output float32, ok bool) {
    output = float32(input)
    ok = float64(output) == input
    return
}

（注意：不会检查像 nan 这样的边缘情况。）

测试它：

fmt.println(convert(1))
fmt.println(convert(1.5))
fmt.println(convert(0.123456789))
fmt.println(convert(math.maxfloat32))

输出（在 go playground 上尝试一下）：

1 true
1.5 true
0.12345679 false
3.4028235e+38 true

请注意，这通常会给出 ok = false 结果，因为 float32 的精度小于 float64，即使转换后的值可能非常接近输入。

因此在实践中检查转换值的差异会更有用。您提出的解决方案检查绝对差值，这不是很有用：例如 1000000.1 和 1000000 是非常接近的数字，即使差异是 0.1。 0.0001 和 0.00011 的差异要小得多：0.00001，但与数字相比差异要大得多。

所以你应该检查相对差异，例如：

func convert(input float64) (output float32, ok bool) {
    const maxreldiff = 1e-8

    output = float32(input)
    diff := math.abs(float64(output) - input)
    ok = diff <= math.abs(input)*maxreldiff

    return
}

测试它：

fmt.println(convert(1))
fmt.println(convert(1.5))
fmt.println(convert(1e20))
fmt.println(convert(math.pi))
fmt.println(convert(0.123456789))
fmt.println(convert(math.maxfloat32))

输出（在 go playground 上尝试一下）：

1 true
1.5 true
1e+20 false
3.1415927 false
0.12345679 false
3.4028235e+38 true

好了，本文到此结束，带大家了解了《检查 float64 转换为 float32 时的精度损失方法》，希望本文对你有所帮助！关注golang学习网公众号，给大家分享更多Golang知识！