有关 Go 语言浮点数舍入规则的误解

学习Golang要努力，但是不要急！今天的这篇文章《有关 Go 语言浮点数舍入规则的误解》将会介绍到等等知识点，如果你想深入学习Golang，可以关注我！我会持续更新相关文章的，希望对大家都能有所帮助！

go 语言规范中有关常量表达式的部分指出：

编译器在计算无类型浮点或复杂常量表达式时可以使用舍入；请参阅常量部分中的实现限制。这种舍入可能会导致浮点常量表达式在整数上下文中无效，即使在使用无限精度计算时它是整数，反之亦然。

这句话是吗

这种舍入可能会导致浮点常量表达式在整数上下文中无效

指向类似以下内容：

func main() {
    a := 853784574674.23846278367
    fmt.Println(int8(a)) // output: 0
}

正确答案

规范中引用的部分不适用于您的示例，因为 a 不是常量表达式而是变量，因此 int8(a) 正在转换非常量表达式。 Spec: Conversions 数字类型之间的转换涵盖了此转换：

将 floating-point number 转换为整数时，小数部分将被丢弃（截断为零）。

[...] 在所有涉及浮点或复数值的非常量转换中，如果结果类型不能表示转换成功的值，但结果值取决于实现。

由于您将非常量表达式 a（即 853784574674.23846278367）转换为整数，因此小数部分将被丢弃，并且由于结果不适合 int8，因此未指定结果，它取决于实现。 p>

引用的部分意味着，虽然常量的表示精度比内置类型（例如 float64 或 int64）高得多，但编译器（必须）实现的精度不是无限的（出于实际原因），甚至如果浮点文字可以精确表示，则对其执行运算可能会通过中间舍入进行，并且可能不会给出数学上正确的结果。

The spec includes the minimum supportable precision:

实现限制：尽管数字常量在语言中具有任意精度，但编译器可以使用精度有限的内部表示来实现它们。也就是说，每个实现都必须：

• 表示至少 256 位的整数常量。
• 表示浮点常量，包括复数常量的各个部分，尾数至少为 256 位，带符号二进制指数至少为 16 位。
• 如果无法精确表示整数常量，则给出错误。
• 如果由于溢出而无法表示浮点或复数常量，则给出错误。
• 如果由于精度限制而无法表示浮点或复数常量，则舍入为最接近的可表示常量。

例如：

const (
    x = 1e100000 + 1
    y = 1e100000
)

func main() {
    fmt.println(x - y)
}

此代码应输出 1，因为 x 比 y 大 1。在 Go Playground 上运行它会输出 0，因为常量表达式 x - y 是通过舍入执行的，因此 +1 会丢失。 x 和 y 都是整数（没有小数部分），因此在整数上下文中结果应为 1。但数字 1e100000 表示它需要大约 333000 位，这不是编译器的有效要求（根据规范，256 位尾数就足够了）。

如果我们降低常数，我们会得到正确的结果：

const (
    x = 1e1000 + 1
    y = 1e1000
)

func main() {
    fmt.Println(x - y)
}

这会输出数学上正确的 1 结果。在 Go Playground 上尝试一下。表示数字 1e1000 需要大约 3333 位，这似乎是受支持的（并且远远高于最低 256 位要求）。

int8 是有符号整数，并且可以有值从 -128 到 127。这就是为什么您会在 int8(a) 转换中看到意外的值。

以上就是本文的全部内容了，是否有顺利帮助你解决问题？若是能给你带来学习上的帮助，请大家多多支持golang学习网！更多关于Golang的相关知识，也可关注golang学习网公众号。