Go big.Float 比较结果不稳定时怎么设置精度和舍入
Go 里的 big.Float 比较结果不稳定,通常不是 Cmp 随机,而是参与比较的值在创建、转换或运算时使用了不同的精度和舍入模式。生产代码先把精度写成二进制位,再固定 SetMode;输入本来是分数时优先保留为 big.Rat,比较时直接调用 Cmp,不要先转成 float64。
最小可靠写法是:用SetPrec指定位数,用SetMode指定舍入,用Acc看最近一次转换是否偏上或偏下,用Cmp做比较。
SetPrec(128)表示 128 个二进制有效位,不是 128 位小数。- 在
SetString、SetRat或运算前固定舍入模式,降低结果随调用顺序变化的风险。 Acc只描述最近一次产生结果的操作;精确输入和近似输出不要混为一谈。
先把精度和舍入模式固定下来
big.Float 保存的是带精度、舍入模式和准确度属性的浮点值。精度单位是 bit,位数越高,尾数能保留的信息越多;它不是十进制小数位数。SetPrec 如果降低了已有值的精度,会立即按当前模式舍入,所以更稳妥的顺序是先配置对象,再读入数据。
package main
import (
"fmt"
"math/big"
)
func parseDecimal(text string, prec uint) (*big.Float, error) {
// 先固定二进制精度和舍入规则,再解析十进制输入。
value := new(big.Float).SetPrec(prec).SetMode(big.ToNearestEven)
if _, ok := value.SetString(text); !ok {
return nil, fmt.Errorf("invalid decimal: %s", text)
}
return value, nil
}
func main() {
value, err := parseDecimal("0.1", 128)
if err != nil {
panic(err)
}
// Acc 只代表最近一次产生 value 的操作;Prec 返回 bit 数。
fmt.Println(value.Prec(), value.Acc(), value.Text('g', 20))
}

常用舍入模式包括 ToNearestEven、ToZero、ToNegativeInf 和 ToPositiveInf。金额、阈值或区间判断不要只依赖默认值:把模式写在构造函数附近,代码审查时才能看出边界意图。需要检查一个值是否能原样表示时,可看 MinPrec;它返回精确表示该值所需的最小 bit 数。
Int、Rat 和 Float 的职责要分开
big.Int 适合任意精确整数,big.Rat 适合精确分数,big.Float 才是带可控误差的近似表示。比如三分之一从业务输入到最终比较都要求精确,就不要先写成 0.333333;先用分子和分母构造 Rat,只有需要浮点运算或对接浮点 API 时再转换。
package main
import (
"fmt"
"math/big"
)
func main() {
// Rat 保留 1/3 的精确分子分母,转换到 Float 时才允许舍入。
exact := new(big.Rat).SetFrac64(1, 3)
approx := new(big.Float).SetPrec(128).SetMode(big.ToNearestEven).SetRat(exact)
// Cmp 比较 Float 的数值;不要先调用 Float64 再比较。
same := approx.Cmp(new(big.Float).SetPrec(128).SetRat(exact)) == 0
fmt.Println(exact.RatString(), approx.Acc(), same)
}
SetRat 的结果可能带有 Below 或 Above,这不是失败,而是说明近似值相对精确值落在下方还是上方。转换后的 Float 还可以调用 Rat(nil) 取回它当前实际表示的有理数,但那是“已舍入结果”的精确表达,不等于最初的输入。

比较时别先转成 float64
Float64 会把结果缩窄到 IEEE 754 双精度,并额外返回一个 Accuracy。它适合最后展示或调用只接受 float64 的接口,不适合当作高精度比较的中间步骤。两个 Float 若来自不同精度的中间运算,先统一精度和舍入规则,再比较;如果业务规则要求分数严格相等,直接比较两个 Rat。
| 需求 | 推荐类型/方法 | 不要做什么 |
|---|---|---|
| 大整数相等 | Int.Cmp | 转成 int64 |
| 分数精确相等 | Rat.Cmp | 先格式化成小数 |
| 可控近似运算 | Float.SetPrec + SetMode | 依赖隐式默认精度 |
| 浮点数比较 | Float.Cmp | 先调用 Float64 |
上线前的精度检查清单
先确认输入是否能用 Int 或 Rat 保持精确;必须使用 Float 时,统一一个精度常量,并把舍入模式写进构造函数。对每次关键转换记录 Acc,不要把上一次运算留下的准确度当成当前结论。输出给用户时再用 Text 控制显示位数,显示位数变化不会反过来增加内部精度。
另外,SetPrec(0) 会把有限值映射为带符号的零,不能把它当作“恢复默认精度”。如果对象需要复制,使用 Copy 保留值、精度、模式和准确度;不要只复制格式化后的字符串。
常见问题
SetPrec 的 128 是 128 位小数吗?
不是。它是二进制尾数精度,能保留多少有效 bit 取决于数值和指数。若要判断某个值是否能精确表示,配合 MinPrec 查看更直接。
为什么 SetMode 后 Acc 变成 Exact?
SetMode 只改变舍入模式,并将准确度重置为 Exact;它没有重新计算原来的业务结果。下一次真正产生值的运算后,再读取 Acc。
Float64 返回的 Accuracy 有什么用?
它说明缩窄到 float64 时的方向,适合记录展示层的转换误差。若比较本身要求高精度,应在转换前使用 Cmp。
官方方法定义和舍入常量可查看 math/big 包文档,实现细节可对照 Go 源码中的 float.go。
前端 fetch 大文件时怎么用 ReadableStream 逐块处理
- 上一篇
- 前端 fetch 大文件时怎么用 ReadableStream 逐块处理
- 下一篇
- 工厂采购数控机床维保服务时合同里要写清哪些项目
-
- Golang · Go教程 | 16小时前 | goroutine · pprof · Go教程 · 运行时 · Go pprof 性能诊断 goroutine profile pprof.Lookup
- Go pprof.Lookup 怎样读取 goroutine profile 文本
- 465浏览 收藏
-
- Golang · Go教程 | 16小时前 | 标准库 · HTTP · Go教程 · Go 请求头 textproto CanonicalMIMEHeaderKey MIMEHeader
- Go textproto.CanonicalMIMEHeaderKey 怎样统一请求头键名
- 283浏览 收藏
-
- Golang · Go教程 | 16小时前 |
- Go image.NewRGBA 怎样创建可修改的 RGBA 画布
- 289浏览 收藏
-
- Golang · Go教程 | 16小时前 |
- Go compress/gzip Reader 怎样复用并正确关闭
- 454浏览 收藏
-
- Golang · Go教程 | 16小时前 |
- Go archive/zip FileHeader.ExternalAttrs 读取条目权限属性
- 460浏览 收藏
-
- Golang · Go教程 | 16小时前 | 标准库 · Go教程 · Go 邮箱地址 net/mail ParseAddressList 收件人列表
- Go net/mail ParseAddressList 怎样解析多个收件人
- 465浏览 收藏
-
- Golang · Go教程 | 16小时前 | Go教程 · Go crypto/rand 随机令牌 随机字节 密钥材料
- Go crypto/rand 怎样生成固定字节数随机值
- 443浏览 收藏
-
- Golang · Go教程 | 16小时前 |
- Go net.Dialer 怎样配置连接建立超时
- 151浏览 收藏
-
- Golang · Go教程 | 16小时前 |
- Go tls.Config 怎样限制最低 TLS 版本
- 197浏览 收藏
-
- Golang · Go教程 | 16小时前 | go · Plugin · Go plugin 版本兼容 buildmode=plugin
- Go plugin 包为什么不适合跨版本加载
- 426浏览 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 485次学习
-
- PubMedQA
- 深入了解PubMedQA生物医学问答数据集,涵盖其核心功能、使用方法及在临床决策、药物研发等场景的应用,助力提升NLP模型性能。
- 628次使用
-
- H2O EvalGPT
- H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
- 664次使用
-
- LMArena
- LMArena是加州大学伯克利分校推出的AI模型匿名评测平台。通过盲测投票机制,用户可对比不同大模型回答并生成实时排行榜,助力开发者优化模型及用户选择最佳AI工具。
- 696次使用
-
- HELM
- 深入了解斯坦福推出的HELM(Holistic Evaluation of Language Models)大模型评测体系。本文解析其核心功能、安装配置步骤及应用场景,涵盖准确性、公平性、鲁棒性等多维度指标,助力开发者全面优化语言模型性能。
- 659次使用
-
- MMBench
- MMBench是由上海人工智能实验室等机构联合推出的多模态基准测试平台,提供细粒度能力评估、大规模数据集及VLMEvalKit工具。本文详细介绍其核心功能、安装使用方法及应用场景,助力开发者全面评估多模态模型性能。
- 497次使用
-
- golang 比较浮点数的大小方式
- 2023-01-07 365浏览
-
- golang中json小谈之字符串转浮点数的操作
- 2022-12-31 355浏览
-
- Go error wrapping 实战:别让错误日志只剩一句 failed
- 2026-06-01 151浏览
-
- Go pprof 排查慢接口:别只会看火焰图,先把问题问对
- 2026-06-01 101浏览
-
- Go Flight Recorder 实战:线上偶发卡顿,别再只靠日志碰运气
- 2026-06-01 323浏览

