Go big.Float 比较结果不稳定时怎么设置精度和舍入
Go 里的 big.Float 比较结果不稳定,通常不是 Cmp 随机,而是参与比较的值在创建、转换或运算时使用了不同的精度和舍入模式。生产代码先把精度写成二进制位,再固定 SetMode;输入本来是分数时优先保留为 big.Rat,比较时直接调用 Cmp,不要先转成 float64。
最小可靠写法是:用SetPrec指定位数,用SetMode指定舍入,用Acc看最近一次转换是否偏上或偏下,用Cmp做比较。
SetPrec(128)表示 128 个二进制有效位,不是 128 位小数。- 在
SetString、SetRat或运算前固定舍入模式,降低结果随调用顺序变化的风险。 Acc只描述最近一次产生结果的操作;精确输入和近似输出不要混为一谈。
先把精度和舍入模式固定下来
big.Float 保存的是带精度、舍入模式和准确度属性的浮点值。精度单位是 bit,位数越高,尾数能保留的信息越多;它不是十进制小数位数。SetPrec 如果降低了已有值的精度,会立即按当前模式舍入,所以更稳妥的顺序是先配置对象,再读入数据。
package main
import (
"fmt"
"math/big"
)
func parseDecimal(text string, prec uint) (*big.Float, error) {
// 先固定二进制精度和舍入规则,再解析十进制输入。
value := new(big.Float).SetPrec(prec).SetMode(big.ToNearestEven)
if _, ok := value.SetString(text); !ok {
return nil, fmt.Errorf("invalid decimal: %s", text)
}
return value, nil
}
func main() {
value, err := parseDecimal("0.1", 128)
if err != nil {
panic(err)
}
// Acc 只代表最近一次产生 value 的操作;Prec 返回 bit 数。
fmt.Println(value.Prec(), value.Acc(), value.Text('g', 20))
}

常用舍入模式包括 ToNearestEven、ToZero、ToNegativeInf 和 ToPositiveInf。金额、阈值或区间判断不要只依赖默认值:把模式写在构造函数附近,代码审查时才能看出边界意图。需要检查一个值是否能原样表示时,可看 MinPrec;它返回精确表示该值所需的最小 bit 数。
Int、Rat 和 Float 的职责要分开
big.Int 适合任意精确整数,big.Rat 适合精确分数,big.Float 才是带可控误差的近似表示。比如三分之一从业务输入到最终比较都要求精确,就不要先写成 0.333333;先用分子和分母构造 Rat,只有需要浮点运算或对接浮点 API 时再转换。
package main
import (
"fmt"
"math/big"
)
func main() {
// Rat 保留 1/3 的精确分子分母,转换到 Float 时才允许舍入。
exact := new(big.Rat).SetFrac64(1, 3)
approx := new(big.Float).SetPrec(128).SetMode(big.ToNearestEven).SetRat(exact)
// Cmp 比较 Float 的数值;不要先调用 Float64 再比较。
same := approx.Cmp(new(big.Float).SetPrec(128).SetRat(exact)) == 0
fmt.Println(exact.RatString(), approx.Acc(), same)
}
SetRat 的结果可能带有 Below 或 Above,这不是失败,而是说明近似值相对精确值落在下方还是上方。转换后的 Float 还可以调用 Rat(nil) 取回它当前实际表示的有理数,但那是“已舍入结果”的精确表达,不等于最初的输入。

比较时别先转成 float64
Float64 会把结果缩窄到 IEEE 754 双精度,并额外返回一个 Accuracy。它适合最后展示或调用只接受 float64 的接口,不适合当作高精度比较的中间步骤。两个 Float 若来自不同精度的中间运算,先统一精度和舍入规则,再比较;如果业务规则要求分数严格相等,直接比较两个 Rat。
| 需求 | 推荐类型/方法 | 不要做什么 |
|---|---|---|
| 大整数相等 | Int.Cmp | 转成 int64 |
| 分数精确相等 | Rat.Cmp | 先格式化成小数 |
| 可控近似运算 | Float.SetPrec + SetMode | 依赖隐式默认精度 |
| 浮点数比较 | Float.Cmp | 先调用 Float64 |
上线前的精度检查清单
先确认输入是否能用 Int 或 Rat 保持精确;必须使用 Float 时,统一一个精度常量,并把舍入模式写进构造函数。对每次关键转换记录 Acc,不要把上一次运算留下的准确度当成当前结论。输出给用户时再用 Text 控制显示位数,显示位数变化不会反过来增加内部精度。
另外,SetPrec(0) 会把有限值映射为带符号的零,不能把它当作“恢复默认精度”。如果对象需要复制,使用 Copy 保留值、精度、模式和准确度;不要只复制格式化后的字符串。
常见问题
SetPrec 的 128 是 128 位小数吗?
不是。它是二进制尾数精度,能保留多少有效 bit 取决于数值和指数。若要判断某个值是否能精确表示,配合 MinPrec 查看更直接。
为什么 SetMode 后 Acc 变成 Exact?
SetMode 只改变舍入模式,并将准确度重置为 Exact;它没有重新计算原来的业务结果。下一次真正产生值的运算后,再读取 Acc。
Float64 返回的 Accuracy 有什么用?
它说明缩窄到 float64 时的方向,适合记录展示层的转换误差。若比较本身要求高精度,应在转换前使用 Cmp。
官方方法定义和舍入常量可查看 math/big 包文档,实现细节可对照 Go 源码中的 float.go。
前端 fetch 大文件时怎么用 ReadableStream 逐块处理
- 上一篇
- 前端 fetch 大文件时怎么用 ReadableStream 逐块处理
- 下一篇
- 工厂采购数控机床维保服务时合同里要写清哪些项目
-
- Golang · Go教程 | 50分钟前 |
- Go html/template 与 text/template 怎么选择输出类型
- 112浏览 收藏
-
- Golang · Go教程 | 1小时前 | go · 模板 · html/template · Go html/template HTML转义 模板安全
- Go 模板输出可信 HTML 时为什么不能直接拼字符串
- 388浏览 收藏
-
- Golang · Go教程 | 1小时前 |
- Go html/template 怎么避免用户输入被当成 HTML 执行
- 314浏览 收藏
-
- Golang · Go教程 | 1小时前 |
- Go 模板里访问嵌套字段失败时怎么定位字段路径
- 486浏览 收藏
-
- Golang · Go教程 | 1小时前 |
- Go 模板执行后输出空字符串怎么区分零值和缺失字段
- 204浏览 收藏
-
- Golang · Go教程 | 1小时前 |
- Go text/template 缺少 map 键时怎么让它直接报错
- 102浏览 收藏
-
- Golang · Go教程 | 2小时前 | 正则表达式 · Go教程 · 日志解析 · Go regexp 日志解析 SubexpIndex FindStringSubmatch
- Go 正则匹配日志字段时怎么把子匹配映射成结构体
- 436浏览 收藏
-
- Golang · Go教程 | 2小时前 | 错误排查 · 字符串匹配 · Go正则表达式 · Go regexp 命名捕获组 FindStringSubmatch
- Go 正则 FindStringSubmatch 返回空切片时怎么判断原因
- 207浏览 收藏
-
- Golang · Go教程 | 2小时前 | go · 正则表达式 · regexp · 字符串解析 · Go regexp 命名捕获组 SubexpIndex SubexpNames
- Go regexp 怎么用命名捕获组解析可选字段
- 252浏览 收藏
-
- Golang · Go教程 | 2小时前 |
- Go URL 拼接时怎么避免双斜杠和转义重复
- 149浏览 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 485次学习
-
- H2O EvalGPT
- H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
- 9次使用
-
- SuperCLUE
- SuperCLUE是权威的中文大语言模型综合评测基准,涵盖语言理解、知识应用、AI Agent智能体及安全性等12项核心能力。通过多轮对话与客观测试,定期发布榜单与技术报告,为模型研发、优化及行业选型提供科学依据。
- 174次使用
-
- C-Eval
- 深入了解C-Eval中文评估套件,涵盖52个学科与4级难度。本文详解其功能特点、Zero-shot/Few-shot使用方法及代码示例,助您全面评测LLM中文理解与泛化能力。
- 106次使用
-
- AI Prompt Library
- 探索AI Prompt Library免费资源库,涵盖营销、写作及多场景AI提示词。兼容ChatGPT、Claude等工具,一键复制优化输出,提升工作效率。
- 34次使用
-
- Generrated
- Generrated汇集9300+张DALL·E生成图像及对应提示词,支持查看完整图集、对比DALL·E 2与3版本差异,是AI绘图新手学习Prompt设计与获取创作灵感的实用工具。
- 5次使用
-
- golang 比较浮点数的大小方式
- 2023-01-07 365浏览
-
- golang中json小谈之字符串转浮点数的操作
- 2022-12-31 355浏览
-
- Go error wrapping 实战:别让错误日志只剩一句 failed
- 2026-06-01 151浏览
-
- Go pprof 排查慢接口:别只会看火焰图,先把问题问对
- 2026-06-01 101浏览
-
- Go Flight Recorder 实战:线上偶发卡顿,别再只靠日志碰运气
- 2026-06-01 323浏览

