Go math/big.Float 设置精度后为什么结果仍会舍入
如果给 math/big.Float 调用了 SetPrec,结果仍然出现舍入,通常不是方法失效,而是把三种“精度”混在了一起:Float 保存的是尾数二进制位,算术结果看的是接收者 z 的精度和舍入模式,Text 的参数只控制打印出来的十进制位数。要保留更多信息,应先用字符串构造值,再为运算结果显式设置精度。
SetPrec(80)表示最多 80 个尾数二进制位,不是保留 80 位小数。- 调用
SetPrec会按当前舍入模式重新表示已有值;Add、Mul等操作按结果接收者的设置舍入。 Text('f', 10)只改变展示,不会把已经丢失的有效位找回来。
先区分三种“精度”:输入值、运算接收者与显示位数
big.Float 的内部形式是符号、尾数和二进制指数。Prec() 返回的是尾数最多可用多少个 bit。比如 SetPrec(24) 更接近 float32 的有效位规模,不能直接理解成小数点后 24 位。
还要注意构造入口:NewFloat 接收的是 float64,因此新值默认已经经过一次 53 位二进制浮点表示。如果业务数据来自金额、比例或配置文件,优先把十进制文本交给设置过精度的 Float。最后,Text 或 fmt 的格式参数是输出层设置;它可以少打印,也可以多打印,但不能恢复保存阶段已经舍入的位。

用一个最小例子定位 SetPrec 触发的舍入
SetPrec 修改的是接收者本身。若已有值的尾数不能无损地放进新位数,就会立即按当前模式舍入。下面保留一个较高精度的原值,再复制到低精度的结果中,便于把“改精度”和“改显示”分开观察。
package main
import (
"fmt"
"math/big"
)
func main() {
// 用字符串输入,避免先经过 float64 的 53 位表示。
raw := new(big.Float).SetPrec(128).SetMode(big.ToNearestEven)
if _, ok := raw.SetString("1.234567890123456789"); !ok {
panic("无法解析十进制值")
}
// SetPrec 会改变已有值;复制到新接收者可以保留 raw 供对照。
rounded := new(big.Float).SetPrec(12).SetMode(big.ToNearestEven)
rounded.Set(raw)
// p 格式显示二进制尾数,f 格式显示十进制文本。
fmt.Println("raw:", raw.Text('p', 0), "prec:", raw.Prec())
fmt.Println("rounded:", rounded.Text('p', 0), "acc:", rounded.Acc())
fmt.Println("display:", rounded.Text('f', 10))
}
这里的 rounded 只拥有 12 个尾数 bit,所以即使把 Text 的小数位参数调大,显示的也只是那个已经被压缩后的值。Acc() 表示最近一次操作相对精确结果的方向:正数结果向下取会是 Below,向上取会是 Above,完全相等则是 Exact。
比较舍入模式,而不是只调大 SetPrec
精度决定“还能放多少位”,舍入模式决定“放不下时往哪边走”。默认模式是 ToNearestEven;财务、阈值判断或区间计算若需要单向保证,就应显式写出模式,而不是依赖默认值。
| 模式 | 适合关注的问题 | 方向 |
|---|---|---|
| ToNearestEven | 通常的最近值,减少长期偏差 | 取最近值,平局取偶数 |
| ToZero | 只想向零截断 | 正负数都向零 |
| AwayFromZero | 需要远离零的保守结果 | 正负数都远离零 |
| ToNegativeInf / ToPositiveInf | 构造下界或上界 | 分别向负无穷或正无穷 |
模式属于每个 Float,不是全局开关。更换模式时,后续写入或运算会使用新规则;如果要重新得到同一输入在另一模式下的结果,应从未被低精度改写的原值重新设置,而不是在已经舍入的值上反复转换。

推荐的处理方式:输入用字符串,运算用统一接收者
实际项目中可以把精度和模式封装到解析函数里,并让每个运算结果都落到明确初始化过的接收者。这样不会因为零值 Float 自动继承某个操作数的精度而产生隐含变化。
func decimal(s string, prec uint) (*big.Float, error) {
// 统一精度和模式,让所有输入遵循同一套约定。
f := new(big.Float).SetPrec(prec).SetMode(big.ToNearestEven)
if _, ok := f.SetString(s); !ok {
return nil, fmt.Errorf("无效数字 %q", s)
}
return f, nil
}
func divide(xText, yText string) (string, error) {
// 128 bit 是本示例的工程选择,不等同于 128 位小数。
x, err := decimal(xText, 128)
if err != nil {
return "", err
}
y, err := decimal(yText, 128)
if err != nil {
return "", err
}
z := new(big.Float).SetPrec(128).SetMode(big.ToNearestEven)
z.Quo(x, y) // 结果按 z 的精度和舍入模式保存。
return z.Text('f', 10), nil // 这里只决定输出十位小数。
}
排查时可按这个顺序核对:先看输入是否来自 float64,再打印 Prec()、Mode() 和 Text('p', 0),接着检查每个运算的接收者是否已设置精度,最后才调整十进制显示位数。若要求绝对精确的十进制小数,big.Rat 往往比 big.Float 更合适;Float 的优势是可控的二进制浮点精度,而不是十进制无限精确。
常见追问
SetPrec(128) 是不是保留 128 位小数?
不是。它限制尾数的二进制 bit 数,实际可对应多少十进制有效数字还取决于数值的二进制表示和指数。
为什么打印出来的位数和 Prec 对不上?
因为 Prec 属于内部表示,Text 的 prec 属于输出格式。调试内部值时可暂时使用 Text('p', 0),面向用户时再选择合适的 f 或 g 格式。
因此,“设置精度后仍会舍入”的结论通常是正常行为:先确认输入没有提前损失精度,再让结果接收者明确承担精度和舍入策略,最后把显示层与数值层分开处理。
LiblibAI怎么做电商主视觉草图?设计师首次实操流程
- 上一篇
- LiblibAI怎么做电商主视觉草图?设计师首次实操流程
- 下一篇
- Go json.Decoder.Token 读取混合 JSON 流时怎么定位对象边界
-
- Golang · Go教程 | 19分钟前 |
- Go regexp.FindAllStringSubmatchIndex 怎么映射捕获组位置
- 134浏览 收藏
-
- Golang · Go教程 | 55分钟前 | go · 有理数 · 高精度计算 · 浮点误差 · math/big.Rat FloatString big.NewRat SetFrac64 SetString RatString
- Go math/big.Rat 怎么精确计算分数而不是浮点近似
- 312浏览 收藏
-
- Golang · Go教程 | 1小时前 |
- Go strconv.NumError 怎么拿到具体转换字段
- 301浏览 收藏
-
- Golang · Go教程 | 1小时前 |
- Go strconv.ParseFloat 遇到 NaN 和 Inf 怎么区分
- 501浏览 收藏
-
- Golang · Go教程 | 3小时前 | Timer · go · 性能优化 · time.After ·
- Go time.After 在高频循环中为什么会造成延迟对象堆积
- 313浏览 收藏
-
- Golang · Go教程 | 3小时前 |
- Go strconv.AppendQuote 怎么低分配地拼接带引号字符串
- 184浏览 收藏
-
- Golang · Go教程 | 4小时前 | 并发 · 定时器 · go · time.Timer time.NewTimer time.Stop time.Reset
- Go time.Timer 通道读不到事件时怎么判断定时器当前状态
- 173浏览 收藏
-
- Golang · Go教程 | 4小时前 | 定时任务 · 并发控制 · Go教程 · 资源释放 · Go Goroutine context 后台任务 time.Ticker Ticker.Stop
- Go time.Ticker 不再使用时怎么停止避免后台任务残留
- 297浏览 收藏
-
- Golang · Go教程 | 4小时前 | embed · Go教程 · html/template · 模板渲染 · Go html/template embed.FS ParseFS 模板嵌入
- Go html/template ParseFS 怎么从嵌入文件加载页面
- 271浏览 收藏
-
- Golang · Go教程 | 5小时前 | web安全 · Go教程 · html/template · 模板渲染 · Go web安全 html/template HTML转义 template.HTML
- Go html/template 如何安全渲染受信任的 HTML 片段
- 390浏览 收藏
-
- Golang · Go教程 | 5小时前 | go · 模板 · 安全 · html/template URL转义 Go模板
- Go html/template 中 URL 参数为什么会被转义
- 461浏览 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 485次学习
-
- H2O EvalGPT
- H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
- 51次使用
-
- SuperCLUE
- SuperCLUE是权威的中文大语言模型综合评测基准,涵盖语言理解、知识应用、AI Agent智能体及安全性等12项核心能力。通过多轮对话与客观测试,定期发布榜单与技术报告,为模型研发、优化及行业选型提供科学依据。
- 201次使用
-
- C-Eval
- 深入了解C-Eval中文评估套件,涵盖52个学科与4级难度。本文详解其功能特点、Zero-shot/Few-shot使用方法及代码示例,助您全面评测LLM中文理解与泛化能力。
- 137次使用
-
- AI Prompt Library
- 探索AI Prompt Library免费资源库,涵盖营销、写作及多场景AI提示词。兼容ChatGPT、Claude等工具,一键复制优化输出,提升工作效率。
- 68次使用
-
- Generrated
- Generrated汇集9300+张DALL·E生成图像及对应提示词,支持查看完整图集、对比DALL·E 2与3版本差异,是AI绘图新手学习Prompt设计与获取创作灵感的实用工具。
- 49次使用
-
- Go map 并发写 panic 怎么办:从共享 map 到可控写入路径
- 2026-06-30 123浏览
-
- go语言中的defer关键字
- 2023-02-17 150浏览
-
- Golang中Interface接口的三个特性
- 2023-01-07 394浏览
-
- go语言中函数与方法介绍
- 2023-01-07 297浏览
-
- go语言数据类型之字符串string
- 2022-12-30 321浏览
