Go math/big.Float.Append 的 prec 为什么不是二进制精度
先说结论:Float.Append 的 prec 控制“输出字符串里保留多少位十进制数字”,而 Float.SetPrec 的 prec 控制“尾数用多少个二进制位表示”。它们都叫 prec,但作用对象完全不同。前者只改变展示结果,后者可能因为舍入改变数值本身。
官方文档:https://pkg.go.dev/math/big#Float.Append、https://pkg.go.dev/math/big#Float.SetPrec
本文只围绕 math/big.Float 的文本输出和尾数精度展开,示例中的图片均为静态结构说明图,不是运行截图。
- 格式化:用
Append或Text决定输出文本的十进制位数。 - 计算:用
SetPrec决定后续数值能保留多少二进制尾数位。 - 判断:看到字符串变短,先查输出参数;看到数值被舍入,再查对象精度。
先把两个 prec 放到不同坐标系
Append 是一个输出方法:它把浮点数的文本形式追加到已有的字节切片,并返回扩展后的切片。它不会因为你传入 6 就把对象改成 6 位精度。SetPrec 则是对象配置方法,传入的是尾数精度,单位是二进制位;当当前尾数不能无损放入目标位数时,Go 会按对象的舍入模式处理。
| 调用 | 精度单位 | 直接影响 |
|---|---|---|
f.Append(buf, 'g', prec) | 十进制数字 | 追加到 buf 的文本 |
f.Text('g', prec) | 十进制数字 | 返回的文本 |
f.SetPrec(prec) | 二进制尾数位 | 对象的表示和可能的舍入 |
package main
import (
"fmt"
"math/big"
)
func main() {
// 先给 Float 设置 80 个二进制尾数位,再载入十进制输入。
f := new(big.Float).SetPrec(80)
if _, ok := f.SetString("1.234567890123456789"); !ok {
// 输入失败时不要继续把无效值当成高精度结果使用。
return
}
// 这里的 6 只限制 g 格式的十进制有效数字,不会修改 f.Prec()。
buf := f.Append([]byte("value="), 'g', 6)
fmt.Printf("%s,对象精度=%d bits\n", buf, f.Prec())
}

Append 的 prec 为什么是十进制位数
Append 的格式语义与 Text 一致。对 e、E、f 和 x,prec 通常表示小数点后的位数;对 g 和 G,它表示总有效数字。传入负数时,方法会选择能够唯一标识当前值的最短十进制表示。b 和 p 是按二进制指数表达的特殊格式,精度参数不会按普通十进制规则生效。
因此,下面的两个调用即使使用同一个 Float,也只是得到不同的字符串。Append 适合复用缓冲区,例如在日志前缀、协议字段或批量文本拼接中减少一次中间字符串分配。
package main
import (
"fmt"
"math/big"
)
func main() {
// 让输入对象保持明确的二进制精度,避免由默认精度掩盖示例意图。
f := new(big.Float).SetPrec(96)
if _, ok := f.SetString("12345.67890123456789"); !ok {
// 解析失败时直接返回,避免输出一个未定义的数值。
return
}
// g 的 8 表示总有效数字,负数则请求最短可辨识表示。
short := f.Append(nil, 'g', -1)
compact := f.Append(nil, 'g', 8)
fmt.Printf("short=%s\ncompact=%s\n", short, compact)
}
SetPrec 的 prec 为什么是二进制尾数位数
Float.Prec() 返回尾数精度,单位是 bit。SetPrec 会改变这个配置,并返回可能已经舍入的值;所以它属于数值表示层,而不是展示层。把一个已经装入 128 位尾数的对象改成 24 位,后续运算使用的有效信息就可能减少,舍入模式也会影响最终值。
需要注意,SetPrec(0) 会把有限值映射为带符号的零,正负无穷保持不变;这不是“使用默认精度”的写法。若想知道某个值要多少位才能精确表示,可先看 MinPrec(),再决定目标精度。

package main
import (
"fmt"
"math/big"
)
func main() {
// 128 位是对象的尾数上限示意,SetPrec 调小后可能触发舍入。
f := new(big.Float).SetPrec(128)
if _, ok := f.SetString("0.12345678901234567890123456789"); !ok {
// 解析失败时不要比较两个无效状态。
return
}
fmt.Printf("before=%d bits, min=%d bits\n", f.Prec(), f.MinPrec())
// 24 是二进制位数,不是 24 位小数;这一步可能改变 f 的值。
f.SetPrec(24)
fmt.Printf("after=%d bits, text=%s\n", f.Prec(), f.Text('g', -1))
}
写代码时怎样选择正确的 API
可以把判断压缩成一张小表:需要“控制输出长度”时用 Append/Text;需要“控制计算和保存时的表示能力”时用 SetPrec;需要“尽量短但仍能辨识当前值”时给 Append 或 Text 传负精度;需要判断精确表示成本时查看 MinPrec。
一个常见误区是先用很小的 SetPrec 丢掉信息,再试图通过 Append(..., -1) 把原始精度打印回来。负精度只能为“当前对象已经保存的值”寻找最短表示,不能恢复被舍入前的信息。反过来,单纯把 Append 的数字改大,也不会提升对象参与运算时的尾数精度。
相关问题
Append 和 Text 有什么区别?核心格式规则相同;Text 返回新字符串,Append 把结果追加到传入的字节切片,更适合已有缓冲区的场景。
为什么同一个 Float 输出位数变了,Prec() 却没有变?因为你改的是输出方法的 prec。只有调用 SetPrec 才会改变对象的尾数精度,而且调低时还可能发生舍入。
Go context.WithValue 为什么不适合传递函数参数
- 上一篇
- Go context.WithValue 为什么不适合传递函数参数
- 下一篇
- Go iter.Seq 为什么不能被两个消费者安全复用
-
- Golang · Go问答 | 33分钟前 | 标准库 · Context · 工程实践 · 接口设计 · Go问答 · Go 函数参数 context.Context context.WithValue 请求范围数据 类型化key
- Go context.WithValue 为什么不适合传递函数参数
- 245浏览 收藏
-
- Golang · Go问答 | 37分钟前 | 标准库 · TLS · 故障排查 · Go问答 · clone Go crypto/x509 CertPool AddCert SystemCertPool x509.CertPool.Equal TLS根证书
- Go x509.CertPool.Equal 怎样判断两个证书池是否一致
- 244浏览 收藏
-
- Golang · Go问答 | 40分钟前 | 标准库 · 浮点数 · Go问答 · Go RoundingMode 浮点精度 SetPrec GobDecode math/big.Float GobEncode
- Go math/big.Float.GobDecode 为什么没有保留原始精度
- 265浏览 收藏
-
- Golang · Go问答 | 1小时前 | 标准库 · 互斥锁 · 并发编程 · 接口设计 · Go问答 · Go lock sync.Mutex sync.RWMutex Unlock sync.Locker 并发封装
- Go sync.Locker 怎样把互斥锁和读写锁封装成统一接口
- 391浏览 收藏
-
- Golang · Go问答 | 1小时前 | 标准库 · 浮点数 · Go问答 · 排错 · Go 浮点数 精度 舍入 math/big.Float 二进制指数 SetMantExp
- Go math/big.Float.SetMantExp 的指数为什么不是十进制位移
- 152浏览 收藏
-
- Golang · Go问答 | 1小时前 | 标准库 · 时间处理 · Go问答 · Go time.Parse ParseInLocation RFC3339 时区缩写 IANA 时区
- Go time.Parse 为什么带时区缩写的时间容易解析错
- 481浏览 收藏
-
- Golang · Go问答 | 1小时前 | 标准库 · strconv · Go问答 · Go 进制转换 二进制 十六进制 Uint64 strconv.FormatUint AppendUint
- Go strconv.FormatUint 怎样按进制输出无符号整数
- 247浏览 收藏
-
- Golang · Go问答 | 1小时前 | unicode · Go问答 · Go UTF-8 strings.TrimSpace 控制字符 unicode.IsSpace Unicode White Space 零宽字符
- Go strings.TrimSpace 为什么不会删除所有不可见字节
- 325浏览 收藏
-
- Golang · Go问答 | 1小时前 |
- Go regexp.MatchString 为什么不能跨行匹配默认文本
- 196浏览 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 485次学习
-
- PubMedQA
- 深入了解PubMedQA生物医学问答数据集,涵盖其核心功能、使用方法及在临床决策、药物研发等场景的应用,助力提升NLP模型性能。
- 1102次使用
-
- H2O EvalGPT
- H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
- 1099次使用
-
- LMArena
- LMArena是加州大学伯克利分校推出的AI模型匿名评测平台。通过盲测投票机制,用户可对比不同大模型回答并生成实时排行榜,助力开发者优化模型及用户选择最佳AI工具。
- 1270次使用
-
- HELM
- 深入了解斯坦福推出的HELM(Holistic Evaluation of Language Models)大模型评测体系。本文解析其核心功能、安装配置步骤及应用场景,涵盖准确性、公平性、鲁棒性等多维度指标,助力开发者全面优化语言模型性能。
- 1211次使用
-
- MMBench
- MMBench是由上海人工智能实验室等机构联合推出的多模态基准测试平台,提供细粒度能力评估、大规模数据集及VLMEvalKit工具。本文详细介绍其核心功能、安装使用方法及应用场景,助力开发者全面评估多模态模型性能。
- 1058次使用
-
- GScript 编写标准库示例详解
- 2022-12-30 369浏览
-
- 关于Golang标准库flag的全面讲解
- 2023-02-25 344浏览
-
- Golang标准库unsafe源码解读
- 2022-12-29 464浏览
-
- golang中time包之时间间隔格式化和秒、毫秒、纳秒等时间戳格式输出的方法实例
- 2023-01-10 117浏览
-
- Go语言fmt.Sprintf格式化输出的语法与实例
- 2023-01-07 448浏览

