Go math/big.Float.Append 的 prec 为什么不是二进制精度
来源:17golang原创
时间:2026-11-19 06:10:57 276浏览 收藏
先说结论:Float.Append 的 prec 控制“输出字符串里保留多少位十进制数字”,而 Float.SetPrec 的 prec 控制“尾数用多少个二进制位表示”。它们都叫 prec,但作用对象完全不同。前者只改变展示结果,后者可能因为舍入改变数值本身。
官方文档:https://pkg.go.dev/math/big#Float.Append、https://pkg.go.dev/math/big#Float.SetPrec
本文只围绕 math/big.Float 的文本输出和尾数精度展开,示例中的图片均为静态结构说明图,不是运行截图。
- 格式化:用
Append或Text决定输出文本的十进制位数。 - 计算:用
SetPrec决定后续数值能保留多少二进制尾数位。 - 判断:看到字符串变短,先查输出参数;看到数值被舍入,再查对象精度。
先把两个 prec 放到不同坐标系
Append 是一个输出方法:它把浮点数的文本形式追加到已有的字节切片,并返回扩展后的切片。它不会因为你传入 6 就把对象改成 6 位精度。SetPrec 则是对象配置方法,传入的是尾数精度,单位是二进制位;当当前尾数不能无损放入目标位数时,Go 会按对象的舍入模式处理。
| 调用 | 精度单位 | 直接影响 |
|---|---|---|
f.Append(buf, 'g', prec) | 十进制数字 | 追加到 buf 的文本 |
f.Text('g', prec) | 十进制数字 | 返回的文本 |
f.SetPrec(prec) | 二进制尾数位 | 对象的表示和可能的舍入 |
package main
import (
"fmt"
"math/big"
)
func main() {
// 先给 Float 设置 80 个二进制尾数位,再载入十进制输入。
f := new(big.Float).SetPrec(80)
if _, ok := f.SetString("1.234567890123456789"); !ok {
// 输入失败时不要继续把无效值当成高精度结果使用。
return
}
// 这里的 6 只限制 g 格式的十进制有效数字,不会修改 f.Prec()。
buf := f.Append([]byte("value="), 'g', 6)
fmt.Printf("%s,对象精度=%d bits\n", buf, f.Prec())
}

Append 的 prec 为什么是十进制位数
Append 的格式语义与 Text 一致。对 e、E、f 和 x,prec 通常表示小数点后的位数;对 g 和 G,它表示总有效数字。传入负数时,方法会选择能够唯一标识当前值的最短十进制表示。b 和 p 是按二进制指数表达的特殊格式,精度参数不会按普通十进制规则生效。
因此,下面的两个调用即使使用同一个 Float,也只是得到不同的字符串。Append 适合复用缓冲区,例如在日志前缀、协议字段或批量文本拼接中减少一次中间字符串分配。
package main
import (
"fmt"
"math/big"
)
func main() {
// 让输入对象保持明确的二进制精度,避免由默认精度掩盖示例意图。
f := new(big.Float).SetPrec(96)
if _, ok := f.SetString("12345.67890123456789"); !ok {
// 解析失败时直接返回,避免输出一个未定义的数值。
return
}
// g 的 8 表示总有效数字,负数则请求最短可辨识表示。
short := f.Append(nil, 'g', -1)
compact := f.Append(nil, 'g', 8)
fmt.Printf("short=%s\ncompact=%s\n", short, compact)
}
SetPrec 的 prec 为什么是二进制尾数位数
Float.Prec() 返回尾数精度,单位是 bit。SetPrec 会改变这个配置,并返回可能已经舍入的值;所以它属于数值表示层,而不是展示层。把一个已经装入 128 位尾数的对象改成 24 位,后续运算使用的有效信息就可能减少,舍入模式也会影响最终值。
需要注意,SetPrec(0) 会把有限值映射为带符号的零,正负无穷保持不变;这不是“使用默认精度”的写法。若想知道某个值要多少位才能精确表示,可先看 MinPrec(),再决定目标精度。

package main
import (
"fmt"
"math/big"
)
func main() {
// 128 位是对象的尾数上限示意,SetPrec 调小后可能触发舍入。
f := new(big.Float).SetPrec(128)
if _, ok := f.SetString("0.12345678901234567890123456789"); !ok {
// 解析失败时不要比较两个无效状态。
return
}
fmt.Printf("before=%d bits, min=%d bits\n", f.Prec(), f.MinPrec())
// 24 是二进制位数,不是 24 位小数;这一步可能改变 f 的值。
f.SetPrec(24)
fmt.Printf("after=%d bits, text=%s\n", f.Prec(), f.Text('g', -1))
}
写代码时怎样选择正确的 API
可以把判断压缩成一张小表:需要“控制输出长度”时用 Append/Text;需要“控制计算和保存时的表示能力”时用 SetPrec;需要“尽量短但仍能辨识当前值”时给 Append 或 Text 传负精度;需要判断精确表示成本时查看 MinPrec。
一个常见误区是先用很小的 SetPrec 丢掉信息,再试图通过 Append(..., -1) 把原始精度打印回来。负精度只能为“当前对象已经保存的值”寻找最短表示,不能恢复被舍入前的信息。反过来,单纯把 Append 的数字改大,也不会提升对象参与运算时的尾数精度。
相关问题
Append 和 Text 有什么区别?核心格式规则相同;Text 返回新字符串,Append 把结果追加到传入的字节切片,更适合已有缓冲区的场景。
为什么同一个 Float 输出位数变了,Prec() 却没有变?因为你改的是输出方法的 prec。只有调用 SetPrec 才会改变对象的尾数精度,而且调低时还可能发生舍入。
-
369 收藏
-
344 收藏
-
464 收藏
-
117 收藏
-
448 收藏
-
318 收藏
-
Golang · Go问答 | 23分钟前 | 并发 · 闭包 · 标准库 · 迭代器 · 故障排查 · Go问答 · Go iter iter.Seq range over function 并发消费 single-use iterator 闭包游标163 收藏
-
Golang · Go问答 | 39分钟前 | 标准库 · Context · 工程实践 · 接口设计 · Go问答 · Go 函数参数 context.Context context.WithValue 请求范围数据 类型化key245 收藏
-
Golang · Go问答 | 44分钟前 | 标准库 · TLS · 故障排查 · Go问答 · clone Go crypto/x509 CertPool AddCert SystemCertPool x509.CertPool.Equal TLS根证书244 收藏
-
Golang · Go问答 | 46分钟前 | 标准库 · 浮点数 · Go问答 · Go RoundingMode 浮点精度 SetPrec GobDecode math/big.Float GobEncode265 收藏
-
Golang · Go问答 | 1小时前 | 标准库 · 工具链 · 源码分析 · Go问答 · Go ast 字节偏移 go/token FileSet token.Pos 源码位置 token.File.Offset388 收藏
-
Golang · Go问答 | 1小时前 | 标准库 · 互斥锁 · 并发编程 · 接口设计 · Go问答 · Go lock sync.Mutex sync.RWMutex Unlock sync.Locker 并发封装391 收藏
-
152 收藏
-
481 收藏
-
247 收藏
-
Golang · Go问答 | 1小时前 | unicode · Go问答 · Go UTF-8 strings.TrimSpace 控制字符 unicode.IsSpace Unicode White Space 零宽字符325 收藏
-
196 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 立即学习 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 立即学习 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 立即学习 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 立即学习 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 立即学习 485次学习