登录
推荐 文章 Go 技术 课程 下载 专题 AI
首页 >  Golang >  Go教程

Go math/big.Float 设置精度后为什么结果仍会舍入

来源:17golang原创

时间:2026-09-09 19:35:56 470浏览 收藏

如果给 math/big.Float 调用了 SetPrec,结果仍然出现舍入,通常不是方法失效,而是把三种“精度”混在了一起:Float 保存的是尾数二进制位,算术结果看的是接收者 z 的精度和舍入模式,Text 的参数只控制打印出来的十进制位数。要保留更多信息,应先用字符串构造值,再为运算结果显式设置精度。

要点速览
  • SetPrec(80) 表示最多 80 个尾数二进制位,不是保留 80 位小数。
  • 调用 SetPrec 会按当前舍入模式重新表示已有值;AddMul 等操作按结果接收者的设置舍入。
  • Text('f', 10) 只改变展示,不会把已经丢失的有效位找回来。

先区分三种“精度”:输入值、运算接收者与显示位数

big.Float 的内部形式是符号、尾数和二进制指数。Prec() 返回的是尾数最多可用多少个 bit。比如 SetPrec(24) 更接近 float32 的有效位规模,不能直接理解成小数点后 24 位。

还要注意构造入口:NewFloat 接收的是 float64,因此新值默认已经经过一次 53 位二进制浮点表示。如果业务数据来自金额、比例或配置文件,优先把十进制文本交给设置过精度的 Float。最后,Textfmt 的格式参数是输出层设置;它可以少打印,也可以多打印,但不能恢复保存阶段已经舍入的位。

输入值、尾数二进制位、舍入点和十进制显示之间的关系框图
图1:把 big.Float 的尾数精度、数值保存和 Text 显示拆成三个边界,避免把二进制位数当成小数位数。

用一个最小例子定位 SetPrec 触发的舍入

SetPrec 修改的是接收者本身。若已有值的尾数不能无损地放进新位数,就会立即按当前模式舍入。下面保留一个较高精度的原值,再复制到低精度的结果中,便于把“改精度”和“改显示”分开观察。

package main

import (
    "fmt"
    "math/big"
)

func main() {
    // 用字符串输入,避免先经过 float64 的 53 位表示。
    raw := new(big.Float).SetPrec(128).SetMode(big.ToNearestEven)
    if _, ok := raw.SetString("1.234567890123456789"); !ok {
        panic("无法解析十进制值")
    }

    // SetPrec 会改变已有值;复制到新接收者可以保留 raw 供对照。
    rounded := new(big.Float).SetPrec(12).SetMode(big.ToNearestEven)
    rounded.Set(raw)

    // p 格式显示二进制尾数,f 格式显示十进制文本。
    fmt.Println("raw:", raw.Text('p', 0), "prec:", raw.Prec())
    fmt.Println("rounded:", rounded.Text('p', 0), "acc:", rounded.Acc())
    fmt.Println("display:", rounded.Text('f', 10))
}

这里的 rounded 只拥有 12 个尾数 bit,所以即使把 Text 的小数位参数调大,显示的也只是那个已经被压缩后的值。Acc() 表示最近一次操作相对精确结果的方向:正数结果向下取会是 Below,向上取会是 Above,完全相等则是 Exact

比较舍入模式,而不是只调大 SetPrec

精度决定“还能放多少位”,舍入模式决定“放不下时往哪边走”。默认模式是 ToNearestEven;财务、阈值判断或区间计算若需要单向保证,就应显式写出模式,而不是依赖默认值。

模式适合关注的问题方向
ToNearestEven通常的最近值,减少长期偏差取最近值,平局取偶数
ToZero只想向零截断正负数都向零
AwayFromZero需要远离零的保守结果正负数都远离零
ToNegativeInf / ToPositiveInf构造下界或上界分别向负无穷或正无穷

模式属于每个 Float,不是全局开关。更换模式时,后续写入或运算会使用新规则;如果要重新得到同一输入在另一模式下的结果,应从未被低精度改写的原值重新设置,而不是在已经舍入的值上反复转换。

big.Float 运算接收者精度、舍入模式和 Acc 关系框图
图2:运算不是只看操作数,结果接收者 z 的 precision 与 rounding mode 共同决定保存值和 Acc 方向。

推荐的处理方式:输入用字符串,运算用统一接收者

实际项目中可以把精度和模式封装到解析函数里,并让每个运算结果都落到明确初始化过的接收者。这样不会因为零值 Float 自动继承某个操作数的精度而产生隐含变化。

func decimal(s string, prec uint) (*big.Float, error) {
    // 统一精度和模式,让所有输入遵循同一套约定。
    f := new(big.Float).SetPrec(prec).SetMode(big.ToNearestEven)
    if _, ok := f.SetString(s); !ok {
        return nil, fmt.Errorf("无效数字 %q", s)
    }
    return f, nil
}

func divide(xText, yText string) (string, error) {
    // 128 bit 是本示例的工程选择,不等同于 128 位小数。
    x, err := decimal(xText, 128)
    if err != nil {
        return "", err
    }
    y, err := decimal(yText, 128)
    if err != nil {
        return "", err
    }
    z := new(big.Float).SetPrec(128).SetMode(big.ToNearestEven)
    z.Quo(x, y) // 结果按 z 的精度和舍入模式保存。
    return z.Text('f', 10), nil // 这里只决定输出十位小数。
}

排查时可按这个顺序核对:先看输入是否来自 float64,再打印 Prec()Mode()Text('p', 0),接着检查每个运算的接收者是否已设置精度,最后才调整十进制显示位数。若要求绝对精确的十进制小数,big.Rat 往往比 big.Float 更合适;Float 的优势是可控的二进制浮点精度,而不是十进制无限精确。

常见追问

SetPrec(128) 是不是保留 128 位小数?

不是。它限制尾数的二进制 bit 数,实际可对应多少十进制有效数字还取决于数值的二进制表示和指数。

为什么打印出来的位数和 Prec 对不上?

因为 Prec 属于内部表示,Textprec 属于输出格式。调试内部值时可暂时使用 Text('p', 0),面向用户时再选择合适的 fg 格式。

因此,“设置精度后仍会舍入”的结论通常是正常行为:先确认输入没有提前损失精度,再让结果接收者明确承担精度和舍入策略,最后把显示层与数值层分开处理。

声明:本文转载于:17golang原创 如有侵犯,请联系study_golang@163.com删除
相关阅读
更多>
最新阅读
更多>
课程推荐
更多>