登录
推荐 文章 Go 技术 课程 下载 专题 AI
首页 >  Golang >  Go教程

Go big.Float 比较结果不稳定时怎么设置精度和舍入

来源:17golang原创

时间:2026-09-08 01:01:27 295浏览 收藏

Go 里的 big.Float 比较结果不稳定,通常不是 Cmp 随机,而是参与比较的值在创建、转换或运算时使用了不同的精度和舍入模式。生产代码先把精度写成二进制位,再固定 SetMode;输入本来是分数时优先保留为 big.Rat,比较时直接调用 Cmp,不要先转成 float64

最小可靠写法是:用 SetPrec 指定位数,用 SetMode 指定舍入,用 Acc 看最近一次转换是否偏上或偏下,用 Cmp 做比较。
要点速览
  • SetPrec(128) 表示 128 个二进制有效位,不是 128 位小数。
  • SetStringSetRat 或运算前固定舍入模式,降低结果随调用顺序变化的风险。
  • Acc 只描述最近一次产生结果的操作;精确输入和近似输出不要混为一谈。

先把精度和舍入模式固定下来

big.Float 保存的是带精度、舍入模式和准确度属性的浮点值。精度单位是 bit,位数越高,尾数能保留的信息越多;它不是十进制小数位数。SetPrec 如果降低了已有值的精度,会立即按当前模式舍入,所以更稳妥的顺序是先配置对象,再读入数据。

package main

import (
    "fmt"
    "math/big"
)

func parseDecimal(text string, prec uint) (*big.Float, error) {
    // 先固定二进制精度和舍入规则,再解析十进制输入。
    value := new(big.Float).SetPrec(prec).SetMode(big.ToNearestEven)
    if _, ok := value.SetString(text); !ok {
        return nil, fmt.Errorf("invalid decimal: %s", text)
    }
    return value, nil
}

func main() {
    value, err := parseDecimal("0.1", 128)
    if err != nil {
        panic(err)
    }
    // Acc 只代表最近一次产生 value 的操作;Prec 返回 bit 数。
    fmt.Println(value.Prec(), value.Acc(), value.Text('g', 20))
}
Go math/big.Float 精度 bits、舍入模式、二进制尾数与 Acc 的静态关系图
图1:big.Float 的精度、舍入模式和 Acc 共同决定输入值如何落到可表示的二进制尾数。

常用舍入模式包括 ToNearestEvenToZeroToNegativeInfToPositiveInf。金额、阈值或区间判断不要只依赖默认值:把模式写在构造函数附近,代码审查时才能看出边界意图。需要检查一个值是否能原样表示时,可看 MinPrec;它返回精确表示该值所需的最小 bit 数。

Int、Rat 和 Float 的职责要分开

big.Int 适合任意精确整数,big.Rat 适合精确分数,big.Float 才是带可控误差的近似表示。比如三分之一从业务输入到最终比较都要求精确,就不要先写成 0.333333;先用分子和分母构造 Rat,只有需要浮点运算或对接浮点 API 时再转换。

package main

import (
    "fmt"
    "math/big"
)

func main() {
    // Rat 保留 1/3 的精确分子分母,转换到 Float 时才允许舍入。
    exact := new(big.Rat).SetFrac64(1, 3)
    approx := new(big.Float).SetPrec(128).SetMode(big.ToNearestEven).SetRat(exact)

    // Cmp 比较 Float 的数值;不要先调用 Float64 再比较。
    same := approx.Cmp(new(big.Float).SetPrec(128).SetRat(exact)) == 0
    fmt.Println(exact.RatString(), approx.Acc(), same)
}

SetRat 的结果可能带有 BelowAbove,这不是失败,而是说明近似值相对精确值落在下方还是上方。转换后的 Float 还可以调用 Rat(nil) 取回它当前实际表示的有理数,但那是“已舍入结果”的精确表达,不等于最初的输入。

Go math/big.Int、Rat、Float、Cmp、Acc 与 float64 出口的精度边界图
图2:Int 和 Rat 保留精确值,Float 在显式精度下近似表示,float64 是可能丢失信息的缩窄出口。

比较时别先转成 float64

Float64 会把结果缩窄到 IEEE 754 双精度,并额外返回一个 Accuracy。它适合最后展示或调用只接受 float64 的接口,不适合当作高精度比较的中间步骤。两个 Float 若来自不同精度的中间运算,先统一精度和舍入规则,再比较;如果业务规则要求分数严格相等,直接比较两个 Rat

需求推荐类型/方法不要做什么
大整数相等Int.Cmp转成 int64
分数精确相等Rat.Cmp先格式化成小数
可控近似运算Float.SetPrec + SetMode依赖隐式默认精度
浮点数比较Float.Cmp先调用 Float64

上线前的精度检查清单

先确认输入是否能用 IntRat 保持精确;必须使用 Float 时,统一一个精度常量,并把舍入模式写进构造函数。对每次关键转换记录 Acc,不要把上一次运算留下的准确度当成当前结论。输出给用户时再用 Text 控制显示位数,显示位数变化不会反过来增加内部精度。

另外,SetPrec(0) 会把有限值映射为带符号的零,不能把它当作“恢复默认精度”。如果对象需要复制,使用 Copy 保留值、精度、模式和准确度;不要只复制格式化后的字符串。

常见问题

SetPrec 的 128 是 128 位小数吗?

不是。它是二进制尾数精度,能保留多少有效 bit 取决于数值和指数。若要判断某个值是否能精确表示,配合 MinPrec 查看更直接。

为什么 SetMode 后 Acc 变成 Exact?

SetMode 只改变舍入模式,并将准确度重置为 Exact;它没有重新计算原来的业务结果。下一次真正产生值的运算后,再读取 Acc

Float64 返回的 Accuracy 有什么用?

它说明缩窄到 float64 时的方向,适合记录展示层的转换误差。若比较本身要求高精度,应在转换前使用 Cmp

官方方法定义和舍入常量可查看 math/big 包文档,实现细节可对照 Go 源码中的 float.go

声明:本文转载于:17golang原创 如有侵犯,请联系study_golang@163.com删除
相关阅读
更多>
最新阅读
更多>
课程推荐
更多>