登录
首页 >  Golang >  Go问答

将 999999999.99999999 舍入为最接近的整数

来源:stackoverflow

时间:2024-03-21 15:54:32 475浏览 收藏

本文探讨将浮点数 999999999.99999999 转换为整数时遇到的精度问题。使用浮点数时,由于精度限制,结果可能向上舍入到 100000000000000000,而不是预期的 99999999999999999。文章还提供了使用 math/big 库处理超出浮点数限制的数字的解决方案。

问题内容

我有一个浮点数 999999999.99999999,我想将浮点数转换为整数。 我期望结果 99999999999999999 但得到 100000000000000000 为什么?)

import (
    "github.com/shopspring/decimal"
    "log"
)

func MultiplyFloatToInt(value float64, multiplier int64) (result int64) {
    return decimal.NewFromFloat(value).Mul(decimal.NewFromFloat(float64(multiplier))).IntPart()
}

func main() {
    bigFloat := float64(999999999.99999999)

    multilayer := float64(100000000)

    log.Println(bigFloat)
    log.Println(int64(bigFloat * multilayer))
    log.Println(MultiplyFloatToInt(bigFloat, int64(multilayer)))
}

https://play.golang.org/p/_1rmukjf9nr


解决方案


将任何浮点数转换为整数总是会得到整数。我不确定您是否期望十进制输出,或者输入错误的问题。

您的示例向上舍入的原因已在其他答案和评论中进行了解释,并且与您的输入超过 float64 的精度有关。如果您从示例中删除其中一个 9 并重播,您将看到该值不会向上舍入。

当处理超出 float64 限制的数字时,您可以使用 math/big 库。

这样的事情应该会给你你所期望的结果。

package main

import (
    "math/big"
    "log"
)

func main() {
    bigfloatstr := "999999999.99999999"
    bigfloat, _ := new(big.float).setstring(bigfloatstr)

    multiplier := new(big.float).setint64(100000000)

    result := new(big.float)
    result.mul(bigfloat, multiplier)

    bigint := new(big.int)
    result.int(bigint)

    intval := bigint.int64()

    log.println(bigfloat)
    log.println(result)
    log.println(bigint)
    log.println(intval) 
}

输出:

2009/11/10 23:00:00 9.9999999999999999e+08
2009/11/10 23:00:00 9.9999999999999999e+16
2009/11/10 23:00:00 99999999999999999
2009/11/10 23:00:00 99999999999999999

https://play.golang.org/p/w4fMuPE1ADf

您的标题和问题正文与您提供的代码相矛盾。但问题在于如何构造 bigfloat

999999999.99999999double 常量,但没有 double 可以模拟该精确值,因此选择最接近它的值,即 100000000。它作为参数传递给能够表示原始数字的对象的构造函数并不重要:到那时,已经恢复到最近的 double 了。

这里通常要做的事情是使用接受字符串的构造函数。

终于介绍完啦!小伙伴们,这篇关于《将 999999999.99999999 舍入为最接近的整数》的介绍应该让你收获多多了吧!欢迎大家收藏或分享给更多需要学习的朋友吧~golang学习网公众号也会发布Golang相关知识,快来关注吧!

声明:本文转载于:stackoverflow 如有侵犯,请联系study_golang@163.com删除
相关阅读
更多>
最新阅读
更多>
课程推荐
更多>