精度
已收录文章：2篇
-
文章 · java教程 | 15小时前 | 精度 · Java教程 · BigDecimal · 金额计算 · 异常排查 · 精度 ArithmeticException 金额计算 RoundingMode Java BigDecimal.divideJava BigDecimal.divide 在除不尽时会抛 ArithmeticException。本文从 10 除 3 的金额分摊场景出发，拆解精确除法、scale、RoundingMode 和零除边界，并给出可复现的验收测试。455 收藏
-
GO语言的float64类型在做加减乘除时会出现一些问题 比如乘法运算，实例，将小数的元转换成整数的分： 发现将小数的元乘以100后强制转换为整数分，少了1分 解决办法： var ( a, b float64 c int64152 收藏