当前位置: 首页 > 网络应用技术

BigDecimal的不当使用会导致准确性问题

时间:2023-03-06 16:48:14 网络应用技术

  当使用BigDecimal的去除时,我遇到了鬼动物的问题,我认为计算了准确性。结果,我经常返回0。当然,发现姿势是由不正确的姿势引起的。

  当使用bigdecimal删除高精油时,我没有注意遇到一个小问题,如下

  上面的输出是什么?

  为什么前两个是前两个?如果它直接= 0,则可以理解,但是是一个高度精确的计算,原因不应该遇到这样的问题。

  我们知道,当触发大二次时,它可以指定保留十进制的参数。如果添加了,会有所不同吗?

  输出结果是:

  因此,在指定了保留的十进制,如此大胆地猜测是否在上述情况下,因为没有指定比例值,默认值是不同的,因此最终结果的准确性是不同的吗?

  只需分析源代码,执行方式就是,因此此量表参数针对原点对象,而该对象只能分析其结构,因为没有其他地方可以使用

  分析以下行并直接输入源代码

  显然int并传递参数结构,然后简要介绍一下

  因此,很明显,默认比例为0,这意味着当原点是一个正数时,刻度参数的划分不现实。长gys的参数方法,biginteger也是如此

  下一步是浮动点标度确认的默认值。该结构比以前的结构更为复杂,源代码没有发布,它太长了,我不知道该怎么做。,单步执行

  根据Debug的结果,第一个量表为0;第二刻度为29,第三刻度为0至0

  它仍然是大的逻辑,还使用单个步骤调试方法尝试

  上述三个比例都是1

  最后将乘法方法的图片发布为结尾

  这封信不如这本书好。它已经写了。纯粹是一个家庭。由于个人能力有限,因此不可避免地遗漏和错误。如果您发现错误或有更好的建议,请批评和纠正。

  公共帐户:灰色灰色博客