多平台统一管理软件接口,如何实现多平台统一管理软件接口
232
2023-01-20
Java NumberFormat格式化float类型的bug
首先,这个NumberFormat这个类,可以格式化各种数字。你只要稍微设置一下,结果还是很理性的。
但是,他有那么一丢丢的bug,不知道你知道不?
/**
* 2.3F经过格式化,竟然变成2.99啦。what the fuck .
* float类型的时候,值是2.3,但是一经变成Double,值就变成2.99999啦。
* 这个format的参数是double类型的。所以,在传入参数的时候,就变成了对2.299999952316284进行操作。返回就过就是2.99
*/
private static void floatFormatTest(lpZKL) {
float responseTime = 2.3F;
NumberFormat formatter;
formatter = NumberFormat.getNumberInstance();
formatter.setGroupingUsed(false);
formatter.setRoundingMode(RoundingMode.FLOOR);
formatter.setMaximumFractionDigits(2);
String format = formatter.format(responseTime);
System.out.println(format);
float v = Float.parseFloat(formatter.format(responseTime));
System.out.println(v);
}
看下debug的时候,这个数字到底有啥出乎意料的变化。
这个时候,还是OK的。还是正常的。
看到啦没,这个2.3F,float类型的数,经过format的时候,自动变成double类型啦。然后,就不稳定啦。
经过取舍之后,2.3,就变成啦2.29啦
怎么规避这个问题
在使用这个BigDecimal的时候,传参数,要传字符串。不然还是不准确。
总结
以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作具有一定的参考学习价值,谢谢大家对我们的支持。如果你想了解更多相关内容请查看下面相关链接
版权声明:本文内容由网络用户投稿,版权归原作者所有,本站不拥有其著作权,亦不承担相应法律责任。如果您发现本站中有涉嫌抄袭或描述失实的内容,请联系我们jiasou666@gmail.com 处理,核实后本网站将在24小时内删除侵权内容。
发表评论
暂时没有评论,来抢沙发吧~