如果它们几乎相等，那么-理论上-它们应该是精确相等的，但由于浮点数学，它们略有偏差。为了解决这个问题，我只需对程序中的每个数字进行四舍五入，它似乎起作用了。然而，我意识到如果x和y是 X= 1.1234567849999 Y= 1.1234567850001 我当然希望这些数字相等，但如果它们被四舍五入到8位，x将下降，y将上升。我不太理解浮点数学，我想问一下这是不是一个真正的危险，或者这种情况只是一个理论上的问题，
浏览 22提问于2021-10-20得票数 1
5回答
到目前为止，我已经看到许多关于浮点数相等的帖子。一个问题的标准答案是：“我们应该如何决定x和y是否相等？”是其中epsilon是一个固定的小常数。这是因为“操作数”x和y通常是一些计算的结果，其中涉及舍入误差，因此标准相等运算符==不是我们的意思，我们真正应该问的是，x和y是否接近，而不是相等。现在，我觉得如果x与y“几乎相
浏览 9提问于2008-11-30得票数 18
回答已采纳
2回答
大小数转换问题
、、、
嗨，使用HALF_EVEN四舍五入(银行四舍五入)，似乎java中的四舍五入并没有像预期的那样工作。下面的两个打印输出应该与250335.62相同，但第二个打印输出为250335.63。
浏览 1提问于2015-04-09得票数 1
在大多数情况下，当有人问到如何将浮点数舍入一定数量的数字时，经典的答案是使用格式：==> "6.38"
当舍入和舍入将产生与arg的缩放值相等的打印值时，则实现可以任意使用其中任何一个。例如，使用~4,2F格式打印参数6.375可以正确地生成6.3
浏览 2提问于2022-09-11得票数 2
回答已采纳
让我们看一下Java中的以下语句。3在上面的语句中，除了以下情况之外，所有其他情况都是显而易见的。
浏览 0提问于2012-04-14得票数 13
回答已采纳
0xFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFFF为什么会发生这种事？它们显然是不同的数字(即使是0xFFFF...FFFF也比它短一位数)
如果我将一个F添加到0xFFFF...FF中，它们不再相等：0x1000000000000000000000000000
浏览 5提问于2014-08-07得票数 43
回答已采纳
x和y几乎相等，因为它们在每一个数字上都是一致的，除了最后一个数字。因此，self.assertAlmostEqual(x, y)是True，因为assertAlmostEqual()适用于浮点数。Clarifications:
assertAlmostEquals()有一个名为places的可选参数，通过计算差四舍五入为十进制places数来比较数字。我的推测assertAlmostEqual_generic()应该具有
浏览 10提问于2012-08-27得票数 104
回答已采纳
我从一个MySQL DB中提取了10个整数：取: 423 =>向上舍入到500500,450,400,350,300,250,200,150,1
浏览 2提问于2011-09-23得票数 1
回答已采纳
1回答
如何舍入双/浮动到二进制精度？
、、、、
我已经证实，在实践中，用双精度的方法，最后两个小数舍入后的结果总是正确的，但通常是在舍入最后一个小数点之后。但是，由于尾数以二进制形式存储，是否有一种使用基数2而不是10来执行舍入的方法？只要清除最后3位几乎总是产生相同的结果，但如果我可以推它，而不是‘添加2’的尾数，如果它的第二个最不重要的位是设置，我很可能达到精度的极限。编辑:作为问题<em
浏览 0提问于2017-01-11得票数 5
回答已采纳
3回答
public static decimal Round(int decimalsdecimals参数指定返回值中的小数位数，范围从0到28。如果decimals为零，则返回一个整数。
如果小数位右边d的第一位数的值为5，则小数位数为奇数时向上舍入，或为偶数时保持不变。如果d的精度小于小数，则返回d不变。
浏览 3提问于2011-10-06得票数 1
我制作了这个算法来测试python是如何比较接近数字的print('X < Y = {}'.format(x < y)) # shows whether x < y
对于y= 2.50000000000000001，它有最小的小数位，用于Python自动舍入数字。2.50000000
浏览 1提问于2021-03-22得票数 2
回答已采纳
1回答
我希望获得一个具有以下属性的BigDecimal值：我有以下代码：
public BigDecimal standardDeviation(
浏览 2提问于2021-07-07得票数 0
5回答
我如何将一个数字舍入到60的间隔？例如，如果我有数字61，它应该舍入到60，如果数字是150，它应该舍入到120，如果是59，则应该舍入到zero。
浏览 1提问于2018-09-12得票数 3
回答已采纳
3回答
我知道我可以像这样舍入一个数字Math.round(number);但是如何将一个数字舍入到下一个最高的整数呢？因此，将1.3取整为2而不是1
浏览 1提问于2010-12-22得票数 2
回答已采纳
我听说ROUND_HALF_EVEN是财务数据计算中最受欢迎的舍入模式。我很想知道这种四舍五入模式为什么以及如何减少累积误差，如javadoc BigDecimal 1.4.2中所述。谢谢你，迪恩
浏览 0提问于2009-04-27得票数 9
我试着用python计算hw的账单。不知道如何将数字相加到小数点后两位。到目前为止我的情况是这样的。每次我尝试圆函数，它都不能工作，并给我一个错误信息。救命？！
浏览 5提问于2022-01-16得票数 -1
回答已采纳
我正在尝试在javascript中将一个数字四舍五入为0.2 (或其他变量)的部分。这意味着需要将数字向下舍入为1个小数，并将其拆分为0.2(?)math.round((1.34 * 10) / 10) = 1.3
但我如何将其转换为1.2，它应该始终向下舍入到最接近的0.2
浏览 1提问于2019-12-05得票数 0
2回答
浮标和双精度？
、、
我对float和double之间的区别感到困惑。我读过。我以为区别就在精确性上。因此，我预计如果0.1 + 0.2 == 0.3返回false，那么0.1f + 0.2f == 0.3f就会返回。这是纯粹的Java问题还是什么？
浏览 0提问于2016-05-29得票数 2
回答已采纳
2回答
对于JSON的需要，有一个特殊的需求: JSON值相等，对于数字值，是由它们的数学值的相等定义的。我需要这种检查，因为这不是一个合法的模式( enum中的值应该是唯一的)：但JsonNodes对于1和1.0并不相等。因此，我编写了番石榴的实现，并在适当的地方使用Set<Eq
浏览 2提问于2013-01-14得票数 20
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
云直播活动推荐
腾讯云开发者
