3回答
比较浮点数和整数
、、、、
出于安全考虑，我需要执行两次相同的计算，一次只有整数(int32)变量，另一次只有浮点(float32)变量。在计算结束时，对这两个结果进行了比较。
如果!(a > b) && !(a < b)为真，那么_a_和_b_可能是相同的，否则就不是。如果我将浮点数转换为整数，我就得到了数字的整数部分，为什么通过使用一个联合对象并在那里定义
浏览 5提问于2014-11-22得票数 0
回答已采纳
我需要计算浮点值在列表中出现的次数，并且我有自定义的比较函数(它将浮点数与相对容差进行比较)。
有没有一个简单的解决方案来使用自定义比较函数来计算列表中的元素？据我所知，list.count()不接受比较函数--只接受一个参数进行计数。
浏览 0提问于2019-12-06得票数 0
我尝试在Python语言中计算浮点数组的crc32校验和，然后将其与C++中计算的crc32校验和进行比较，对于单个浮点数，我使用以下代码：获取数组的crc32校验和的代码应该是什么样子的？我尝试将每个浮点数的校验和相加，但这给出了错误的校验和
浏览 10提问于2020-11-26得票数 1
我知道这里也有类似的精度问题，但是我正在阅读一个项目的代码，该项目正在进行浮点数之间的精确相等比较，这让我感到困惑。numpy.array_equal(x1, x2)
因此，精确的平等(无容错)对于这个程序的工作至关重要，而且它似乎工
浏览 35提问于2020-06-02得票数 1
回答已采纳
1回答
我正在尝试将一些VBA excel代码转换为JS，但即使我对自己很确定，代码也不能正常工作。下面是一些给我带来麻烦的片段：JS: tri1 = tri1 + Math.pow(2, (2 - tour));VBA:If (y And (2 ^ (5 - Tour))) <> (Tri2 And 2 ^ (5 - Tour)) Then
JS: if ((y && Math.pow(2, 5 - tour)) != (tri2 &
浏览 4提问于2015-12-16得票数 1
当然，在试图处理付款时，它们应该匹配，以防止在最后一分钟手动覆盖支付金额，或者当然，避免计算错误。所以为了测试vars，我偷偷溜进来：var_dump($carttotal);
查看发生了什么(在我做了* 1计算以确保它们被处理为浮点数
浏览 6提问于2011-12-02得票数 17
回答已采纳
1回答
当将浮点数与整数进行比较时，有些值的计算时间要比其他类似大小的值要长得多。timeit.timeit("562949953420000.7 < 562949953421000") # run 1 million times但是，如果浮点数或整数以一定的量变得更小或更大，则比较运行得更快：
>>> timeit.timeit("562949953420000.7 < 562949953422000"
浏览 1提问于2015-05-07得票数 290
回答已采纳
我想测试这个函数并手工计算出正确的值。但是，由于它是浮点数，所以我不能直接进行比较，所以ScalaTest有什么好的语法可以让我比较双数组和epsilion/错误裕度吗？
谢谢
浏览 4提问于2014-11-30得票数 12
回答已采纳
所以我正在做一个需要计算浮点数的嵌入式项目。显然，有多种方法可以估计输出并减少计算周期。我的问题是，浮点比较与整数比较(相对而言，不是精确周期)的开销有多大？
浏览 1提问于2015-09-16得票数 2
isNaN(x[j])) }
我确信，浮点值(至少在IEEE 754语义中)不能直接进行比较。为什么以这种方式实现的比较是在标准的Go lib中实现的？
浏览 2提问于2022-01-28得票数 2
回答已采纳
我有一个输入的type=文本，我取其值与另一个已知值进行比较。当用户输入整数或浮点数时，效果很好。但是，如果用户输入一个计算(例如12/297或12 +9)，我希望执行计算，然后将结果与已知值进行比较。关于我会怎么做的任何建议。输入字段是简单的作为浮点数获取值的代码是：
parseFloat(document.getElementById("A1")
浏览 2提问于2014-05-25得票数 0
回答已采纳
1回答
我理解在cython中有些精度会丢失，因为cython浮点数与python浮点数不一样。我需要进行比较精确的计算，所以我很想了解这种行为。
浏览 5提问于2015-12-07得票数 3
2回答
将速度与最小速度进行比较，以查看速度是否应继续下降。由于某些原因，即使速度等于最小，它也会继续降低速度。
var wallSpeed : CGFloat!
浏览 0提问于2018-07-06得票数 1
回答已采纳
2回答
由于浮点数字不是实数，所以有很多问题和答案都是关于由不同计算产生的两个浮点数完全相等的危险。这个问题是而不是关于正确性取决于等式检查，而是基于它的缓存。if(myfloat !如果两者真的是相等的(这意味着如果我们可以用reals而不是浮点来计算的话)，但错误地被检测为没有，在最坏的情况下，我们做昂贵的计算冗余，但我们的程序的答案仍然是正确的。如果计算是在比浮点数的内存表示更宽的寄存器中完成的(例如，在启用80位fp寄存器时在32位x86上)，则A
浏览 5提问于2016-10-05得票数 2
2回答
可能重复：
public class Test {
double x = 0.3 - 0.2; System.out.println(x); }产出为: 0.0999
浏览 5提问于2011-05-22得票数 1
回答已采纳
我一直在想，为什么浮点数不是真正准确的，而计算机应该给出准确的答案。我在一本书中读到，最好将变量与我们想要的值周围的数字进行比较，因为计算值可能并不总是我们期望的整数。机器是如何计算这些划分的呢？
浏览 0提问于2011-10-08得票数 1
回答已采纳
我试图看看两个点之间的计算距离是否小于给定半径，如下所示： print "Distance:我知道我不应该直接比较浮标，我应该用一个阈值来比较。既然如此，是否有更好的方法来检查浮点数是否小于int (或另一个浮点数)。
更新从所有的回复中看，这个比较似乎都是正常的。
浏览 2提问于2012-04-05得票数 10
回答已采纳
1回答
我希望计时器在用户定义的文本字段输入时停止，然后重置并重复，直到达到用户定义的重复次数(另一个文本字段)。当我使用滑块时，效果很好，但我在使用滑块时遇到了一些其他问题，所以我改成了文本字段。我认为问题在于将文本字段转换为数值，我尝试了许多不同的方法，但都没有成功。该应用程序是一个简单的练习重复计数器，具有保持时间。任何帮助都是非常感谢的。谢谢..。float floatReps=[repsText.text floatValue];
CountH
浏览 2提问于2012-08-28得票数 0
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
实时音视频
对象存储
即时通信 IM活动推荐
腾讯云开发者
