在我的代码中：
else if (returnShortestTime() == shortTime[1])
returnShortestTime方法返回最小的double，并与存储的double进行比较，因此，由于这不是简单地使用double A == double B，我如何在代码中比较两个double，以查看它们是否相等？
浏览 2提问于2015-11-05得票数 1
2回答
%function [flag] =verify(area)
[FileName,PathName,FilterIndex]= uigetfile('*.tif','Select the signature file');
display(PathName)
m=[PathName,FileName];
area=nor_area(m);
%display(area)
%area=0.8707;
class(area)
flag=0;
extract=xlsread('D:\Project\Image_processing\important\b
浏览 5提问于2011-12-15得票数 0
我得比较两个数字。其中一个来自regulat代码，另一个来自numpy。调试器显示它们具有相同的值'29.0'，但是第一个的类型是float，第二个的类型是float64，因此a == b和a - b == 0是False。我该怎么处理呢？有没有办法强制一个常规的python变量在默认情况下使用float为float64或numpy？
更新:最后，所有这些值都来自编写29.0的同一个文件，所以我不认为数值之间有什么不同。
浏览 0提问于2013-08-07得票数 7
回答已采纳
2回答
我正在从一个教程中学习c++，在那里，我被告知在c++中比较浮点数是非常复杂的。例如，在以下代码中：
#include <iostream>
using namespace std;
int main()
{
float decimalNumber = 1.2;
if (decimalNumber == 1.2){
cout << "Equal" << endl;
}else{
cout << "Not equal" << endl;
浏览 3提问于2020-07-31得票数 0
回答已采纳
1回答
您好，我知道计算机受到数字精度的限制，有些数字不能准确地用二进制表示。这就是为什么我要问为什么这样的比较
(0.1*3) == 0.3
在Java语言中，它的计算结果是false，而在C语言中，它的计算结果是true，对我来说，Java的行为更直观一点。任何提供的答案都不能回答我的问题，为什么它们有不同的行为，因为它们都使用IEEE754标准。
@update我正在使用ideone测试条件。
浏览 0提问于2016-04-05得票数 6
在C中：
float a = 1.3;
if (a == 1.3)
printf("Hello c");
else
printf("Bye c");
//output: Bye c
在Java中：
float a = 1.3;
if (a == 1.3)
System.out.println("Hello java");
else
System.out.println("Bye java");
//output: Hello java
为何会这样呢？
浏览 3提问于2011-11-14得票数 5
8回答
为什么乘法顺序会影响结果？考虑以下代码
a=47.215419672114173
b=-0.45000000000000007
c=-0.91006620964286644
result1=a*b*c
temp=b*c
result2=a*temp
result1==result2
我们都知道，result1 应该等同于result2，但是我们得到：
result1==result2 #FALSE!
差别很小
result1-result2 #3.552713678800501e-15
但是，对于特定的应用程序，此错误可能会放大，以便两个执行相同计算(一个使用result1，另一个使用resu
浏览 5提问于2012-07-24得票数 3
回答已采纳
2回答
我有两个dataframes，我已经在第二个dataframe中创建了一个" check“列，以检查Total列中的值是否相等。这是我的两个数据文件：
Dataframe 1
Dataframe 2
我用来创建"Check“列的代码是：
reported_claims['Check'] = np.where(reported_claims['Total Claims'].reset_index(drop=True) == df['Total Claims'].reset_index(drop=True) ,
浏览 6提问于2021-12-05得票数 0
回答已采纳
7回答
浮点vs双精度
、、
有没有这样一种情况，两个浮点值之间的比较(equals())会返回false，如果你将它们作为DOUBLE进行比较，而如果你将它们作为FLOAT进行比较，则会返回true？
我正在编写一些过程，作为我的小组项目的一部分，用来比较任意给定类型的两个数值。我总共需要处理4种类型：double、float、int和long。因此，我想将double和float组合成一个函数，也就是说，我只是将任何float转换为double，然后进行比较。
这会导致任何不正确的结果吗？
谢谢。
浏览 0提问于2012-04-10得票数 9
回答已采纳
我正在寻找一个diff工具，它也可以比较文本文件中的浮点值(在一定范围内)。除了典型的文本比较差异函数之外，还有忽略空格、忽略大小写等选项。GUI (或全屏控制台用户界面)是可以的，但我确实更喜欢面向流的工具(stdin/stdout)。
下面是一个非常简单的例子，它描述了理想的工具。有两个版本的foo.c：
foo_v1.c：
#include <stdio.h>
#define PI 3.14159265359
#define E_CUBED 20.0855
#define HALF_PHI 0.809f
#define C_SQUARED 8987551
浏览 0提问于2009-09-15得票数 11
回答已采纳
1回答
我有两个数字：
int LIMIT1 = 20;
int LIMIT2 = 10;
int a, b;
float c;
阈值定义为final float threshold= Math.round(a * b / c)
下面的代码可以工作：
if(threshold < (float) (LIMIT1 + LIMIT2)) {
//code
}
这是最好的比较方式吗？
浏览 1提问于2016-02-15得票数 0
1回答
计算浮点值
tclsh
% expr 0.2+0.2
0.4
% expr 0.2+0.1
0.30000000000000004
%
为什么不0.3？
我是不是错过了什么。提前谢谢。
浏览 1提问于2013-09-04得票数 0
回答已采纳
我有一个简短的问题。假设我有一个非常大的数字，比如15位，我把输入赋给两个变量，一个是浮点数，一个是双精度，如果我要比较两个数字，你会如何比较它们？我认为double的精度可以达到15位数？而float有8？那么，我是简单地比较它们，而浮点数只包含8位数字，然后填充其余的数字，还是让浮点数打印出所有15位数字，然后进行比较？另外，如果我被要求打印浮点数，标准的方法是打印8位数字吗？它的最大精度是多少？
谢谢
浏览 4提问于2012-08-16得票数 0
回答已采纳
当我尝试比较这个65 = '65ae3ee2-aeb2-427f-8381-56db91b94363' mysql返回true时，为什么？
SELECT query * FROM families
WHERE id = '65ae3ee2-aeb2-427f-8381-56db91b94363'
OR fam_code = '65ae3ee2-aeb2-427f-8381-56db91b94363'
返回两个记录：
id fam_code
65 c648b66e-ae0c-467b-af56-1e6d3c214f2e
92 65ae3ee2-
浏览 0提问于2018-07-11得票数 1
回答已采纳
我无法解释这一点。我有两个变量具有相同的值，但它们并不相同。有人能告诉我我错过了什么吗？
>> y
y =
3.4000
>> x
x =
3.4000
>> y==x
ans =
0
>> whos x
Name Size Bytes Class Attributes
x 1x1 8 double
>> whos y
Name Size Bytes Class At
浏览 0提问于2013-07-26得票数 0
我在读一本关于药剂：的书。
在字符串比较中，它说：
灵丹妙药提供了两个比较字符串相等的选项，==和===运算符。==运算符通常是最简单的，而另一个则产生相同的结果。
如果两个操作者的意思是相同的话，他们的目的是什么？
浏览 4提问于2015-09-02得票数 30
回答已采纳
3回答
在我的应用程序中，我使用了一个外部API，它使用json进行通信。今天我在floats和NSNumbers之间遇到了奇怪的行为(这可能是因为我在iOS方面缺乏经验)。问题是，我在API中收到了一个float响应，在这种情况下它是135.99。当本地obj-c json解析器解析响应时，它会使用该值创建NSNumber。它工作得很完美。但是当我开始使用这个API时，我不知道原生json解析器是如何工作的，所以我一直在做这样的事情：
NSNumber * number = [NSNumber numberWithFloat:[[response objectForKey:@"Number&
浏览 1提问于2013-02-14得票数 4
我正在将一组vb.net帮助程序转换为c#。以下代码片段在VB.Net中运行良好
para2 = oDoc.Content.Paragraphs.Add(oDoc.Bookmarks.Item("\endofdoc").Range)
其中para2的类型为Word.Paragraph
用于设置书签范围的转换后的c#代码(我在许多文章中都看到了)是
var bookmarkRange= oDoc.Bookmarks.get_Item((object)"\\endofdoc").Range;
var para2 = oDoc.Content.Paragraphs.A
浏览 5提问于2015-10-20得票数 0
回答已采纳
在比较某些字符串值时，我在PHP中遇到了一种奇怪和意外的行为。下面的前两个语句返回true，而我希望它们返回false。最后一条语句按预期返回false。我知道PHP的，但我从文档中了解到，当您比较字符串和整数等两种不同的数据类型时，就会发生类型杂耍。但在下面的示例中，这两种文字都是字符串。这是否意味着，当您在PHP中进行字符串比较时，它会检查这两个字符串是否看起来像整数，如果是这样，则将它们转换为整数，然后比较这些整数值。所以我的问题是，在什么情况下会发生这种行为，在PHP中字符串比较到底是如何工作的？
var_dump("10" == "10.0000");
浏览 6提问于2012-10-13得票数 4
回答已采纳
2回答
因此，例如，4可以用8比特表示为00000100，4.0可以用剩余-4表示法和浮点表示法以8比特表示为01111000。所以它们不是一回事。然而，当我将4与4.0进行比较时，Python和C都给出了1。怎么做到的？由于我提到的原因，它们不是应该对计算机有不同的意义吗？
浏览 29提问于2021-12-02得票数 0
#include "stdafx.h"
#include "stdio.h"
#include "math.h"
int main()
{
float c;
printf("Type c");
scanf("%f", &c);
printf("C is c: %f ",c);
while(getchar()!='\n');
getchar();
return 0;
}
非常简单的代码，我只是从C开始，大多数数字都可以工作，
浏览 0提问于2011-12-15得票数 1
回答已采纳
在Swift中有3种通用的浮点类型
浮动
双倍
Float80
，但也有两个别名
Float32
Float64
下面是一个代码：
/**/
// Float 16-bit
Float16.exponentBitCount // 5
Float16.significandBitCount // 10
// Float 32-bit
Float.exponentBitCount // 8
Float.significandBitCount
浏览 0提问于2019-05-10得票数 2
回答已采纳
1回答
有效地防止浮点数错误
、、、
我在Java和MATLAB中都遇到了一个问题，两个数字应该是相同的，显然不是。
Java:
float f1 = 0.3f-0.2f;
float f2 = 0.4f-0.3f;
System.out.println(f1==f2); // Prints false
System.out.println(f1); // Prints 0.10000001
System.out.println(f2); // Prints 0.099999994
显然，f1应该等于f2。什么是最有效的(计算)方法来替换下面的equals，它将返回true？
public boolean equals(floa
浏览 0提问于2014-07-30得票数 0
回答已采纳
4回答
我需要对一些浮点数组进行排序，修改值，然后构造一个具有原始顺序但修改后的值的数组。
在R中，我可以使用rank()和order()函数来实现：
v a向量
对v[order(v)]进行排序
v[i]位于排序向量中的第rank(v)位
在标准的c或c++库中有没有这些函数的等价物？排列矩阵或其他编码相同信息的方法也是可以的。
O(n)空间和O(nlogn)时间将是理想的。
浏览 0提问于2010-06-29得票数 0
回答已采纳
我在“问Ubuntu”论坛上问了以下问题，被告知这个问题不适合那个论坛。有人建议我在这里问我的问题。如果这不是这个问题的合适地点，我提前道歉。
我目前使用java作为我的默认语言。另外，我目前运行的是Kubuntu 12.04版本。我正在将c++程序转换为java，但java程序的结果与c++程序的结果不匹配。当我意识到java程序产生了正确的结果，而c++程序没有产生正确的结果时，我开始四处寻找这个问题。我的问题是，有人能解释为什么c++会产生错误的结果吗?它能被修复吗？
我写了两个最小的程序来说明这个问题。我还编写了一个脚本文件来显示这两个程序，编译并运行它们。结果如下。显然，有意义的数字
浏览 6提问于2013-10-15得票数 1
1回答
IEEE-754浮点标准规定：
四种相互排斥的关系是可能的:小于，平等，大于和无序。最后一种情况是在至少一个操作数是NaN时出现的。每个NaN都应该将无序与包括自身在内的所有事物进行比较。
然而()：
<?php
echo phpversion() . " " . zend_version() . " " . php_uname() . "\n";
// 5.2.5 2.2.0 Linux 2cf38fbc9b9e 3.11.0-15-generic #25-Ubuntu SMP
// Thu Jan 30 17:22:01 UT
浏览 3提问于2014-05-28得票数 8
回答已采纳
为什么hmac值不同？$a等于$b。我不确定是哪种错误导致了这一点，也不确定我的逻辑是否正确。Hmac_hash应该将任何输入转换为字符串、字节或十六进制，并做它的工作，如果我错了，请告诉我。
下面是示例代码。
谢谢。
<?php
$a = 1234567890000*1234567890000;
$b = gmp_mul("1234567890000","1234567890000");
$b = gmp_strval($b);
echo $a."<br/>".$b."<br/>";
$c =
浏览 0提问于2012-12-15得票数 0
回答已采纳
我想使用C的qsort()函数对每个具有不同类型的数组进行排序，如下所示：
int a[] = {1, 2, 3};
const char *b[] = {"foo", "bar", "bas"};
my_defined_type_t *c[100]; for (i=0; i<100; i++) { fill(c[i]); }
是否有必要为每种类型编写比较函数，如intComparator()、stringComparitor()、myDefinedTypeComparitor()，并使用每个比较函数依次调用qsort，或者可以用C：
in
浏览 0提问于2013-09-16得票数 1
我正在尝试Project Euler，但我被困在了这个问题上：
回文数字在两种情况下读起来都是一样的。由两个两位数字的乘积组成的最大回文是9009 =91.99。
找出由两个3位数字的乘积组成的最大回文。
for i in range(1000,100,-1):
for j in range(1000,100,-1):
test = i*j
test = str(test) #turn product into string
test2 = test[2:] #take last
浏览 2提问于2012-07-18得票数 0
回答已采纳
在搜索iTunes商店时，我遇到了一个小问题。当价格为0.00时，我尝试将标签的文本更改为“免费”，而不是显示价格。问题是，我对两个NSDecimalNumber的比较失败了。这是我目前所在的位置。
NSNumberFormatter *formatter = [[NSNumberFormatter alloc] init];
[formatter setNumberStyle:NSNumberFormatterCurrencyStyle];
[formatter setCurrencyCode:self.searchResult.currency];
NSString *price = [f
浏览 3提问于2012-11-25得票数 0
回答已采纳
为什么这个简单的语句在R中计算为FALSE？
mean(c(7.18, 7.13)) == 7.155
此外，为了使这成为一个TRUE语句，我必须做什么呢？谢谢!
浏览 3提问于2014-05-10得票数 0
回答已采纳
在Objective中，我似乎遇到了一个奇怪的问题--将浮点转换为NSNumber (为了方便而包装它)，然后将它转换回浮点。
简而言之，我的一个类有一个属性red，它是从0.0到1.0的浮动。
@property (nonatomic, assign) float red;
此对象将自身与从磁盘加载的值进行比较，以实现同步目的。(该文件可以在应用程序之外进行更改，因此它定期检查文件更改，将备用版本加载到内存中，并进行比较，合并差异。)
下面是比较这两个值的有趣片段：
if (localObject.red != remoteObject.red) {
NSLog(@"Loca
浏览 4提问于2011-10-29得票数 9
回答已采纳
1回答
x86与x64浮点算法的差异
、、、、
我偶然发现，在MS 2010构建的x86和x64 (这两种算法都是在同一台64位机器上执行)之间，浮点算法的实现方式有所不同。
这是一个简化的代码示例：
float a = 50.0f;
float b = 65.0f;
float c = 1.3f;
float d = a*c;
bool bLarger1 = d<b;
bool bLarger2 = (a*c)<b;
布尔型bLarger1始终为false (在两个构建中d设置为65.0 )。变量bLarger2对于x64是假的，对于x86则是！
我很清楚浮点算法和正在发生的四舍五入效应。我还知道，与64位构建相比，32位有
浏览 3提问于2014-03-28得票数 15
回答已采纳
3回答
我将两个数字字符串$a和$b相加，然后将结果与另一个数字字符串$c进行比较。所有三个数字都存储为字符串，并在比较步骤中被PHP转换为浮动。
由于某种原因，测试$a+$b == $c不计算为真，尽管它应该.。
您可以重新创建此脚本的问题：
<?php
$a = "-111.11";
$b = "-22.22";
$c = "-133.33";
echo '$a is '.$a."\n";
echo '$b is '.$b."\n";
echo '$c is '.
浏览 2提问于2011-12-07得票数 1
回答已采纳
1回答
Assets/scripts/JavaScripts/PerformanceTweak.js(218,45)：BCE0051:运算符'<‘不能与'Object’类型的左侧和'float‘类型的右侧一起使用。
while( times.length > 0 && times[0] < 0.0 ) {
times.Shift();
messages.Shift();
}
浏览 0提问于2013-08-19得票数 1
我正在将一个Java应用程序移植到C#，它利用
double x;
if (x == null) blah blah
.Net中的double%s不可为空，因此需要对其进行更改。别小题大作。
测试浮点数是否相等是一种糟糕的做法。所以如果我初始化一个变量
double d = double.MaxValue;
然后想要测试它
if (d == double.MaxValue) blah blah
这是有效的吗？假设d没有被赋予新值，我能保证测试总是返回true吗？
浏览 3提问于2013-05-31得票数 0
回答已采纳
我有以下查询，它工作得很好：
SELECT TMP_CLPUD.dbo.FormatS(RIGHT(SV1.VASLOC, 7), 9, 0) AS C_ACCOUNT,
TMP_CLPUD.dbo.FormatS(Cust.C_CUSTOMER, 7, 0) AS C_CUSTOMER,
CA.OID,
CN2.NBCUNQ AS CUNQ,
CN2.NBSUNQ AS SUNQ,
'AC' AS C_STATUS,
TMP_CLPUD.dbo.mmsDATE(
浏览 0提问于2010-07-06得票数 0
我正在学习Elixir，并且刚刚了解了两对相等运算符==、!=和===以及!==。我认为Elixir有两组相等运算符是错误的。他们创建了一个“严格的”相等运算符，用于比较整数和浮点数的情况。请注意，这种通过值比较整型和浮点型的情况是运算符在比较两种不同类型时的正常工作方式的例外，这会导致类型比较，而不是值比较。因此，我们对类型比较规则进行了例外处理，并添加了两个运算符来支持该例外。回报是什么？所以整型和浮点型可以通过值来比较，这是一种大多数人认为是糟糕的编程实践的操作，也是很少见的。
严格相等运算符的功能应该存在于正规运算符中。这样，当比较任何两种不同的类型时，行为将是一致的。对于整型和浮点型
浏览 13提问于2018-08-08得票数 1
我发现了一个有趣的例子，相同的C++代码在不同的系统上产生不同的结果。
#include <cstdio>
int main()
{
int a=20, b=14;
if(a*1.0/b*(a+1)/(b+1)==2) printf("YES!");
else printf("NO!");
}
在UbuntuLinux12.04上编译，使用GCC 4.6.3输出！
使用GCC 4.6.2在Windows 7上编译，它输出NO!
然而，使用：
double c = a*1.0/b*(a+1)/(b+1);
if (c==2)
浏览 1提问于2012-05-09得票数 3
回答已采纳
2回答
谁能告诉我c++和matlab是否使用相同的浮点计算实现？我在C++中会得到和在Matlab中一样的值吗？
目前，我在将Matlab代码转换为C++的过程中遇到了以下问题：
Matlab: R = 1.0000000001623, I = -3.07178893432791e-010, C = -3.79693498864242e-011
C++: R = 1.00000000340128 I = -3.96890964537988e-009 Z = 2.66864907949582e-009
如果不是，区别是什么?我在哪里可以找到更多关于浮点计算实现的信息？
谢谢!
浏览 0提问于2012-07-13得票数 0
回答已采纳
在PHP中，我有两个看似相等的双精度值(至少在回显时是这样)。
但是，当将它们与双等数进行比较时，由于某种原因，它的计算结果为false。在进行这种比较时，有没有什么特殊的考虑？
浏览 0提问于2011-03-11得票数 8
回答已采纳
5回答
我正在尝试比较Java script中的两个十进制值。我有两个对象，一个是关联值"3“，另一个是"3.00”。当我说if (obj1 == obj2)时，它不会传递条件，因为它会进行字符串比较。
相反，我希望它做一个小数比较，其中3= 3.00。请告诉我怎么做。
浏览 2提问于2008-10-28得票数 0
回答已采纳
我必须同时使用C和Fortran来做一些模拟。在他们的课程中，我通过在C中定义一个指针来访问Fortran分配的内存，在这两个编程语言部分中使用相同的内存。有问题的变量的数据类型为
real(kind=8)
对于Fortran，以及
double
对于C来说，相同的计算结果现在在不同的编程语言中是不同的，我需要直接比较它们并得到零。所有的计算都是根据上面的精度进行的。差别总是在13-14位数字中。
解决这个问题的好方法是什么？有没有编译器标志？只是在一些数字后截断吗？
非常感谢！
浏览 3提问于2011-01-25得票数 2
回答已采纳
3回答
在将双值与"5.5“这样的值进行比较时，我遇到了困难。在我的代码中，我有以下内容：
if (j==5.5f) {
//do something
}
当我运行代码并使用nslog打印j和5.5f值时，就会得到完全相同的值。但是，代码没有输入if语句。这里怎么了？
浏览 1提问于2013-09-02得票数 0
回答已采纳
1回答
我试图比较VBA/Excel中的两个变量，但VBA认为它们是不同的，尽管它们是相同的。
我已经创建了两个PivotTables，并且我正在检查它们中的值是否相同。
代码是：
Dim pvt As PivotTable
Set pvt = ActiveSheet.PivotTables(2)
For Each Pi In pvt.PivotFields("Filialas").PivotItems
With Sheets("Composite").Range("D:D")
Set c = .Find(Pi.Value, LookIn
浏览 1提问于2012-09-23得票数 0
回答已采纳
2回答
我刚刚经历了一个bug，其中两个数字正在进行比较，我发现以下内容很有趣：
assert 1 == 1;//true
assert 1d == 1;//true
assert 1 == 1f;//true
assert 1d == 1f;//true
assert 1.1 == 1.1;//true
assert 1.1d == 1.1;//true
assert 1.1 == 1.1f;//false
assert 1.1d == 1.
浏览 2提问于2016-01-20得票数 0
回答已采纳
3回答
在两种语言中的sqrt函数有问题。
我有一个JAVA API和C++客户机，我尝试在这两个客户机中使用sqrt函数，但它们给出的数字略有不同。
输入为：
x = 25.0
y = 5625.0
Java：
double distance = Math.sqrt(x + y);
// outputs 75.16648189186454
C++：
const double distance = std::sqrt(x + y);
// outputs 75.166481891864535
我需要这些数字与我在API和客户端中用作种子的数字相同。有没有办法做到这一点？不过，理想情况下，java输出
浏览 23提问于2019-08-18得票数 0
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
实时音视频
对象存储
即时通信 IM活动推荐
腾讯云开发者
