1回答
但是从另一方面来说，a是l-值，在这种情况下，因为编译器知道输出将是长的，所以在加法过程中似乎没有必要先将左边的值转换为双值，然后再转换为long。而且，很容易有人犯错误并省略显式的强制转换，因为只有在某些数字中才能看到精确的错误。
这种双转换是C++标准的一部分，还是VS的实现？
浏览 1提问于2018-12-09得票数 3
回答已采纳
这是我的表单2，这是复选框所在的位置。 lbloperator.Text = Convert.ToString(num);
如果唯一的检查是加法，我的表单1将只执行加法，或者如果我的表单1只执行加法和减法，我的表单1将只执行加法和减法。
浏览 2提问于2012-11-24得票数 2
回答已采纳
1回答
我正在尝试将我的C程序并行化，该程序读取5000个包含数据的文件，并对文件中的每一行进行平均。例如1文件2：42程序运行得很好，直到我将其并行化，然后我每次运行都会得到不同的答案。程序看起来像这样：for(int i=0; i<numFiles; i++){ processFile(argv[i+2],alpha,entropySum,entropy2Sum);其中，processFiles在argv中打开文件，并将行i中的
浏览 1提问于2019-01-13得票数 0
2回答
XNA上的浮点精度
、、、
我知道每个调试器都使用自己的精确管理，但这个问题使我的代码无法工作。我想将加法与给定的浮点值(在我的例子中是5166.28003..)进行比较，但由于我的加法结果是5166.28027，所以总是错误的……
对于如何理解这一点，有什么建议吗？
浏览 2提问于2013-01-11得票数 1
回答已采纳
我有一些JS计算在进行。由于浮点算术通常使用数字的近似值，而不是精确值，如果将这些浮点数字舍入到固定的精度，则通常会得到一些细微的差别。当你与美元打交道时，人们不喜欢这些细微的差别。有人知道我如何做数学运算(乘法和加法)，而不引入这些来自浮点近似的四舍五入误差？我发现另一篇文章带来了同样的问题，并确认JS没有内置的十进制数据类型：。你可以看到你的JS终端626.185.toFixed(2) == 626.18
626.195.toFixe
浏览 4提问于2012-06-11得票数 3
2回答
我需要对这些数字执行某些加法和乘法运算，而代码的逻辑需要精确的答案(例如，与同一列表中的其他数字进行比较)。但它并没有给出精确的answer.The搜索方法来解决类似的问题，建议使用十进制类。
浏览 2提问于2018-06-25得票数 1
回答已采纳
1回答
我在和MSDN中读过很多次，float (或double)没有真实世界整数或十进制值的精确表示。正确！这在获得等式检查出错或断言简单的加法或减法测试时是可见的。也有人说浮点数没有像0.1这样的十进制值的精确表示，但是如果我们在像float a = 0.1f;这样的visual中声明一个浮点数，那么它们在调试时如何显示精确的0.1呢？
浏览 1提问于2015-06-26得票数 6
回答已采纳
1回答
在Metal中添加两个浮点数时，我得不到正确的值。out.write(float4(a, b, a + b, 1.0), id);
如果精度导致结果是1.93，我会很好，但看起来Metal偏向较小的值。你知道为什么会发生这种事吗？
浏览 15提问于2021-03-08得票数 0
这是我试图运行的代码。 double dx=0.1, p=-10; int i=0; if (p==0) { } i++; } printf("%lf ", x[i]); return 0;我希
浏览 2提问于2022-07-29得票数 0
1回答
假设我有两个精确到p位的gmpy2.mpc对象x和y。当我计算x+y时，可能是x和y的某些部分抵消了，所以我得到的精度较低。例如y = mpc('0.5555500000001')即使x和y精确到~15，结果也只精确到我想我需要计算出当我做加法和减法时有多少位被抵消，然后把这个从x或y的最小精度中去掉，对于乘法和除法，我想我最多只会损失1位的精度。
浏览 0提问于2012-07-29得票数 1
回答已采纳
1回答
浮点平方根算法
、、、、
额外的细节:我有一个正在开发的浮点单元，它有一个硬件浮点IEEE-754 32位乘法器，加法器和除法器。我已经使用牛顿-拉夫森方法实现了平方根，只使用了乘法和加法/减法，但现在我想比较一下，如果我有一个可用的硬件除法器，平方根的吞吐量。1难以精确计算的特定输入是0x7F7FFFFF的平方根(3.4028234663852886E38)。
浏览 1提问于2013-07-02得票数 1
回答已采纳
1回答
我正在使用一个系统，它以两种模式在一组大的数字上工作。在第一种模式中，系统通过简单地对数字进行迭代并将它们添加到正在运行的总数中来聚合这些数字。在第二种模式中，系统并行处理这项工作，其结果是，通过首先创建多个小计，然后将这些小计相加，计算相同的总计。这两种模式的存在是因为不可能使用并行模式在这个系统中运行所有的“计算”，因此，为了向后兼容，线性模式必须继续存在。如果可能的话，使用第二种模式应该更快，但由于上述问题，用户可能会看到不同之处。
我的问题是，这个问题是简单地
浏览 3提问于2013-07-29得票数 1
回答已采纳
我现在是编程和学习基础知识的新手。我想知道python中的float类型是否只表示实数的近似值？我知道float使用二进制分数，但是Floats0.5，0.25，0.125等仍然是近似值吗？我试过了：它返回False。sum([0.5] * 10) == 5最后我试了一下： answer = sum([1 / 2 ** i] * 10)答案完全正确。
这意味着python中的一些浮点数确实是实数，而
浏览 10提问于2018-08-26得票数 0
回答已采纳
1回答
请原谅我的n00b问题:p到目前为止，我已经找到了三种方法，这类工作和几种方法没有。A:试验A和B在光谱的另一端失败。字面上说，刚刚把“14”改为“17”，“28”改为“27”.结束了吗？
四天来，我一直在为这三种解决方案而奋斗，但没有一种解决方案完全奏效。在我的逻辑中，我感觉好像我正处在n00b错误的尖端。另外，请原谅我的代码
浏览 2提问于2022-11-15得票数 -1
2回答
我试图在我的C++程序中将一个向量添加到另一个向量中，而加法是不精确的。第三个输出是两个相同大小的相反向量的加法，它应该是0，但这不是这里所显示的。
是什么导致了这些奇怪的加法，我如何使它们精确？
浏览 3提问于2014-05-04得票数 2
回答已采纳
方法1可以使用SSE3中的水平加法指令或SSE4中的点积指令来实现。然而，在我的所有测试中，方法2总是优于方法1。
我认为方法1具有优势的一个地方是在3x4矩阵中，例如用于仿射变换。那么水平加法和点积指令的意义是什么呢？事实上，在这种情况下，点生成指令的性能最差。也许这与数据的格式有关？如果不能定义矩阵是如何排序的，那么转置是必要的，在这种情况下，方法1可能会更好？
浏览 0提问于2013-02-20得票数 16
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
实时音视频
对象存储
即时通信 IM活动推荐
腾讯云开发者
