当我开始使用相等运算符比较两个浮点值时，我使用的代码审查工具抱怨如下。正确的方法是什么，怎么做？有没有我可以重用的助手函数(commons-*)？描述说明比较这两个浮点值，看看它们的值是否接近。float b;
{}
浏览 44提问于2011-07-27得票数 19
回答已采纳
1回答
使用浮点值进行单元测试
、、、
我创建了一个Matrix类来对浮点矩阵进行数学运算(基本运算、求逆等)。
浮点精度使得测试它们变得困难。通常，如果测试逆操作，如果矩阵的行列式接近于零，则误差可能会很大。
浏览 2提问于2013-01-30得票数 1
回答已采纳
1回答
IEEE浮点数学的一个重要特性是，由于位数和基-2格式的限制，舍入会导致计算中的“错误”。例如在C#中：是否有一种方法可以确定这些操作的误差大小？.
浏览 1提问于2012-04-17得票数 0
我们知道编译器在优化我们的代码方面越来越好，让它运行得更快，但我的问题是，有一些编译器可以优化浮点运算，以确保更高的准确性。例如，一个基本规则是在加法之前执行乘法，这是因为使用浮点数的乘法和除法不会引入像加法和减法那样大的误差，但会增加由加法和减法引入的误差的幅度，因此在许多情况下应该首先进行。所以像这样的浮点运算应更改为
y = x*a + x*b; /
浏览 3提问于2010-01-14得票数 5
回答已采纳
我有一些JS计算在进行。由于浮点算术通常使用数字的近似值，而不是精确值，如果将这些浮点数字舍入到固定的精度，则通常会得到一些细微的差别。当你与美元打交道时，人们不喜欢这些细微的差别。有人知道我如何做数学运算(乘法和加法)，而不引入这些来自浮点近似的四舍五入误差？我发现另一篇文章带来了同样的问题，并确认JS没有内置的十进制数据类型：。你可以看到你的JS终端626.185.toFixed(
浏览 4提问于2012-06-11得票数 3
当软件工程师想要了解更多关于浮点算术的知识时，通常会参考文章“”。然而，这篇文章太长了，需要花费大量的精力来提取文章的要点。所以我想知道，在做浮点运算时，有没有什么“经验法则”可以记住，以使浮点误差最小化？
浏览 7提问于2015-06-19得票数 1
1回答
我们有一个API，以欧元作为字符串返回价格，例如2.55或0.035。但是，我们的数据库以美分保存，因此我编写了一个非常简单的方法，通过以下操作将其转换为美分所以对于这个代码结果应该是255，对吧？但不知何故，它是254。您可以简单地在您的CLI上测试这个
php -r "echo (int) ((float) '2.55' * 100)
浏览 0提问于2018-03-07得票数 1
回答已采纳
我遇到过一些博客和论坛帖子，人们说在处理货币时应该使用NSDecimalNumber而不是浮点数。我发现我必须从NSDecimalNumber转换为浮点数/双精度数，以便进行一些算术运算，这在我看来否定了NSDecimalNumber的有用性。我的意思是，为什么不直接使用浮点数，而不去操心所有的转换麻烦呢？提前谢谢你，
海伦。
浏览 0提问于2011-01-10得票数 2
回答已采纳
1回答
基于矩阵乘法的sse精度误差
、、、、
这两个矩阵元素都是浮点类型的。没有内存分配问题。矩阵大小被输入为4的倍数，例如: 4x4或8x8等。答案通过顺序计算得到验证。一切正常工作，直到64x64的矩阵大小。
浏览 4提问于2014-05-11得票数 1
回答已采纳
1回答
如何用浮点数求矩阵乘法的精度？
、、、、
我正在尝试分析当数据大小减小时，浮点计算如何变得更加不准确。为此，我想对浮点表示的不同变体执行简单的矩阵运算，例如float64、float32和float16。由于float64计算将给出三者中最精确和最准确的结果，我假设所有的float64计算都会给出预期的结果(即，误差= 0)。我知道某些方法，例如找到误差均值或误差平方和(SSE)，但我只想知道是否有一种标准方法来计算给定矩阵计算的总误差。
浏览 0提问于2019-11-28得票数 1
1回答
为了避免在使用以十为基数浮点数时的舍入误差(例如参见)，IEEE-754规范定义了十进制算术。有没有办法在C或C++中使用这种十进制运算？
浏览 1提问于2013-07-07得票数 5
2回答
浮点运算
、
我读到了浮点运算过程中出现的浮点和舍入误差。0.5也完全可以用二进制格式表示，因为它是1/2。但我不明白上面的舍入误差累积，为什么0.1+0.1+0.1+0.1+0.1 = 0.5？
浏览 0提问于2016-04-29得票数 0
3回答
浮点运算误差界
、、
显然，如果判别式为零，则误差可能使其为正或负，具体取决于误差较大的位置。证明如果判别式不为零，则浮点计算中的任何错误都不能反转其符号(即，从正到负，或从负到正)。错误会使判别式等于零吗？
浏览 1提问于2011-04-06得票数 2
在我的应用程序中，我正在做一些客户端数学运算，它经常由于浮点错误而出错。要简化问题：还有其他更复杂的例子，但我的问题是：
解决潜在浮点错误的适当方法是什么？
浏览 2提问于2014-02-28得票数 1
1回答
我尝试使用Python sklearn对breast_canser数据集进行主成分分析。不能理解为什么特征向量的两个点积(3个分量)都不是零？scnd = pca.components_[1,:]orth1 = np.dot(frst,scnd)print(orth1.real)输出：1.52655665886e-16
浏览 6提问于2017-09-16得票数 0
1回答
我想知道为什么会输出以下代码：$b = round(log(5, 5));var_dump($a);echo 'b: ';echo '<br>';这b: float(1) 感谢任何能向我解释这一点的人。
浏览 2提问于2012-11-27得票数 1
回答已采纳
我正在测试一个简单的程序，用Ruby将华氏转换成摄氏。def ftoc(far)end
此代码返回37。 return (far-32)*(5.0/9)有人能告诉我为什么吗？谢谢！！
浏览 1提问于2014-01-15得票数 1
回答已采纳
在1.2节的相对误差和ULP (第8页)中，本文给出了一个计算误差的公式，ULP(最后一个单位)：其中d.d…d * (β^e)是数字z的浮点表示本文后面的文章(第9页)给出了一个计算10.1 - 9.93运算结果的实例，当使用β = 10和p = 3的浮点表示时，结果0.2的结果是错误的，结果中的每一个数字都是错误的。但是我不能用上面的方程来计算出30个ULP误差，用上面的方程计算误差时得到的值是
浏览 2提问于2020-12-18得票数 2
回答已采纳
1回答
速度verlet算法的位置预期误差的表达式是什么？与时间步长相关，但以何种方式？我一直在阅读关于局部和全局错误的文章，但不知道这是什么意思。我只是想知道这个职位的误差和时间步长之间的预期关系，但在谷歌上找不到。它应该与1/t^2成比例吗？或者类似的东西？
浏览 7提问于2016-01-14得票数 1
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
实时音视频活动推荐
腾讯云开发者
