3回答
c#中的浮点数和双精度
、、、
在矩阵乘法代码上有点小问题。我似乎在大矩阵乘法上失去了精度(我的代码在小矩阵上运行得很好)。)精度，以确保在将两个浮点数相乘时不会丢失精度。看一下IL代码，我可以看到两个conv.r8，这让我认为IL代码中包含了从浮点到双精度的转换。，它就不应该使用双精度乘法，而应该使用单精度乘法，这就给了我一直在跟踪的误差。有没有办法强制执行这种双精度乘法？
谢谢
浏览 3提问于2010-09-30得票数 0
回答已采纳
1回答
我正在试图弄清楚C标准(C90，尽管我正在研究德里克琼斯的注释C99书)是否保证我不会丢失精度乘以两个无符号8位值，并存储到一个16位的结果。当我阅读6.3.1.1中描述的整数提升时，第一行的效果应该是: foo和10被提升为无符号int，所执行的乘法，以及在foo_u16中存储为无符号int的结果。如果编译器知道一条执行8x8->16位乘法而不丢失精度的指令，那么越好越好；但是精度是得到保证的。我看对了吗？
向你问好，克雷格·布洛姆
浏览 2提问于2010-04-22得票数 5
我知道PEDMAS (操作顺序)因素中，但为什么我得到的计算结果不同，只涉及乘法和除法？C: 1.022248108A / B * C = 0.000556但是：这是因为Excel丢失了精度吗
浏览 3提问于2018-06-04得票数 1
回答已采纳
3回答
浮点算术运算的精度是多少？
、、、、
考虑下面两个非常简单的乘法：long double result2;float var2=6.789;double var4=234.987;
result2=var3*var4;
默认情况下，乘法的精度是否高于操作数？我的意思是，在第一次乘法的情况下，它是以双精度完成的，而在x86架构中的第二次乘法是以80位扩展精度完成的
浏览 15提问于2014-08-14得票数 7
1回答
我需要使用Spark在上使用两个列来计算: column1 = column2，但是它总是返回一个舍入为6个小数的结果，即使我用十进制(38，18)来设置或转换这些列。
insert into test_calc_round values (0.123456789, 1), (0.123456789, 0.1), (0.123456789, 0.01
浏览 5提问于2022-06-01得票数 1
2回答
JavaScript乘法算法
、、、、
我在我的FireFox和Chrome控制台中都尝试了这个表达式：实际结果: 1798.9999999999998
parseInt(17.99 * 100);
实际结果: 1798
浏览 3提问于2014-02-21得票数 0
回答已采纳
uint32数学中有些奇怪的东西：a[2] = a[0] * a[1];给出2524872960，我认为是错误的，因为在C中： unsigned a[3] = { 1103515245, 1103527590, 0 }; printf("%u\n", a[2]);}
提
浏览 1提问于2016-04-01得票数 2
回答已采纳
Fibonacci序列有一个封闭形式，可以通过得到。它是：有关术语的含义，请参见上面的链接或。但在解答中，所采用的方法之一似乎是快速矩阵指数法，它可以很有效地在O(log(n))时间内得到第n个斐波那契数。
但是，封闭形式表达式涉及到一系列的项，这些项被提升到第n次方。所以，你可以用快速指数法计算所有这些项，这样就能有效地得到结果。为什么在矩阵上进行快速幂比在封闭形式表达式中出现的标量上要好呢？此外，为了寻找如何有效地进行矩
浏览 2提问于2021-10-22得票数 0
回答已采纳
我在遗留软件中发现了一些代码，我有兴趣知道哪种代码提供了更好的精度，因为它目前采用了双精度并对其进行了计算： double doubleNum = (Math.round(55.88d * 100)但在将double转换为BigDecimal时可能会出现损失 另外，第一个选项在投射时可能会丢失。 我一直使用BigDecimal，但在本例中。
浏览 51提问于2021-10-08得票数 1
回答已采纳
我试着画一条对角线，但OpenGL显示它是一条水平线，我不知道为什么。设置OpenGL： return 0;
return 0;
{
ZeroMemory(&m_pfd, sizeof(PIXELFORMATD
浏览 0提问于2013-09-20得票数 0
3回答
在java中，乘法运算符对于双精度值的保证精度是多少？
例如，2.2x100是220.00000000000003，但220是一个双精度数字。
浏览 3提问于2011-06-24得票数 7
回答已采纳
3回答
例如，当我在betterexplained.com上阅读帖子时，作者提到了通过乘法再加上5，将(0,1)范围内的随机数转换为(5,10)范围内的随机数。
诸如此类的操作是否会降低数字的熵？我理解像下限或天花板这样的操作会降低熵，因为信息丢失了。当我们使用模运算符时，甚至当我们对数字进行散列时，信息也会丢失。当对随机数求平方或取绝对值时，熵也应该丢失(显然，这不适用于0到1之间的数字)，因为该数字的符号丢失了，并且这些操作无法撤消。应用于初始数字的两个函数都有倒数(分别为/5和-5 )，因此信息不
浏览 1提问于2014-09-24得票数 4
我正在硬件上设计一个单精度浮点乘法器，我使用python来验证我的设计。这是单精度浮点格式。S|指数|尾数(S1^S2)| E1 + E2 - 127 | Mantissa1 * Mantissa2所以我在这里想问一下python是如何处理尾数乘法的。谢谢。
浏览 0提问于2019-06-03得票数 2
在java中，如果像下面这样的操作只使用整数、乘法和除法，那么result是否可能由于精度下降而不等于int3呢？
浏览 3提问于2016-04-11得票数 0
回答已采纳
hours = "40"我写代码：为什么我的终端结果是93745.59999999999？(我正在处理python中的.csv文件)
浏览 0提问于2017-10-01得票数 0
1回答
单精度浮点分割的最佳精度
、、、、
如果只使用单精度加/子和乘法硬件(不使用FMA)，是否可以执行除法并获得IEEE-754单精度正确值？具体而言，如果在单精度硬件上执行牛顿-拉夫森法进行浮点除法，是否有可能达到IEEE-754正确的结果？
浏览 1提问于2014-07-18得票数 3
回答已采纳
2回答
MINCVF at line 1634 column 1这是因为当h接近0和"mhatx2“中的"le”接近0时精度损失
浏览 0提问于2014-07-25得票数 0
3回答
双精度:大数相乘
、、、、
我有一些简单的运算(减法，乘法)和大数(整数)。它们太大了，所以我不得不将它们存储到long double变量中。这很好，但在某些情况下乘法会失去精度。乘法的结果应该以零的顺序结束。我的问题是，怎么做，拜托？有没有办法强迫long double表现得更好？或者是否有任何选择来获得存储数字的精度？编辑：如果我失去了精确性，
浏览 0提问于2012-03-17得票数 0
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
即时通信 IM
实时音视频活动推荐
腾讯云开发者
