js 乘法精度_js 乘法精度_js乘法精度 - 腾讯云开发者社区

、、、

在矩阵乘法代码上有点小问题。我似乎在大矩阵乘法上失去了精度(我的代码在小矩阵上运行得很好)。)精度，以确保在将两个浮点数相乘时不会丢失精度。看一下IL代码，我可以看到两个conv.r8，这让我认为IL代码中包含了从浮点到双精度的转换。，它就不应该使用双精度乘法，而应该使用单精度乘法，这就给了我一直在跟踪的误差。有没有办法强制执行这种双精度乘法？谢谢

浏览 3提问于2010-09-30得票数 0

回答已采纳

3回答

浮点算术运算的精度是多少？

、、、、

考虑下面两个非常简单的乘法：long double result2;float var2=6.789;double var4=234.987; result2=var3*var4; 默认情况下，乘法的精度是否高于操作数？我的意思是，在第一次乘法的情况下，它是以双精度完成的，而在x86架构中的第二次乘法是以80位扩展精度完成的

浏览 15提问于2014-08-14得票数 7

1回答

Javascript uint32数学不工作吗？

uint32数学中有些奇怪的东西：a[2] = a[0] * a[1];给出2524872960，我认为是错误的，因为在C中： unsigned a[3] = { 1103515245, 1103527590, 0 }; printf("%u\n", a[2]);} 提

浏览 1提问于2016-04-01得票数 2

回答已采纳

3回答

java中双精度乘法的准确性？

、、、

在java中，乘法运算符对于双精度值的保证精度是多少？例如，2.2x100是220.00000000000003，但220是一个双精度数字。

浏览 3提问于2011-06-24得票数 7

回答已采纳

2回答

python如何在乘法后对float32数进行舍入？

、、、

我正在硬件上设计一个单精度浮点乘法器，我使用python来验证我的设计。这是单精度浮点格式。S|指数|尾数(S1^S2)| E1 + E2 - 127 | Mantissa1 * Mantissa2所以我在这里想问一下python是如何处理尾数乘法的。谢谢。

浏览 0提问于2019-06-03得票数 2

1回答

单精度浮点分割的最佳精度

、、、、

如果只使用单精度加/子和乘法硬件(不使用FMA)，是否可以执行除法并获得IEEE-754单精度正确值？具体而言，如果在单精度硬件上执行牛顿-拉夫森法进行浮点除法，是否有可能达到IEEE-754正确的结果？

浏览 1提问于2014-07-18得票数 3

回答已采纳

3回答

双精度:大数相乘

、、、、

我有一些简单的运算(减法，乘法)和大数(整数)。它们太大了，所以我不得不将它们存储到long double变量中。这很好，但在某些情况下乘法会失去精度。乘法的结果应该以零的顺序结束。我的问题是，怎么做，拜托？有没有办法强迫long double表现得更好？或者是否有任何选择来获得存储数字的精度？编辑：如果我失去了精确性，

浏览 0提问于2012-03-17得票数 0

回答已采纳

1回答

没有扩展精度FPU的数值陷阱

、、、、

然而，大多数示例依赖于扩展精度FPU或扩展精度操作(例如乘法-累加)。除了有符号零和涉及NaN的比较之外，当扩展精度硬件被禁用时，是否有任何令人惊讶的数值行为的好例子？

浏览 0提问于2011-07-26得票数 1

回答已采纳

1回答

摩氏复矩阵乘法早期逼近

、

如何提高复矩阵乘法结果的精度。它大约在小数点4位，这是结果的一个例子(35.9682，-150.246)，但是我想要至少小数点8位的精度。谢谢

浏览 2提问于2015-04-12得票数 1

回答已采纳

2回答

乘浮精度

、、

在浮点数和双数上执行运算(如乘法、除法、加法和减法)是否保持其精度？例如，如果我乘以(或除以，加，减) 1000浮动在一起，我还能保持7位数的精度吗？我在这个网站上读到，精度是维持的()，但我想再检查一遍。

浏览 1提问于2016-05-07得票数 4

回答已采纳

1回答

Javascript中的无符号32位整数

、、

x >>> 0或x | 0的技巧不起作用(对于乘法，它们似乎适用于加/减)，并且doubles在乘法过程中会失去精度。 to wolfram alpha，给出了上面的等式。

浏览 1提问于2012-07-29得票数 9

回答已采纳

1回答

对于Fib(n)，我将变量设置为n位精度；因此，我相信将两个数字相乘是n Log(n)。幂运算是，我相信n次Log(n)乘法；所以我相信我有n次Log(n)Log(n )。无论是在假设(将浮点数和乘法次数乘以整数指数)还是结论中，这都是正确的吗？如果我的精度很高，并且我使用精度g(n)；那么我认为这将减少到g(n) Log( g(n) )；但是我认为g(N)应该是g(n)=n Log(phi)+1；这应该不会对渐近性产生实际影响。

浏览 2提问于2012-02-15得票数 0

回答已采纳

3回答

为什么使用float而不是double不能提高Android的性能？

、

由于所有的智能手机(至少是我能找到的智能手机)都有32位处理器，我想在大量计算中使用单精度浮点值将比使用双精度浮点值的性能要好得多。然而，情况似乎并非如此。即使我避免类型转换，并尽可能使用FloatMath包，在比较基于浮点数的方法和基于双精度的方法时，除了内存使用之外，我几乎看不到任何性能上的改进。我目前正在开发一个相当大的计算密集型声音分析工具，每秒可以进行几百万次乘法和加法运算。由于32位处理器上的双精度乘法需要几个时钟周期，而单精度需要1个时钟周期，所以我认为类

浏览 1提问于2011-02-24得票数 12

回答已采纳

1回答

python乘法精度

、、

我正在尝试用python3做一些相对简单的事情 fx = 2400/5.52 124*ifx*fx 提供124.00000000000001 这就产生了一个实际的问题，就是上面的问题是乘以-1，然后倒掉的我也尝试过使用python3浮动，但得到了相同的结果(上面的答案不是打印语句，只是在numpy shell中执行) 谢谢

浏览 20提问于2020-04-25得票数 1

1回答

基于ECC的工作精度和时间常数算法？

、

我对椭圆曲线密码感兴趣，并找到了常时乘法算法。在这些算法中，必须执行算术运算(如加法和乘法)。这些“内部”操作也必须在固定时间内执行，对吗？那么我猜所有中间变量的精度都是一样的。但是这里需要什么精度(例如，如果我把两个256位数相乘，我想结果需要512位)。在恒定时间内执行这些“内部”算术运算的好算法是什么？

浏览 0提问于2016-08-30得票数 3

回答已采纳

4回答

Java浮点高精确库

、

有哪些Java库可以快速实现几千位精度的浮点或定点操作？它们的性能如何？对我的一个要求是，它实现的乘法算法比朴素的乘法算法更好，后者对于2倍大的位数需要4倍的时间(请比较)。

浏览 0提问于2008-11-10得票数 23

回答已采纳

1回答

翘曲矩阵-乘法函数-支持单精度乘数吗？

、、、

在中，有一个支持类型组合的表，其中乘法要么是子单精度浮点类型，要么是double -从不浮动。但是-在中，它说：数据类型(矩阵片段的T)可以是double、float、__half、__nv_bfloat16、char，或者是对乘法数没有符号的char，对于累加器则是double、float那么，乘法矩阵可以是float，还是不能呢？

浏览 4提问于2022-05-12得票数 1

3回答