腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
1
回答
Ruby
浮点
加法
错误
我一直在尝试用ruby中的2个
浮点
数做一个简单的
加法
。
浏览 2
提问于2016-07-16
得票数 0
4
回答
C++
浮点
加法
(从头开始):不能计算负结果
、
、
、
我正在从零开始实现一个
浮点
加法
程序,遵循这个PDF:中列出的方法。符号位,X符号位的指数和尾数,Y尾数的指数和尾数,Z的指数 如何确定
浏览 0
提问于2020-12-07
得票数 2
回答已采纳
1
回答
浮点
单调性质
、
、
、
、
在这本书里写着- 如果a>=b,则(x + a) >= (x+b)用于除NaN以外的任何值a、b和x。实数(和整数)
加法
的这一性质不受无符号
加法
或二补
加法
的约束。 为什么没有符号或两个补语的
加法
不服从它?
浏览 1
提问于2017-08-12
得票数 7
2
回答
浮点
算术四舍五入到最接近
、
我对
浮点
算术中的四舍五入到最接近感到有点困惑。设a、b和c是归一化的双精度
浮点
数。a+b=b+a中的+是否被正确地舍入为最接近的
浮点
加法
?我最初的猜测是,是的,这总是正确的,但我不完全理解舍入到最近。= b+a使用
浮点
加法
,四舍五入到最近的时候?
浏览 2
提问于2013-02-20
得票数 2
回答已采纳
1
回答
浮点
加法
、
在两个
浮点
数的
加法
中,指出小指数被调整为与大指数相同。这有可能把大指数和小指数重写吗?然后我们必须右移更大价值的分数部分。 从理论上讲,我认为这是可能的。但不利因素是什么呢?
浏览 1
提问于2015-10-09
得票数 0
回答已采纳
1
回答
js
_of_ocaml中的Marshal和magic_copy
、
、
当我尝试使用Marshal一节中的magic_copy示例时,我更接近浏览器而不是终端,所以我在ocsigen的中尝试了一下,我很惊讶地得到了结果:# let2 : float) +. 3.1;; 检查ocaml 2(本书编写时的当前版本)和ocaml 3.12.1之间是否有什么变化,安装在我的机器上的toplevel和
js
_of_ocaml使用的ocaml 3.12.1,我在安装在我的机器上的普通toplevel中尝试了相同的示例,并得到了书中解释的结果:由于类型系统在检查封
浏览 5
提问于2012-09-10
得票数 7
回答已采纳
1
回答
C语言中的定点运算?
、
、
如何实现
浮点
到定点的转换,定点到
浮点
的转换,定点
加法
/乘法?
浏览 10
提问于2020-06-21
得票数 0
1
回答
parseDecimal in JavaScript?
、
、
、
我有一些
JS
计算在进行。由于
浮点
算术通常使用数字的近似值,而不是精确值,如果将这些
浮点
数字舍入到固定的精度,则通常会得到一些细微的差别。当你与美元打交道时,人们不喜欢这些细微的差别。有人知道我如何做数学运算(乘法和
加法
),而不引入这些来自
浮点
近似的四舍五入误差?我发现另一篇文章带来了同样的问题,并确认
JS
没有内置的十进制数据类型:。你可以看到你的
JS
终端626.185.toFixed(2) == 626
浏览 4
提问于2012-06-11
得票数 3
1
回答
带有LSB
错误
的
浮点
加法
、
、
、
我正在用Verilog实现一个硬件双精度
加法
器。在验证阶段,当我将我的硬件输出与MATLAB (或C)的双精度
加法
输出进行比较时,我发现了一些奇怪的情况,考虑到我使用的是相同的舍入模式(舍入到最接近的偶数),LSB不匹配。这与我的硬件匹配)= 1.7630682053572525e+167 = 0x62a7eb3e1c9c3818我可以从尾数
加法
中看出
浏览 32
提问于2016-08-04
得票数 0
3
回答
执行一个
浮点
数
加法
还是一个整数乘法更好?
、
、
哪一种情况会产生较少的
浮点
误差?我猜是第二个,因为只有一个
加法
和乘法,而第一个情况会引起来自所有n
加法
的
浮点
表示
错误
。我问这个问题是因为我不知道该找什么。这类个案是否有很好的参考呢?我没有包括任何这方面的例子,因为我只对
浮点
错误
感兴趣。
浏览 3
提问于2021-10-28
得票数 6
回答已采纳
4
回答
如何确保javascript添加而不是字符串连接(不总是添加整数)
、
、
、
现在,我想在该数字上执行
加法
,而不是进行字符串连接。如果您的数字始终是整数,那么解决方案很简单( ,)。然而,我的字符串可以是一个
浮点
数,也可以是一个整数,在
加法
的时候,我不知道它是哪一个。有没有一种方法可以确保无论是
浮点
型还是整型,
加法
都会发生?
浏览 0
提问于2012-10-20
得票数 5
回答已采纳
2
回答
巨蟒什么时候引发FloatingPointError?
Python说,当
浮点
数计算失败时会引发FloatingPointError。但是,这里所谓的“
浮点
计算”究竟是什么意思呢?我试着用
浮点
数进行
加法
、乘和除法,但从未设法提高这个特定的
错误
。
浏览 7
提问于2016-12-19
得票数 10
1
回答
使用整数运算的
浮点
加法
、
、
、
我正在编写用C++枚举
浮点
加法
的代码,使用整数
加法
和移位来做一些家庭作业。我已经在谷歌上搜索了这个主题,我能够通过调整指数然后添加来添加
浮点
数。问题是我找不到合适的算法来舍入结果。现在我正在使用截断。但是当我尝试使用这个
加法
器进行像fft这样的复杂计算时,它显示出巨大的误差。所以我现在要找的是我的机器用来舍入
浮点
数结果的确切算法。这将是伟大的,如果有人可以为此目的张贴一些链接。 提前谢谢。
浏览 1
提问于2013-05-09
得票数 0
1
回答
在Visual Studio 2010下的CUDA中禁用融合乘法
加法
我想编译一个禁用融合乘加(FMA)操作的CUDA代码。然后我使用和输入在“附加编译器选项”行中。这对禁用FMA有效吗?
浏览 2
提问于2013-01-28
得票数 2
回答已采纳
1
回答
纯整数乘法有
错误
吗?
、
、
我知道
浮点
乘法有
错误
,但纯整数乘法有
错误
吗?假设我使用Python,A和B的整数有多大,我可以计算A*B并得到完全正确的答案吗?墙在哪里?
加法
也一样吗?
浏览 2
提问于2014-09-22
得票数 0
回答已采纳
3
回答
有没有编译器可以优化
浮点
运算的准确性(而不是速度)?
、
、
、
我们知道编译器在优化我们的代码方面越来越好,让它运行得更快,但我的问题是,有一些编译器可以优化
浮点
运算,以确保更高的准确性。例如,一个基本规则是在
加法
之前执行乘法,这是因为使用
浮点
数的乘法和除法不会引入像
加法
和减法那样大的误差,但会增加由
加法
和减法引入的误差的幅度,因此在许多情况下应该首先进行。所以像这样的
浮点
运算应更改为 y = x*a + x*b; // s
浏览 3
提问于2010-01-14
得票数 5
回答已采纳
1
回答
基于矩阵乘法的sse精度误差
、
、
、
、
这两个矩阵元素都是
浮点
类型的。没有内存分配问题。矩阵大小被输入为4的倍数,例如: 4x4或8x8等。答案通过顺序计算得到验证。一切正常工作,直到64x64的矩阵大小。
浏览 4
提问于2014-05-11
得票数 1
回答已采纳
1
回答
估计CPU的性能
、
、
所以就是这样, “对于整数运算,a+b和a*b需要几乎相同的时间,对于
浮点
(32位)乘法,它需要大约3倍的时间。
浮点
加法
和整数
加法
需要几乎相同的时间。对于一个20%的逻辑运算(无论如何都需要相同的时间),40%的
加法
运算和40%的乘法运算的程序,展示了如何计算在同一个CPU上将数学从整数运算转换为
浮点
运算的估计性能。”
浏览 2
提问于2016-12-16
得票数 0
1
回答
编写附加操作的测试用例
、
、
例如,我现在正试图为上面描述的
加法
操作做一个测试套件,但是我有一些关于如何做的问题。如果没有必要考虑步骤的顺序,我们只考虑求和运算,比如:为上面的
加法
操作创建测试套件的好方法是什么
浏览 0
提问于2016-11-22
得票数 2
回答已采纳
2
回答
Z3的性能可见性
我正在检查
浮点
加法
/乘法硬件设计与Z3内置的
浮点
加法
/乘法的等价性。它花费的时间比预期的要长,看看它在这个过程中到底在做什么将是有帮助的。
浏览 12
提问于2020-06-24
得票数 0
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
js浮点数精度计算问题解决
JS错误和异常处理
Django分离JS代码,处理AJax错误请求
RSLint:使用Rust开发的JS Linter,可以解析错误代码
Python基础(2)
热门
标签
更多标签
云服务器
ICP备案
对象存储
实时音视频
即时通信 IM
活动推荐
运营活动
广告
关闭
领券