腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
10
回答
单精度
浮点
运算
和双精度
浮点
运算
有什么区别?
、
、
、
单精度
浮点
运算
和双精度
浮点
运算
有什么区别? 我特别感兴趣的是与视频游戏机相关的实用术语。例如,任天堂64是否有64位处理器,如果有,这是否意味着它能够进行双精度
浮点
运算
?PS3和Xbox360可以实现双精度
浮点
运算
,还是只能实现单精度
浮点
运算
,并且通常使用双精度功能(如果它们存在的话?)。
浏览 3
提问于2009-04-29
得票数 186
回答已采纳
6
回答
我使用的是node.
js
,并且我尝试将两个整数相加,但是,它们只是将它们放在一起
、
我使用的是node.
js
,我试图将两个整数相加,但是,他们只是把它们放在一起……我查找了Float,试图对整数进行
浮点
运算
,但node.
js
无法识别float。
浏览 0
提问于2013-01-01
得票数 3
回答已采纳
2
回答
iPhone 4和iPad 2:定点
运算
相对于
浮点
运算
的优势
、
、
、
、
我听说iPhone 4和iPad有一个叫做VFP的
浮点
运算
单元,它在某种程度上优化了
浮点
运算
,甚至允许使用单指令多路复用(尽管GCC是否利用了这一点还是个疑问)。然而,我读到对于一些Android设备,使用定点而不是
浮点
的加速可以导致性能提高20倍。 在这些设备中使用定点
运算
而不是
浮点
来实现
浮点
密集型代码有什么好处?
浏览 2
提问于2011-04-01
得票数 1
回答已采纳
2
回答
ARM是否支持64位
浮点
数的SIMD操作?
、
、
霓虹灯可以对32位
浮点
数进行SIMD
运算
。但是不对64位
浮点
数执行SIMD操作。VFU不是SIMD。它只能在一个元素上进行32位或64位
浮点
运算
。 ARM是否支持64位
浮点
数的SIMD操作?
浏览 4
提问于2016-03-17
得票数 4
9
回答
使用==
运算
符比较
浮点
数/双精度值
、
当我开始使用相等
运算
符比较两个
浮点
值时,我使用的代码审查工具抱怨如下。正确的方法是什么,怎么做?有没有我可以重用的助手函数(commons-*)?描述说明比较这两个
浮点
值,看看它们的值是否接近。float b; {}
浏览 44
提问于2011-07-27
得票数 19
回答已采纳
8
回答
用于嵌入式应用的
浮点
库
、
、
它没有
浮点
协处理器。标准C库可以模拟
浮点
运算
,但由于它的大小,我没有使用它。undefined reference to `__adddf3'undefined
浏览 0
提问于2010-02-03
得票数 3
1
回答
在模糊化中添加
浮点
操作?
、
、
在分析一篇软件测试论文时,我读到在模糊化技术中增加
浮点
运算
能带来什么样的好处?
浮点
操作用于软件测试的优点是什么?
浏览 0
提问于2019-07-26
得票数 0
回答已采纳
1
回答
parseDecimal in JavaScript?
、
、
、
我有一些
JS
计算在进行。由于
浮点
算术通常使用数字的近似值,而不是精确值,如果将这些
浮点
数字舍入到固定的精度,则通常会得到一些细微的差别。当你与美元打交道时,人们不喜欢这些细微的差别。有人知道我如何做数学
运算
(乘法和加法),而不引入这些来自
浮点
近似的四舍五入误差?我发现另一篇文章带来了同样的问题,并确认
JS
没有内置的十进制数据类型:。你可以看到你的
JS
终端626.185.toFixed(2) == 626
浏览 4
提问于2012-06-11
得票数 3
1
回答
整数的多少位与32位
浮点
的精度匹配?
、
、
、
我正在尝试比较合成
浮点
运算
符和整数
运算
符的时间和成本,但为了正确地比较它们,我需要使用32位
浮点
数表示的整数
运算
的相同相对位数。感谢您的帮助!
浏览 1
提问于2017-09-27
得票数 0
2
回答
JavaScript零位左移和右移等价于Python?
、
、
、
、
在JavaScript中,我们可以使用按位左移和右移
运算
符来截断
浮点
数,并将其舍入最接近的整数。示例:console.log(2.667 >> 0); //outputs 2console.log
浏览 5
提问于2015-01-20
得票数 2
回答已采纳
1
回答
使用
浮点
可以有效地模拟哪些整数
运算
?
、
、
我需要在一个本机支持16位整数
运算
和32位
浮点
运算
的处理器上工作。一些以处理器为目标的算法需要高于16位的整数数学精度。最直接的选择是使用16位整数操作进行模拟。我注意到有些架构支持24位整数
运算
。因此,
浮点
单元以某种方式被用于整数
运算
。在某些情况下,是否可以使用
浮点
指令来提高效率?
浏览 1
提问于2018-11-06
得票数 1
1
回答
Elixir真的需要两组相等
运算
符(普通和严格)吗?
我正在学习Elixir,并且刚刚了解了两对相等
运算
符==、!=和===以及!==。我认为Elixir有两组相等
运算
符是错误的。他们创建了一个“严格的”相等
运算
符,用于比较整数和
浮点
数的情况。请注意,这种通过值比较整型和
浮点
型的情况是
运算
符在比较两种不同类型时的正常工作方式的例外,这会导致类型比较,而不是值比较。因此,我们对类型比较规则进行了例外处理,并添加了两个
运算
符来支持该例外。所以整型和
浮点
型可以通过值来比较,这是一种大多数人认为是糟糕的编程实践的
浏览 13
提问于2018-08-08
得票数 1
1
回答
返回整数
、
我一直在回顾asm.
js
,而且我知道它所做的事情之一就是使用按位
运算
将数字强制为整数。如果不是如果我这是否确保我只返回整数,而不是整数的
浮点
表示?
浏览 3
提问于2015-02-03
得票数 0
回答已采纳
9
回答
使用double比使用float快吗?
、
、
、
、
双精度值存储的精度更高,并且大小是
浮点
数的两倍,但是Intel CPU是否针对
浮点
数进行了优化?对于64位架构,答案会改变吗?
浏览 9
提问于2010-08-07
得票数 74
回答已采纳
3
回答
关系
运算
符以什么方式不服从
浮点
值的compareTo契约?
、
、
、
引用了约书亚布洛赫的有效Java -第二版 当与
浮点
值一起使用时,关系
运算
符在什么方面不遵守compareTo的一般契约?
浏览 3
提问于2012-10-12
得票数 11
回答已采纳
1
回答
手机CPU有独立的整数和
浮点
计算单元,可以并行工作吗?
、
、
、
、
在桌面CPU上,交错整数和
浮点
计算(例如
浮点
数数组:在计算数组值的同时更新整数索引)比所有整数计算要快于所有
浮点
数计算。这是因为整数
运算
和
浮点
运算
是由CPU的不同部分处理的,所以它们基本上可以同时处理。 对于较新的手机的CPU和ARM架构,总体上是一样的吗?
浏览 10
提问于2020-07-19
得票数 0
回答已采纳
1
回答
将数字从单精度
浮点
表示转换为半精度
浮点
、
为此,我创建了自己的C++类fp16,其中包含与此类型相关的所有
运算
符(算术逻辑
运算
符、关系
运算
符),同时使用带有半精度
浮点
数的数字。半精度
浮点
=1个符号位、5个指数位、10个有效位数= 16位因此,我要做的是将单精度
浮点
数转换为半精度
浮点
数: 对于有效位数-我使用截断,即从32位中松散13位,以获得10位有效数的半精度
浮点
数。
浏览 10
提问于2011-09-15
得票数 3
回答已采纳
2
回答
Touch Pro 2、ARM芯片和
浮点
指令
有人知道HTC Touch Pro 2中的高通MSM7200A ARM11是否支持
浮点
运算
吗?有没有办法根据处理器的名字来识别它是否支持
浮点
运算
?
浏览 1
提问于2009-08-28
得票数 1
回答已采纳
1
回答
估计CPU的性能
、
、
所以就是这样, “对于整数
运算
,a+b和a*b需要几乎相同的时间,对于
浮点
(32位)乘法,它需要大约3倍的时间。
浮点
加法和整数加法需要几乎相同的时间。对于一个20%的逻辑
运算
(无论如何都需要相同的时间),40%的加法
运算
和40%的乘法
运算
的程序,展示了如何计算在同一个CPU上将数学从整数
运算
转换为
浮点
运算
的估计性能。”
浏览 2
提问于2016-12-16
得票数 0
1
回答
有
浮点
数吗??
、
、
、
假设我编写了如下代码:结果为1。有人能通过显示它的内部二进制数来让我完全理解它吗?我如何一步一步地得到这个结果?
浏览 3
提问于2018-05-22
得票数 1
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
【一问一答】Excel中因浮点运算导致的运算精度误差
JS运算符-2
JS运算符-1
js浮点数精度计算问题解决
JS中最容易忽视的运算符in
热门
标签
更多标签
云服务器
ICP备案
对象存储
即时通信 IM
实时音视频
活动推荐
运营活动
广告
关闭
领券