腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
圈层
工具
文章/答案/技术大牛
搜索
搜索
关闭
发布
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
3
回答
Perl:哪些
浮点
操作是无损的?
、
有一些很好的文档描述了
浮点
数字的性质,以及为什么在某些
浮点
操作中必须
丢失
精度
。例如::人们可以用什么一般的经验法则来知道什么时候
精度
会
丢失
,什么时候会保持?
浏览 7
提问于2014-07-14
得票数 2
回答已采纳
10
回答
在不损失
精度
的情况下将
浮点
数转换为字符串
、
、
我想在不
丢失
或添加任何单
精度
数字的情况下将
浮点
值存储到字符串中。 例如,如果我的
浮点
值是23.345466467,我希望我的字符串具有str = "23.345466467“的精确数字。它只给出了前6个
精度
。或者,如果我使用%10,如果我的
浮点
值的
精度
小于10,它会添加更多的垃圾
精度
。我想在我的字符串中获得精确的
浮点
值。该怎么做呢?
浏览 2
提问于2010-12-16
得票数 14
回答已采纳
4
回答
检查double是否适合float的速度有多快?(Java)
、
是否有一些算术或按位运算可以在不损失
精度
的情况下检查双
精度
数是否适合
浮点
数。 它不仅应该检查双
精度
范围是否在
浮点
范围内,还应该检查是否没有尾数位
丢失
。
浏览 0
提问于2014-09-29
得票数 9
2
回答
双
精度
vs
浮点
精度
问题
、
、
= 3; std::cout << answer;}我被期望从双
精度
中获得更高的
精度
;我如何获得更多的
精度
,比如: 0.666666666666667 编辑:不能因为使用to_string而
丢失
精度
;
浏览 1
提问于2020-07-14
得票数 0
1
回答
每个32位
浮点
数都可以用64位
浮点
数表示吗?
、
如果将32位
浮点
数转换为64位
浮点
数并再次将其转换回来,是否有可能
丢失
精度
? 至少有一个这样的32个
浮点
数存在吗?(包括低于正常数)
浏览 0
提问于2018-04-10
得票数 0
回答已采纳
2
回答
浮动与双数学Java
、
、
以下内容之间是否存在
精度
差异(假设a和b的值可以在
浮点
数中不
丢失
精度
地表示)。
浏览 5
提问于2016-08-22
得票数 6
回答已采纳
2
回答
正确转换C++中的
浮点
、
、
正确的/推荐的告诉C++编译器“只警告我注意我不知道的
浮点
转换”的方法是什么?double a = 443620.52;float是的,我可以省略显式的
浮点
数。但是,我需要禁用编译器警告,告诉我
精度</e
浏览 5
提问于2016-10-27
得票数 2
回答已采纳
2
回答
在Java中将整数文本赋值给双
精度
变量
、
、
、
、
如果我执行以下操作由于0是使用32位的整数字面量,而d是使用64位的双
精度
变量,那么剩余的32位是否会被随机垃圾填充,或者Java是否正确地提升了字面量?
浏览 4
提问于2012-02-09
得票数 5
回答已采纳
4
回答
将int转换为浮动在C中时的奇怪行为
、
、
、
、
当您将整数值2147483647转换为IEEE 754
浮点
格式时,它将被近似为2147483648.0。所以,我预计这两行都等于2147483648.000000。编辑:值"2147483647.000000“不能是一个单
精度
浮点
值,因为数字2147483647不能准确地表示为IEEE 754单
精度
浮点
格式而不
丢失
精度
。
浏览 4
提问于2014-11-24
得票数 22
回答已采纳
1
回答
Python3.5- '//‘与'int()’之间的差异
、
我在python3.5中解决了问题。以下是我的解决方案代码:if b == 0:return gcd(b, a % b) return int((a*b)/gcd(a,b)) N = int(input()) ans = lcm(nums[0], nums[1]) for j in range(i+
浏览 1
提问于2017-11-25
得票数 2
回答已采纳
2
回答
将SQL Server列从实数转换为
浮点
数,而不会引入小错误
、
、
、
据我所知,与float相比,real本质上只是一个
精度
较低的
浮点
型(24),后者的默认
精度
为53。因此,当从实数转换为
浮点
数时,我希望获得更高的
精度
,或者至少不会
丢失
源值的
精度
。然而,在这样做的时候,实际上似乎失去了一些
精度
:为什么会发生这种情况,有没有一种方法可以在执行此操作时至少保持源值的
精度
?
浏览 0
提问于2020-12-03
得票数 0
2
回答
将
浮点
数转换为双
精度
时的
精度
损失
、
、
、
、
我想我的c++程序遇到了
精度
问题。我不明白为什么我的价值观会得到不同的结果。syd和syd2都不一样:double syd2 = -0.207010582000000000; 有没有人能帮我一下,把我的浮动正确地转换成双
精度
浏览 1
提问于2021-03-30
得票数 0
1
回答
浮动到小数点,小数点到
浮点
数。一般的转换
、
在下列哪一种转换过程中,可能会出现
精度
下降? 为什么
浮点
数到十进制和十进制都会导致
精度
转换的
丢失
?
浏览 10
提问于2015-11-09
得票数 2
回答已采纳
5
回答
浮点
类型的Java -2数组-发现可能的
精度
损失:要求的
浮点
数: int
、
、
、
我有两个
浮点
类型的数组float[] b = new float [100]; for (int i=0; i<100; i++) {} 发现
精度
可能
丢失
的错误:要求的
浮点
数: int
浏览 0
提问于2012-02-18
得票数 0
1
回答
3e5版java for android
、
、
在
JS
中,我会写一些东西,例如3e5来获得300000。在Java中也是这样吗,我搜索了,但是我找不到不使用pow ^的答案
浏览 7
提问于2015-07-19
得票数 1
回答已采纳
3
回答
用
浮点
数进行除法时如何保持小数的
精度
、
、
问题是,当用小64位long
浮点
值除以一个大的double
浮点
值时,由于它需要存储整数,所以
浮点
值的
精度
不高。基本上,我想做的是:但在不降低
精度
的情况下,long_value就更大了。是否有一种书写这个表达式的方法,使整数被丢弃,
浮点
精度
不会
丢失
?谢谢。
浏览 7
提问于2022-07-08
得票数 2
回答已采纳
1
回答
稳健准确地计算两个
浮点
数的商的自然对数
、
、
、
在计算log (a/b) (其中a和b是给定
精度
(这里称为本机
精度
)的两个非零正有限
浮点
操作数)时,一个明显的问题是商a/b可能无法以该
精度
表示为
浮点
数。此外,当源操作数的比率接近1时,
精度
将会
丢失
。 这可能会通过暂时切换到更高
精度
的计算来解决。但是,这种更高的
精度
可能并不容易获得,例如,当本机
精度
为double并且long double仅映射到double时。使用更高
精度
的计算
浏览 17
提问于2018-08-07
得票数 5
回答已采纳
2
回答
X的平方根等于x
、
、
给定一个双
精度
浮点
(非负)号x,它的平方根总是等于它自己吗?换句话说,如果执行以下操作,是否会
丢失
精度
:y = x^2因此:我对正方形变成无穷大或零的情况不感兴趣,只是符合双
精度
的数字
浏览 2
提问于2017-03-13
得票数 1
回答已采纳
5
回答
关于数据
丢失
的警告c++/c
、
、
我收到了一个关于数据
丢失
的良性警告 我记得好像浮子的
精度
比int大。那么,如果我将较小的数据类型(int)转换为更大的数据类型(
浮点
),那么如何
丢失
数据?
浏览 7
提问于2010-04-17
得票数 9
回答已采纳
1
回答
Java BigDecimal setScale与half_even舍入
我使用下面的代码,并使用带有BigDecimal舍入模式的java setScale方法,并得到以下结果。结果: 1.11因为最接近左边的偶数应该是2,所以我预计结果是1.12。但结果是1.11。再一次,结果: 1.15因为5左边的偶数是4,所以我希望结果是1
浏览 2
提问于2014-11-26
得票数 3
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
js浮点数精度计算问题解决
BigDecimal为什么可以不丢失精度?
【一问一答】Excel中因浮点运算导致的运算精度误差
Unity技术分享67-资源泄露、ETC压缩、动画文件浮点数精度
JavaScript零基础保姆级教程-2
热门
标签
更多标签
云服务器
ICP备案
对象存储
云直播
腾讯会议
活动推荐
运营活动
广告
关闭
领券