腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
0
回答
避免
双
精度
变量
中
的
垃圾
零
值
、
在我下面的程序
中
,{ int value = 476; floatdouble result = value * dimension;我想要将
值
直接保存在数据库
中
,那么有没有内置函数来获得期望
值
? 预期:47.6%而不是47.600002288.....
浏览 0
提问于2016-12-30
得票数 0
回答已采纳
3
回答
Float Precision格式以消除尾随
零
、
、
我使用格式字符串F2来转换
双
精度
值
。如果
双
精度
值
为9999,我将获得9999.00格式
的
值
更清楚地说,我需要
的
输出是,当给出左边
的
参数时,我会得到右边
的
输出1.1 -> 1.1 1 -&
浏览 0
提问于2013-04-04
得票数 1
回答已采纳
1
回答
删除
双
精度
变量
中
的
尾随
零
、
、
、
我有一个动态链接库,它定义了许多返回double
的
方法,我不想更改其中
的
任何内容。问题是,当我向这些方法传递小数字时,由于返回
值
是
双
精度
的
,例如9*9=810000000000(它不是小数点,它是
双
精度
变量
的
实际容量),返回
值
带有太多
的
尾随
零
。我想要正常
的
行为,即9*9=81 如何在不更改DLL
的
情况下删除那些尾随
的</
浏览 2
提问于2012-09-26
得票数 0
回答已采纳
1
回答
在C++中使用整数和
双
精度
格式化矩阵
如何在矩阵
中
打印整数和
双
精度
值
?(100 34 56 77.80 75 45 98 22.00我能够打印矩阵,除了带有尾随
零
的
双
精度
值
不显示尾随
零
。我相信答案就在库
中
,但我已经尝试了多种组合,但都没有成功。需要帮助。
浏览 1
提问于2012-03-26
得票数 0
1
回答
Java double将超过6个小数点转换为指数格式
、
、
、
我有一个简单
的
任务,就是用1除以10
的
幂n,其中n
的
值
是动态
的
。我需要将结果保存在一个
双
精度
变量
中
。在除数
的
值
为1000000之前,double
变量
会正确地显示它,即0.000001。一旦除数值大于6个
零
,以
双
精度
形式保存
的
值
就是指数形式(科学格式例如: 1E-8)。当
双
<e
浏览 0
提问于2016-02-17
得票数 0
4
回答
使用英特尔11.1编译器在fortran 90
中
实现
双
精度
、
、
我有一个很大
的
代码,用fortran写
的
,用来建立和迭代求解非线性偏微分方程组。我需要所有的
变量
都是
双
精度
的
。在我为代码编写
的
附加模块
中
,我将所有
变量
声明为
双
精度
类型,但我
的
模块仍然使用旧源代码
中
声明为real类型
的
变量
。所以我
的
问题是,在fortran
中
,单
精度
变量
浏览 0
提问于2011-03-11
得票数 3
1
回答
如何在android中使用java检查
变量
是否包含
双
精度
值
或空
值
、
如何检查
变量
是否包含
双
精度
值
或为空var1=some
双
精度
值
var2=一些
双
精度
值
和var 3=some
双
精度
值
现在如何检查var1、var2和var3是否真的包含
双
精度
值
或整数
浏览 0
提问于2011-05-02
得票数 0
1
回答
神秘
的
数字18888888888888888
、
、
、
我们
的
一个测试人员,设法将滑块绑定
变量
设置为18888888888888888,该
变量
通常只能接受1-100之间
的
值
。(我可以在保存到xaml文件
的
视图模型中观察到它。)这个号码有什么特别之处?应用程序有一个滑块,它绑定到视图模型
中
的
一个可观察属性。通常,当应用程序保存工作区时,此视图模型将使用XamlServices.Save保存。我
的
测试员报告了一些尴尬
的
行为,加载此项目时滑块
的
值</e
浏览 0
提问于2012-02-09
得票数 20
回答已采纳
3
回答
区分
零
和负
零
、
、
、
、
我在代码
中
遇到了这样一种情况,一个函数返回一个
双
精度
值
,这个
双
精度
值
可能是
零
、负
零
,或者完全是另一个
值
。我需要区分
零
和负
零
,但默认
的
双重比较不需要。由于doubles
的
格式,C++不允许使用按位运算符比较doubles,因此我不确定如何继续。我如何区分这两者呢?
浏览 1
提问于2014-01-06
得票数 10
2
回答
C语言中浮点数和
双
值
的
比较
、
我编写了下面的代码来比较浮动
变量
和
双
变量
。printf("LESS"); printf("GREATER"); } 我正在使用一个在线C编译器来编译我
的
代码我知道,对于重复出现
的
小数,永远不会打印“相等”。然而,我期望打印
的
内容较少,因为double应该具有更高
的
精度
,因此应该更接近实际
值
1.1,而不是float。
浏览 5
提问于2019-11-30
得票数 4
回答已采纳
3
回答
-向上舍入一个
双
精度
数并删除小数点后
的
数字-
、
、
、
、
谁能告诉我如何舍入一个
双
精度
型,然后去掉小数点后
的
数字&,然后把这个数字转换成一个字符串?例如,从
双
精度
值
55.6666666666667开始-向上舍入到
双
精度
值
56.0000000000 -然后删除小数点和尾随
零
浏览 0
提问于2014-04-26
得票数 0
3
回答
1除以非常大
的
数字,返回0,C
、
、
、
抱歉,如果我违反了这个网站
的
规则,但请记住,我是新来
的
。这是用C编写
的
返回意外结果
的
函数
的
代码: { model = (pow(E,(int)power)); } 我不知道我是否应该发布我
的</e
浏览 0
提问于2013-07-11
得票数 0
1
回答
无效
值
:饼图中
的
Nan
如何
避免
收到"Invalid value:NaN“
的
错误?我已经创建了一个饼图,这些
值
是除法
的
结果。我只希望在结果不是NaN
的
情况下创建图表,否则该
值
应设置为
零
!我可以在图表本身
的
属性
中
执行此操作吗? 我试着写下这样
的
东西: try-catch。但是它告诉我这个
值
必须是
双
精度
的
浏览 33
提问于2021-05-03
得票数 3
回答已采纳
3
回答
Double to字符串保持尾随
零
我尝试过将
双
精度
值
转换为字符串,并使用Replace()方法将',‘替换为'.’。我知道我漏掉了什么。如果能有一些建议,我将不胜感激。
浏览 2
提问于2010-03-06
得票数 5
回答已采纳
2
回答
将'0‘转换为
双
精度
,然后乘以-1将得到负
零
、
、
、
我正在尝试否定jsonb数据
中
的
双
精度
值
。我不得不将其转换为
双
精度
,因为PG会将其作为文本返回。我发现
零
值
打印为-0 这样可以吗?如何在不使用"CASE WHEN“
的
情况下修复它 ?
浏览 18
提问于2020-08-09
得票数 0
2
回答
VBA通过引用传递数组并修改内容
、
、
、
、
谁能解释一下将数组(一维
双
精度
类型,长度为3)传递给子例程或函数
的
语法,以便我可以修改其内容。我知道它们必须通过引用传递。我说
的
是确切
的
语法,因为我每次都会在子例程/函数调用
中
遇到类型不匹配
的
错误。我要找
的
是
双
精度
数组
的
正确Dim语句,初始化语句使所有数组
值
为
零
,然后是我需要
的
子例程调用语句和子例程标头。如果我需要使用
变量</e
浏览 1
提问于2015-02-05
得票数 12
回答已采纳
2
回答
缓冲区读写浮点数
、
当我将浮动写入缓冲区时,它不会读取相同
的
值
:undefinedundefined我
的
工作原理是,由于javascript将所有数字存储为
双
精度
,所以缓冲区实现在读取浮动返回时可能不会正确地对该
双
的
其他4个字节进行
零
设置:undefined0)
浏览 13
提问于2014-11-24
得票数 3
回答已采纳
3
回答
正在读取数据网格视图中数字
的
初始0- C#.NET
我正在尝试从文本文件
中
读取数据。我
的
文本文件由数据组成,比如002200;20。 我在数据网格视图中显示这些
值
。每次,我显示文本文件
中
的
数据,它只读取2200;20。它不会在任何时候读取首字母0。
浏览 6
提问于2011-04-02
得票数 1
2
回答
比较java
中
从DB获取
的
两个
值
、
、
、
我正尝试在java
中
执行一个查询,这样我就可以从DB
中
获得一些
值
。我正在尝试比较从DB
中
获取
的
money/float
值
&这个money/float是从结果集rs.getString
中
获取
的
。所以在比较
的
时候,它是匹配
的
。这是我
的
代码,价格是select * from Tablename,其中DBQuery =‘value1’value1是从UI获取
的
预定
浏览 1
提问于2013-11-08
得票数 0
3
回答
Delphi错误
双
精度
计算
、
我在用
双
精度
变量
计算一个简单
的
算术方程时遇到了问题。varbegin showmessage(floattostr(check));问题是,我没有得到
零
,我得到-
浏览 3
提问于2013-07-27
得票数 1
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
VLOOKUP函数中的零值处理
JavaScript入坑第一步:夯实基础
VBA的数据类型
Java数据类型
机器人说明书---名词解释013课_C++语言_修饰符
热门
标签
更多标签
云服务器
ICP备案
对象存储
腾讯会议
云直播
活动推荐
运营活动
广告
关闭
领券