腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
1
回答
Double
.Parse
精度
/舍入
问题
、
、
小数(24,10) 输出在datacolumn:123.6666666700 我使用了提供输出
浏览 2
提问于2016-10-24
得票数 3
1
回答
Riemann Zeta函数的计算
、
、
在您的语言中以最大的原始
精度
计算Riemann zeta函数 (对于C族,即
double
或long
double
、
JS
中的var等)不需要BigDecimal或类似的东西,除非您需要它来使用
double
-equivalent
精度
。有关示例程序,请参阅我的
JS
条目。
浏览 0
提问于2014-08-04
得票数 4
1
回答
Postgresql:
Double
.MinValue超出了双
精度
类型范围
、
我有一个参数双
精度
的postgres函数。有时,我希望从服务器端
Double
.MinValue c#代码中传递最小的
double
值。现在我面临的
问题
如下 -179769313486232000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000
浏览 2
提问于2019-10-22
得票数 1
回答已采纳
2
回答
Math.sin() Node.
js
和C#的不同
精度
、
、
、
、
下面是简单的Node.
js
代码var x = Math.sin(seed) * 0.5;下面是简单的C#代码{
double
num = Math.Sin(seed) * (0.5)
浏览 5
提问于2016-10-15
得票数 0
回答已采纳
2
回答
从Postgres读取浮点数而不舍入
、
、
这似乎是一个非常天真的
问题
,但我很难弄清楚这一点。在我的37.50378数据库中有一个浮点值PostgreSQL。当我试图在我的Nodejs应用程序中获取这个值时,它会给我37.5038。
浏览 1
提问于2017-03-29
得票数 2
6
回答
从
double
转换为long而不使用Round Java
、
、
我正在尝试将随机的双
精度
值转换为长整型,而不对其进行舍入或截断。首先,我将双
精度
值更改为字符串,以了解有多少位小数,然后将值更改为long。我的
问题
是,最后一个小数位的数字并不总是正确的,我不知道原因和如何更改它。代码如下: long test;d
浏览 1
提问于2013-08-08
得票数 3
3
回答
整数或双
精度
1.0和1
我想读取一个双
精度
数并确定输入是Integer还是
double
。
问题
是,当我输入1.00 (它是双
精度
的)时,我得到的结果是整数cin >> a; cout << "Integer"; elsecout << "
Double
";
浏览 38
提问于2019-03-25
得票数 0
回答已采纳
2
回答
Big Decimal vs
double
,提供更好的
精度
、
我在遗留软件中发现了一些代码,我有兴趣知道哪种代码提供了更好的
精度
,因为它目前采用了双
精度
并对其进行了计算:
double
doubleNum = (Math.round(55.88d * 100)但在将
double
转换为BigDecimal时可能会出现损失 另外,第一个选项在投射时可能会丢失。 我一直使用BigDecimal,但在本例中。
浏览 51
提问于2021-10-08
得票数 1
回答已采纳
3
回答
整数
精度
快速倍乘
以较低的
精度
将两个双数相乘的最快方法是什么(如Int
精度
)?当我使用:
double
b = 3.2;还是有更快的方法?我有一组双重数据,我需要从中提取一些属性,这主要涉及到大量的乘法运算。现在我试图通过降低计算
精度
来缩短计算时间。也许这是:
double</
浏览 6
提问于2015-03-27
得票数 0
回答已采纳
1
回答
如何将嵌套列表转换为二维数组
我需要将双
精度
的嵌套列表转换为双
精度
。我试过使用下面的代码,但
问题
是如何转换为原始的
double
。任何帮助都将不胜感激。
double
[][] matrix = new
double
[listReturns.size()][]; for (List<
Double
> nestedList: listReturns) { matrix[i++] = nestedList.toArray(new
Doub
浏览 26
提问于2019-06-20
得票数 1
回答已采纳
2
回答
用双
精度
值填充双
精度
数组
、
我试图用循环中的双
精度
值填充双
精度
数组,但得到以下错误:不兼容的类型:可能存在从双
精度
到整型的有损转换public class ThreadGraph extends Threadpublic
double
x2=1.0; //right endpoint of interval public
double
y=4/(1+Math.pow//This variable will store th
浏览 31
提问于2016-09-25
得票数 0
回答已采纳
2
回答
CGFloat/NSTimeInterval是否会失去准确性
在用NSTimeInterval除以CGFloat时,是否会损失
精度
? 我正在尝试将NSTimeInterval转换为UIView.frame.size.width,并且当前将其转换为float。
浏览 0
提问于2012-08-11
得票数 0
回答已采纳
2
回答
ASP .net C#十进制到Java双倍的四舍五入不匹配
、
、
、
、
我正在将.NET代码翻译成Java,遇到了
精度
不匹配的
问题
。Java代码: if (roundPrecision;} 数
浏览 2
提问于2017-01-13
得票数 11
回答已采纳
1
回答
稳健准确地计算两个浮点数的商的自然对数
、
、
、
在计算log (a/b) (其中a和b是给定
精度
(这里称为本机
精度
)的两个非零正有限浮点操作数)时,一个明显的
问题
是商a/b可能无法以该
精度
表示为浮点数。此外,当源操作数的比率接近1时,
精度
将会丢失。 这可能会通过暂时切换到更高
精度
的计算来解决。但是,这种更高的
精度
可能并不容易获得,例如,当本机
精度
为
double
并且long
double
仅映射到
double
时。使用更高
精
浏览 17
提问于2018-08-07
得票数 5
回答已采纳
3
回答
故意失准
、
、
、
、
同时将
double
转换为int:int i = (int) d;我知道我完全可以禁用所有丢失的精确警告,但这不太好。我正在使用Intellij IDEA 1
浏览 1
提问于2013-12-25
得票数 4
回答已采纳
1
回答
在Javascript中强制转换为浮点,就像在c#中一样
、
、
、
c#代码:float floatB = 17;
double
doubleB = 17;float res = (float)doubleC; // 0.235294119 <
浏览 0
提问于2014-04-12
得票数 1
2
回答
双对浮动对_Float16 (运行时间)
、
、
、
、
我用C语言有一个简单的
问题
。我正在用C语言(我的mac基于ARM)实现半
精度
软件,但运行时间并不比单
精度
或双
精度
软件快。我用一个非常简单的代码测试了一半,一个,两个,就像添加数字一样。typedef
double
FP;// float - single precision
浏览 10
提问于2022-07-09
得票数 2
3
回答
EditText,将字符串保存为双安卓编程?
、
我最近学会了将用户输入的信息保存为整数,并想知道如何将其保存为双
精度
,以防基本等式的答案有小数。
浏览 0
提问于2012-10-28
得票数 1
4
回答
C++中的长双
精度
数据类型
问题
有什么
问题
吗?如果它是双
精度
,而不是长双
精度
,那么它工作得很好。#include<stdio.h> if (x<0.0) elsereturn x; long
double
z=abs1(4.1);}
浏览 1
提问于2009-09-24
得票数 2
回答已采纳
3
回答
Eclipse或C++不支持类继承吗?
、
、
、
这就是我所拥有的:{ A(vector<
double
> a,
double
b) {...}{}; {
double
d = 0;
浏览 0
提问于2010-06-22
得票数 2
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
js浮点数精度计算问题解决
JavaScript计算精度问题
React.js 常见问题
Vue.js常见问题精选(一)
520继续卷,JS中this的指向问题
热门
标签
更多标签
云服务器
ICP备案
对象存储
腾讯会议
云直播
活动推荐
运营活动
广告
关闭
领券