我知道这个函数返回一个浮点数，表示特定位置的精确度。我的问题是:这个函数返回的值越大，意味着位置越准确，这是正确的吗？还是我所说的与之相反？
浏览 175提问于2011-09-16得票数 22
回答已采纳
57.01241, 9.9917857.011900000000004, 9.990680000000001
为什么我失去了坐标的精确度
浏览 2提问于2012-04-18得票数 1
回答已采纳
我已经看到我的科学计算器在小数后存储99位数字。为什么编程语言不使用这样的精确度？此外，如果我想的话，我如何才能达到这样的精度呢？
浏览 1提问于2018-02-08得票数 0
1回答
在一些数字运算应用程序中，我需要找到在模拟过程中产生的某个数值函数在一维中的多个实根(未定义的数字，大于或等于零)，并且没有解析表达式。给定所需的精确度，我想知道哪种并行方法/算法是最好(最快)的。
浏览 4提问于2011-10-18得票数 0
回答已采纳
1回答
我们可以将Java作为一个视角。假设我们有一个系统，它有一个有价格的商品。这个价格需要几次操作，比如说15次操作。商品的价格将被一遍又一遍地用小数点进行除法、求和、减法。让我们假设我们的系统与另一个系统对话。另一个系统也会根据价格进行操作。最后，两个系统的价格值必须完全匹配(美分)。我们是在装腔作势地谈论会计系统。根据我的经验，这两场比赛的机会是非常罕见的。我们该如何处理这种情况。是否有舍入规则？
浏览 5提问于2021-11-08得票数 0
下面的两个查询转换为相同的数字SELECT CAST(CONVERT(datetime,'2009-06-15 23:01:00') as bigint)39978仅当日期不同时，生成的数字才会不同。有没有办法将DateTime转换为更精确的数字，就像我们在.NET中使用.Ticks属性所做的那样？
我需要至少一分钟的精确度。
浏览 1提问于2009-06-15得票数 13
回答已采纳
5回答
给定一个实际值，我们是否可以检查float数据类型是否足以存储数字，或者是否需要double？
我知道精确度因架构的不同而不同。有没有什么C/C++函数来确定正确的数据类型？
浏览 0提问于2012-11-29得票数 10
0-1MS (精确度仅为毫秒)
现在的问题是，我听说MemCached是超快的，但我认为它比AppFabric快，但在Gets和AppFabric上却没有慢我只是在寻找MS的原始数字和对象大小，或者我应该看的东西，看看我是否能够使数字更符合我的期望或选项来设置或检查
浏览 2提问于2011-10-23得票数 4
我的理解是，JavaScript中的所有数字都是双精度浮点数。如何在JavaScript中将双精度型转换为浮点型？我理解精确度的损失，但这是可以容忍的。
我需要描述C风格的浮点数
浏览 13提问于2016-08-05得票数 0
回答已采纳
2回答
现在，当我插入诸如12345678之类的数字时，该值在该列中存储为12345700。 这与精确度有关吗？ 有人能给我解释一下这是怎么回事吗？
浏览 21提问于2020-06-12得票数 1
我有一个这种格式的纬度和经度GPS坐标数据库：20908403.7226004675030708 223749828.752489000558853120908403.2405762746930122 223749828.7983648478984833我认
浏览 1提问于2021-05-12得票数 0
如果我用python写1e-15，python可以区分这个数字和0，但是如果我写1e-16，python就不能区分这个数字和0。所以python的精确度可以达到16位。
浏览 46提问于2019-10-07得票数 1
回答已采纳
我的训练数据在没有标准化的情况下，包含了-2000到2000之间的数字。如果我的训练数据输入是300，我会对其进行标准化：所以它的范围是-1 - 1。1 / 300 = 0,00333~这需要神经网络达到极端的精确度。我使用基于梯度的反向传播算法，而tanh是激活函数。神经网络需要很长时间才能达到这种精确度。
我应该使用什么学习方法，或者如何改进我当前的神经网络来完成这项任务？谢谢!
浏览 0提问于2016-04-03得票数 0
我试图用下面的代码循环打印标题中提到的数字：int ceiling = 1;int main()while (counter< ceiling) printf("%f\n", counter);}但它只给了我7位数的精确度。
浏览 2提问于2013-09-19得票数 1
回答已采纳
让我们看一下这个简单的例子formatter.number(from: "0.945")?.decimalValue // result: 0.945如何实现将"0.94"转换为具有完全相同值的小数，例如0.94
我更喜欢使用NumberFormatter的解决方案，因为我还想将此字符串转换为十进制，用于货币金额，如"
浏览 0提问于2021-01-20得票数 0
我需要在Dyalog APL中使用精确度。我知道⎕PP的值设置了精度，但我不能将其增加到18以上，因此我无法获得超过18位的精度，并且我需要对大数字进行运算。有什么方法可以提高精度吗？
浏览 0提问于2009-06-09得票数 2
回答已采纳
4回答
我需要找到召回率、精确度和f-measure，但在R中找不到一个好的函数(我也读到了ROCR，但我所能做的就是创建一些图，但我真的不需要图，我需要的是数字)。在R中有没有什么好的函数来寻找精确度，召回率和f-度量？有什么不同的方法吗？
浏览 1提问于2012-09-25得票数 9
回答已采纳
1回答
有没有可能以不同的精度表示相同的变量？result = 2+3;但如果有除法，结果会是这样的：NSLog(@"%.1f", result);result = M_PI;
浏览 0提问于2011-11-18得票数 0
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
实时音视频
即时通信 IM
对象存储活动推荐
腾讯云开发者
