1回答
我的理解是Javascript只对数字使用一种数据类型，即双精度浮点。由于这个限制，我不能让我的程序像我希望的那样精确地绘制。请看这里的示例：有没有一种使用asm.js进行高精度计算的实用方法？有多高？如果我不得不试试，我猜既然asm.js确实支持整数运算，我可以通过使用整数数组来表示小数点后的大量数字来实现它。我可以将数字表示为字符串，并使用一
浏览 7提问于2014-02-28得票数 4
1回答
我的应用程序(PHP)需要执行很多高精度的数学运算(总共可能出现100个数字)我只是想找出在性能方面最好的方法案例2:从一开始就直接使用BC Math
假设50%的计算</e
浏览 2提问于2013-09-30得票数 4
1回答
高精度数值计算
、、、
不幸的是，在许多情况下，我不知道封闭形式的正确结果，所以我需要找到一种方法来使用一些非常高精度的计算来计算基准结果。对这些高精度计算进行编码的最佳方法是什么？我正在寻找至少四个精度，但最好是更高。到目前为止，我唯一的想法是使用。
浏览 3提问于2014-09-25得票数 1
我希望我将需要从应用程序连接到外部GPS设备使用蓝牙(或类似)，并获得NMEA句子(或类似)包含位置数据。 我的研究将我带到了RTK，这是非常准确的。对高精度位置的校正在连接到NTRIP服务器的已连接计算机或平板电脑上的软件中进行。 假设我说的是对的，有没有人知道GPS设备会在GPS设备本身上执行这种RTK校正？理想情况下，我只需连接蓝牙或类似设备，即可获得高精度定位的NMEA (或类似设备)数据。 这也可能是我对此的思考有误。在iOS上，假设有第三方应用程序执行RTK计算，有没有标准的
浏览 36提问于2019-01-09得票数 1
1回答
我试着做数学计算，它们需要超过100小数点的精度。C数据类型不能超过16个字节(长双)，所以我不能计算超过17个小数。是否有一种方法可以在C中创建一个可以获得更高精度的变量？
浏览 1提问于2018-04-23得票数 0
回答已采纳
2回答
目前，我在PARI/GP中有一些代码，它们实现了基于递归计算序列的值。这个序列中的所有数字都在0到1之间，高精度很重要(至少50位)。有没有支持并行编程、高精度、能快速完成+、-、*、/等基本算术运算的语言(如PARI)？
浏览 0提问于2011-06-26得票数 2
回答已采纳
1回答
我有一个不平衡的数据集，其中两个类的例子较少，三个类的示例数较多。是否有一种标准的方法来计算损失函数的权重，从而建立一个高精度的系统？
浏览 2提问于2018-06-16得票数 0
我有一个RRDTool数据库，其中包含数据，我希望能够将这些数据导入到另一个RRDTool数据库中，该数据库仅与RRAs不同。我想提高历史数据的精度，所以我尝试了如何通过来增长RRA，但是它没有重新计算添加的行。这意味着，当将图形绘制为各种“缩放级别”时，会得到奇怪的结果:图形在绘制精度较低时有数据，但当我提高精度时，则为空，因为RRDTool自动选择最佳精度级别，而新添加的RRA行为空(未知)。我知道我不能重新创建丢失的数据
浏览 6提问于2009-04-29得票数 2
在JavaScript中计算Math.sin(Math.PI)时，结果是1.2246063538223773e-16而不是0。使用更高精度的BigNumber类型和更高精度的正弦算法会有帮助吗？或者，这只会给你一个较小的舍入误差，但仍然是一个错误？
浏览 2提问于2014-02-05得票数 1
4回答
C#高精度计算
、、
考虑下面的代码：我得到的结果是2178548422，而不是2178548421.999999854等等。怎样才能得到更精确的结果？
浏览 1提问于2011-11-14得票数 5
回答已采纳
1回答
我收到了令人怀疑的高精度(0.94)，调用keras中的evaluate方法( evaluate方法返回准确性和损失)。
浏览 46提问于2018-05-26得票数 1
回答已采纳
我想用下面的形式来表示它，使用'bc‘实用程序作为例子来计算扩展/更高精度/小数位数形式：scale=400.00000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000
我需要一个Javascript bigint库或代码来产生与数字的扩展/更高精度
浏览 1提问于2011-07-20得票数 0
回答已采纳
1回答
我们打算用一些不适合float64或TensorFlow中任何其他现有数据类型的数据来训练ANN。1.13760089015656552359796023723738662029191734968655617689014826158791613333是否有一种用TensorFlow或Keras表示数据的方法如果没有一个清晰方便的解决方案，您认为将数据转换到complex128中会对我们有帮助吗？
浏览 5提问于2019-11-18得票数 0
1回答
我正在试验GPS地理定位，并想通过分配一些自定义接入点的确切HTML5坐标来提高精度。如何将这些访问点及其确切位置添加到当前数据库？如果我不能添加自定义AP到数据库，我可以查看由谷歌(和其他人)使用的源代码，以计算位置，根据AP和他们的信号强度。
浏览 2提问于2010-08-30得票数 1
回答已采纳
TYPE_MAGNETIC_FIELD
我打印了基本的声明，看看在调试应用程序时得到了什么样的准确性。我所有的计算都在这个函数中。如何以中等和高精度过滤掉数据。谢谢。
浏览 7提问于2015-12-14得票数 0
我知道在GPU之前进行图形时，trig函数缓存非常流行，但是使用一维纹理查找表从OpenGL ES着色器中预先计算值计算sin/cos有意义吗？如果不需要超高精度，是否会节省时间？
浏览 5提问于2020-02-06得票数 1
回答已采纳
2回答
月相空气污染指数
、、
我的基于PHP的潮汐表格应用程序使用NOAA处理潮汐和天气数据，但它们似乎没有提供任何月球数据。谷歌有没有把这个内置到他们的API中，而我就是不知道？如果没有人知道免费的API (最好是政府提供的)，有谁知道一个简单的方法来计算这个值吗？我见过，但解决方案试图以高精度计算它们。如果它稍微偏了一点，那也没关系。
浏览 2提问于2012-02-17得票数 15
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
实时音视频活动推荐
腾讯云开发者
