腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
1
回答
numpy中的
高精度
计算
、
如何在numpy中进行
高精度
计算
?我所说的
高精度
是指以十进制表示的100精度。
浏览 54
提问于2017-08-10
得票数 2
1
回答
高精度
数值
计算
、
、
、
不幸的是,在许多情况下,我不知道封闭形式的正确结果,所以我需要找到一种方法来使用一些非常
高精度
的
计算
来
计算
基准结果。对这些
高精度
计算
进行编码的最佳方法是什么?我正在寻找至少四个精度,但最好是更高。到目前为止,我唯一的想法是使用。
浏览 3
提问于2014-09-25
得票数 1
1
回答
用asm.
js
进行
高精度
的
计算
实用吗?
、
、
、
、
请看这里的示例:有没有一种使用asm.
js
进行
高精度
计算
的实用方法?有多高?如果我不得不试试,我猜既然asm.
js
确实支持整数运算,我可以通过使用整数数组来表示小数点后的大量数字来实现它。我可以将数字表示为字符串,并使用一个小函数将它们划分为数组,然后传递给asm.
js
代码。
浏览 7
提问于2014-02-28
得票数 4
2
回答
高精度
算术和PARI/GP
、
目前,我在PARI/GP中有一些代码,它们实现了基于递归
计算
序列的值。这个序列中的所有数字都在0到1之间,
高精度
很重要(至少50位)。有没有支持并行编程、
高精度
、能快速完成+、-、*、/等基本算术运算的语言(如PARI)?
浏览 0
提问于2011-06-26
得票数 2
回答已采纳
1
回答
PHP
高精度
数学-性能
、
、
我的应用程序(PHP)需要执行很多
高精度
的数学运算(总共可能出现100个数字)我只是想找出在性能方面最好的方法案例2:从一开始就直接使用BC Math 假设50%的
计算
不需要
浏览 2
提问于2013-09-30
得票数 4
1
回答
有什么替代parseFloat的方法吗?这使我可以处理多达21位数的数字?
、
、
以及需要
计算
的值,以便采取进一步的行动。 在前面的
计算
中,当最大数字< 15时,我使用了parseFloat。现在,由于需求是21位,所以parseFloat不能正确地支持。
浏览 3
提问于2016-11-14
得票数 0
2
回答
如何防止Math.sin(Math.PI)的舍入错误?
、
在JavaScript中
计算
Math.sin(Math.PI)时,结果是1.2246063538223773e-16而不是0。使用更
高精度
的BigNumber类型和更
高精度
的正弦算法会有帮助吗?或者,这只会给你一个较小的舍入误差,但仍然是一个错误?
浏览 2
提问于2014-02-05
得票数 1
4
回答
C#
高精度
计算
、
、
考虑下面的代码:我得到的结果是2178548422,而不是2178548421.999999854等等。怎样才能得到更精确的结果?
浏览 1
提问于2011-11-14
得票数 5
回答已采纳
2
回答
在Javascript中转换/表示非指数/短形式的双精度数
、
、
、
我想用下面的形式来表示它,使用'bc‘实用程序作为例子来
计算
扩展/更
高精度
/小数位数形式:scale=400.00000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000 我需要一个Javascript bigint库或代码来产生与数字的扩展/更
高精度
浏览 1
提问于2011-07-20
得票数 0
回答已采纳
2
回答
在OpenGL ES中缓存三角函数有意义吗?
、
我知道在GPU之前进行图形时,trig函数缓存非常流行,但是使用一维纹理查找表从OpenGL ES着色器中预先
计算
值
计算
sin/cos有意义吗?如果不需要超
高精度
,是否会节省时间?
浏览 5
提问于2020-02-06
得票数 1
回答已采纳
1
回答
物理引擎:
计算
增量时间
、
、
我正在用C构建一个物理引擎,如何在C中
计算
高精度
的帧间时间差(增量)?(我没有使用任何图形api)
浏览 0
提问于2019-03-31
得票数 1
1
回答
javascript -长十进制浮点数精度
我正在尝试用javascript做一些需要
高精度
的浮点数
计算
。当我尝试像这样初始化一个变量时:系统会将数字截断为>3.141592653589793 如何使用长的小数位进行
计算
浏览 0
提问于2018-02-25
得票数 0
1
回答
寻找可从iOS应用程序轻松连接的具有板载RTK的全球定位系统设备
、
、
对
高精度
位置的校正在连接到NTRIP服务器的已连接
计算
机或平板电脑上的软件中进行。 假设我说的是对的,有没有人知道GPS设备会在GPS设备本身上执行这种RTK校正?理想情况下,我只需连接蓝牙或类似设备,即可获得
高精度
定位的NMEA (或类似设备)数据。 这也可能是我对此的思考有误。在iOS上,假设有第三方应用程序执行RTK
计算
,有没有标准的方法来获得
高精度
的位置?或者,有没有GPS供应商提供的SDK可以让我到达我需要去的地方? 非常感谢, 基兰
浏览 36
提问于2019-01-09
得票数 1
6
回答
在Python中
计算
E(自然日志的基)以达到
高精度
?
、
、
、
、
是否可以用
计算
高精度
的数学常数 (2000+小数位)的值? 我特别感兴趣的是一个与或集成的解决方案。
浏览 21
提问于2010-08-24
得票数 15
回答已采纳
1
回答
稳健准确地
计算
两个浮点数的商的自然对数
、
、
、
在
计算
log (a/b) (其中a和b是给定精度(这里称为本机精度)的两个非零正有限浮点操作数)时,一个明显的问题是商a/b可能无法以该精度表示为浮点数。这可能会通过暂时切换到更
高精度
的
计算
来解决。但是,这种更高的精度可能并不容易获得,例如,当本机精度为double并且long double仅映射到double时。使用更
高精度
的
计算
也可能对性能产生非常显著的负面影响,例如,在GPU上,float
计算
的吞吐量可能比double
计算
的吞吐量高出32倍。可
浏览 17
提问于2018-08-07
得票数 5
回答已采纳
2
回答
如何使用CLN : Numbers类库
我需要做
高精度
的数值
计算
。有一个叫做"CLN“的c++库,虽然我安装了这个包,但是我不知道如何使用它。有没有示例程序来说明如何使用它?谢谢
浏览 2
提问于2012-08-12
得票数 0
1
回答
如何定义大于16个字节的浮点数据类型?
、
、
、
我试着做数学
计算
,它们需要超过100小数点的精度。C数据类型不能超过16个字节(长双),所以我不能
计算
超过17个小数。是否有一种方法可以在C中创建一个可以获得更
高精度
的变量?
浏览 1
提问于2018-04-23
得票数 0
回答已采纳
1
回答
如何
计算
航向
、
、
、
、
我有两个位置的纬度和经度(以度为单位),我需要从这两个点
计算
航向。我正在将我的航向与
高精度
GPS接收器进行比较,它给出了我的航向值。
浏览 4
提问于2016-09-13
得票数 0
1
回答
在脚本中,以
高精度
计算
浮点,并以较低的精度存储在shell变量值中。
、
在我的脚本中,我从另一个变量mflow
计算
变量folder。
计算
必须以
高精度
进行,但最终结果必须截断为一个有效数字。目前我正在做这个: #!是否有一种方法可以以
高精度
执行中间
计算
,并以所选的(较低)精度将结果分配给mflow?当然,我不想牺牲脚本的可读性。
浏览 4
提问于2016-05-19
得票数 1
回答已采纳
1
回答
getSpeed与
计算
速度
我尝试了Location.getSpeed()方法,并尝试使用距离/时间
计算
速度。我正在使用GPS (
高精度
),所以我开始开车。
计算
的结果比getSpeed的要精确得多。我说的是以每小时30公里的速度行驶,
计算
结果是28公里,而getSpeed是8公里。如果我遗漏了什么,请告诉我。
浏览 2
提问于2015-01-22
得票数 1
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
编程字典-Vue.js 计算属性
JS实现计算最少回文切割数
【计算机程序】Node.JS初探索
js浮点数精度计算问题解决
纯 HTML+CSS+JS 编写的计算器应用
热门
标签
更多标签
云服务器
ICP备案
对象存储
实时音视频
即时通信 IM
活动推荐
运营活动
广告
关闭
领券