腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
2
回答
与C相比,
Python
的
小数
精度
如何?
、
、
、
、
我正在寻找寻找第n个斐波那契数
的
,这让我很好奇。 我知道
Python
可以处理任意大
的
整数,但是对于小数,你能得到什么样
的
精度
?它是直接放在C double之上还是什么,或者它也使用了一个更精确
的
修改后
的
实现?(显然不是任意精确度。;D)
浏览 4
提问于2010-07-08
得票数 1
回答已采纳
1
回答
在
Python
中
,为什么最小
的
浮点值和最大
的
浮点值有不同
的
有效位数?
、
我刚刚在一本机器学习书中读到,浮点变量
的
最小非零值是2.2250738585082014x10^-308,最大值是1.7976931348623157x10^308。 对此有何解释?为什么正指数和负指数
的
值不一样?
浏览 16
提问于2019-04-28
得票数 3
回答已采纳
2
回答
什么是
浮点数
,我
的
想法正确吗?
、
我知道int是实数,double基本上是两个中间带点
的
数字,是小数吗?现在出现了一个棘手
的
问题,即float数据类型。我觉得浮点型是一种安全
的
数据类型,你不确定并且想要接受整数和小数,我说
的
对吗?是不是既接受整数又接受小数?对于任何努力理解的人来说,这是我
的
计算器
的
代码,它可能会有所帮助。
浏览 2
提问于2018-07-21
得票数 1
1
回答
与RDD和DataFrame不同
的
浮点
精度
、
、
、
我将RDD更改为DataFrame,并将结果与我使用read.csv导入
的
另一个DataFrame进行了比较,但浮点
精度
与这两种方法并不相同。谢谢你
的
帮助。 oi.product_id order by o.date, oi.product_id') 是一样
的
吗
浏览 0
提问于2018-01-26
得票数 5
回答已采纳
1
回答
有可能解决MATLAB和
Python
之间
的
滤波器舍入误差吗?
、
我正在尝试将一些Matlab代码复制到
Python
中
,目前我正在开发一个单元测试来检查等价性。在下面的代码
中
,我得到了E-11顺序
的
错误,这表明它可能是一个舍入错误。Matlab代码:x = 1:100000;y = filter(b, 1, x);
Python
signal.lfilter(mat_data('b'), 1, mat_data
浏览 21
提问于2018-12-13
得票数 1
2
回答
内存缩减
、
、
我需要减少
Python
代码
的
内存消耗。一种选择是降低可变
精度
。在这方面: 谢谢..。
浏览 10
提问于2011-12-14
得票数 0
2
回答
浮点数
精度
、
Python
中
的
浮点数
的
精度
是多少?它总是双
精度
的
,还是它
的
实现或特定
的
平台?它在CPython和PyPy上有区别吗?
浏览 3
提问于2017-02-01
得票数 2
回答已采纳
1
回答
是否有办法通过浮动
精度
或限制浮动范围来加速
python
?
、
、
、
、
在glsl
中
,可以使用低
精度
浮点数
来加快计算速度。有没有办法限制
python
中
浮标的
精度
或范围,以加快计算速度?
浏览 4
提问于2022-03-02
得票数 3
2
回答
如何在二进制文件
中
存储高
精度
浮点数
,
Python
2.7?
、
、
、
在
Python
2.7
中
,我需要将高
精度
浮点数
(比如来自numpy
的
np.float64或来自Decimal模块
的
decimal )记录到一个二进制文件
中
,然后再读回来。我怎么能做到呢?我想只存储一个高
精度
浮点数
的
位图像,没有任何开销。提前感谢!
浏览 3
提问于2013-12-03
得票数 0
2
回答
Python
到C
的
浮点不精确
、
、
当我把用
Python
语言创建
的
csv文件
中
的
浮点数
导入到用C语言编写
的
程序
中
时,我遇到了一些
精度
问题。下面的代码是我
的
程序中发生
的
事情
的
一个例子:
Python
将一个float32值写入一个文件(在本例
中
是9.8431373e+00),我将其读入一个字符串,并使用strtof将其转换回float32,但最后一个小数位
的
结果不同float对象有32
浏览 39
提问于2021-10-19
得票数 0
回答已采纳
3
回答
Python
中
的
浮动限制
、
我正在用
python
写一个程序。sys.setrecursionlimit(1500)对于N= 1000,M=1和N= 1000,M=2,它给出了相同
的
答案在搜索时,我发现浮动
的
限制超过了10^400。我
的
问题是如何克服它
浏览 0
提问于2012-01-08
得票数 3
1
回答
在
Python
中将float转换为bigint时,什么是防止溢出
的
好方法?
、
、
当修剪由除法产生
的
大小数时,我得到一个溢出问题。100000000000000123.1)>>> floor(100000000000000123.1) 100000000000000128 从类型上看,数字似乎是一个普通
的
浮点数
,它不能以所需
的
精度
存储。因此,即使使用floor(),我也会遇到同样
的
问题。有没有更好
的
数据类型来存储‘长
浮点数
/双
精度
浮点数</
浏览 32
提问于2019-04-17
得票数 0
回答已采纳
2
回答
Python
-除法结果
中
的
有效位数
、
、
、
、
1280.01960784313732.50980392157有效位数/
精度
是如何确定
的
?提前感谢您
的
时间和耐心。
浏览 0
提问于2010-04-01
得票数 3
1
回答
如何将任意
精度
(dtype=object)
的
浮点数
数组转换为整数数组
、
我有一个任意
精度
的
浮点数
(dtype=object)。如何将这个具有任意
精度
的
浮点数
数组转换为整数数组?,dtype=对象)b= a*821627.1218279279222972 a= b.astype(int)如何舍入b以得到整数数组而不失去
精度
?np.astype给出了以下错误:非常感谢你
的
帮助!
浏览 9
提问于2022-10-16
得票数 0
3
回答
有没有什么办法可以让
python
显式地将所有
浮点数
视为32位,即使在64位机器上也是如此?
有没有什么办法可以让
python
显式地将所有
浮点数
视为32位,即使在64位机器上也是如此? 我不想更改密码...
浏览 0
提问于2011-11-11
得票数 1
3
回答
a//b和int(a/b)
的
区别是什么?
、
对于较小
的
数字,它们似乎相等,但对于较大
的
数字,它们似乎是不同
的
。
浏览 24
提问于2017-02-17
得票数 2
回答已采纳
4
回答
区分单
精度
和双
精度
、
、
Python
的
float数据类型确实使用了双重
精度
(64位)。但是,对于我
的
具体实现(通过发送带有类型标记
的
值),我希望区分可以表示为(32位)单
精度
浮点数
和(64位)双
精度
浮点数
的
值。更确切地说,我想做这样
的
事情: binary=struct.pack('>d', value) binary=stru
浏览 8
提问于2013-11-14
得票数 2
回答已采纳
1
回答
int(r/2)和r/2输出之间
的
差异
、
r/2输出为7.960698371813948e+21r//2给了我7960698371813947370955 为什么前两件案子
的
价值有那么大
的
不同
浏览 1
提问于2020-01-08
得票数 2
回答已采纳
1
回答
对于不同
的
精度
,浮点类型是“嵌套
的
”吗?
我目前正在用
python
编写科学代码。这段代码使用了几种不同类型
的
浮点
精度
,即半
精度
、单
精度
和双
精度
(使用numpy)。然而,我
的
问题更一般,因为它不是特定于
python
的
。问:这些
精度
是否“嵌套”,即任何数字在较低
精度
下都可以精确表示(即没有近似值),在较高
精度
下也可以精确表示。 另一种说法:当转换为更高
精度
时,我是否更改了
浮点数
的</
浏览 37
提问于2021-11-17
得票数 0
回答已采纳
1
回答
在
Python
上使用decimal计算Pi
、
我正在尝试使用Ramanujan
的
公式之一在
Python
上以任意
精度
计算π:。它基本上需要大量
的
阶乘运算和高
精度
的
浮点数
除法。到目前为止,我
的
代码如下: 我在圆周率
的
第15位附近得到了错误( 3.1415926535897930,应该是3.1415926535897932 )。你能给出一些建议吗?为什么会发生这种情况?我使用
的
是decimal类型,文档上说它允许任意
精度
的
浮
浏览 1
提问于2013-06-03
得票数 6
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
Python 浮点数的冷知识
特别注意,在Python中比较浮点数的正确方法
超高精度定位系统中的UWB是什么
python Python中的dict
Python 中的 if
热门
标签
更多标签
云服务器
ICP备案
实时音视频
对象存储
即时通信 IM
活动推荐
运营活动
广告
关闭
领券