控制python中的浮点精度

文章/答案/技术大牛

发布

0回答

python、floating-point、precision

我在python中有一个像2.75960192084e-05这样的数字。我想用小数点后较少的数字来显示它，比如2.759e-05。注意，指数应保持显示状态。这有可能吗？

浏览 7提问于2017-06-21得票数 0

回答已采纳

2回答

Python -除法结果中的有效位数

python、floating-point、format、division、digits

1280.01960784313732.50980392157有效位数/精度是如何确定的？提前感谢您的时间和耐心。

浏览 0提问于2010-04-01得票数 3

2回答

Python 2.7.5中浮点精度的变化

python、python-2.7、floating-point-precision

如果我在Python2.7.5控制台中运行以下代码：>>> math.radians(0.000001)1.7453292519943295e-08$ cat floatingtest.pyprint(math.radians(0.000001))$ python.exefloatingtest.py为

浏览 0提问于2013-10-23得票数 3

回答已采纳

2回答

与C相比，Python的小数精度如何？

python、c、programming-languages、floating-accuracy、language-implementation

我正在寻找寻找第n个斐波那契数的，这让我很好奇。我知道Python可以处理任意大的整数，但是对于小数，你能得到什么样的精度？它是直接放在C double之上还是什么，或者它也使用了一个更精确的修改后的实现？(显然不是任意精确度。;D)

浏览 4提问于2010-07-08得票数 1

回答已采纳

1回答

python中的浮点精度

python-2.7、numpy、floating-point、floating-accuracy

我想要一个浮点精度，就像python程序中的Fortran。在Fortran中，使用pi得到的值是3.141592653589793238462643，而使用相同的numpy.pi得到的值是3.141592653589793。是否有可能像python中的Fortran那样获得浮点精度？已尝试float128，但不起作用。任何建议都将受到高度赞赏。

浏览 1提问于2018-03-24得票数 0

1回答

对于不同的精度，浮点类型是“嵌套的”吗？

precision

我目前正在用python编写科学代码。这段代码使用了几种不同类型的浮点精度，即半精度、单精度和双精度(使用numpy)。然而，我的问题更一般，因为它不是特定于python的。问:这些精度是否“嵌套”，即任何数字在较低精度下都可以精确表示(即没有近似值)，在较高精度下也可以精确表示。另一种说法:当转换为更高精度时，我是否更改了浮点</em

浏览 37提问于2021-11-17得票数 0

回答已采纳

2回答

浮点数的“写()”输出精度

chapel

使用writef()，我可以控制浮点数的输出精度，例如：但是，如果我为了方便而使用writeln()，则输出的数字为6位数：是否有一种方法可以控制writeln().的</e

浏览 2提问于2019-01-23得票数 5

回答已采纳

1回答

与RDD和DataFrame不同的浮点精度

apache-spark、pyspark、spark-dataframe、rdd

我将RDD更改为DataFrame，并将结果与我使用read.csv导入的另一个DataFrame进行了比较，但浮点精度与这两种方法并不相同。谢谢你的帮助。 oi.product_id order by o.date, oi.product_id') 是一样的吗

浏览 0提问于2018-01-26得票数 5

回答已采纳

1回答

在Python中，为什么最小的浮点值和最大的浮点值有不同的有效位数？

python、python-2.7

我刚刚在一本机器学习书中读到，浮点变量的最小非零值是2.2250738585082014x10^-308，最大值是1.7976931348623157x10^308。对此有何解释？为什么正指数和负指数的值不一样？

浏览 16提问于2019-04-28得票数 3

回答已采纳

2回答

有没有一种方法可以在Python中设置不同于double的默认精度？

python、scipy、precision

我知道Decimal，但是我正在使用其他人编写的大量代码，我不想通过大量的代码来将每个浮点数的初始化更改为Decimal。如果有某种包可以让我把SetPrecision(128)或类似的东西放在我的脚本的顶部，然后去看比赛，那会更方便。我怀疑不存在这样的东西，但我想我会问一下，以防我错了。为了避免XY问题的评论，我正在求解被认为是正不变的微分方程，并且有一个平衡在1e-12数量级的量变成了负数，而不管我指定的

浏览 1提问于2020-01-26得票数 0

6回答

在python中模拟单精度浮点的正确方法？

python、floating-point

在python中模拟单精度浮点的最好方法是什么？(或其他浮点格式？)只使用ctype？

浏览 1提问于2010-02-10得票数 38

回答已采纳

2回答

什么是浮点数，我的想法正确吗？

python、floating-point

我知道int是实数，double基本上是两个中间带点的数字，是小数吗？现在出现了一个棘手的问题，即float数据类型。我觉得浮点型是一种安全的数据类型，你不确定并且想要接受整数和小数，我说的对吗？是不是既接受整数又接受小数？对于任何努力理解的人来说，这是我的计算器的代码，它可能会有所帮助。

浏览 2提问于2018-07-21得票数 1

1回答

打印python浮点数为单精度浮点数

python、python-3.x

在Python 3中打印浮点变量时，如下所示：产出如下：在标准库(而不是Numpy)中是否有一种简单的方法可以以32位浮动精度打印相同的内容？(或更一般的任何精度)编辑结果应该是一个字符串，就像str那样，但是精度有限，例如:上面浮点

浏览 4提问于2014-08-12得票数 1

回答已采纳

1回答

关于x87 FPU的精度

assembly、fpu、x87

在Intel IA-32软件开发人员手册中。x87控制字的8位和9位决定了浮点计算的精度.默认的精度是双扩展精度。在执行指令"FINIT“后，精度被设置为双浮点数。问题是，在执行"FINIT“之后，x87 FPU只使用80位数据寄存器中的64位来计算。并且FPU不能接受(输出)双扩展精度浮动值(从(到)内存).是这样的

浏览 0提问于2013-12-22得票数 0

回答已采纳

1回答

输出训练模型后Tensorflow OD API - pipeline.config的变化

tensorflow、object-detection-api

在完成培训之后，我使用以下命令导出冻结的图形：--input_type image_tensortrained_checkpoint_prefix C:\TF_train\models\model\model.ckpt-7200 ^在输出文件夹中，但是当我打开它并与原来的(用来训练模型的)比较时，我看到一些字段被改变了

浏览 4提问于2019-08-20得票数 0

回答已采纳

3回答

Python中的浮动限制

python、floating-point

我正在用python写一个程序。sys.setrecursionlimit(1500)对于N= 1000，M=1和N= 1000，M=2，它给出了相同的答案在搜索时，我发现浮动的限制超过了10^400。我的问题是如何克服它

浏览 0提问于2012-01-08得票数 3

1回答

有可能解决MATLAB和Python之间的滤波器舍入误差吗？

python、matlab

我正在尝试将一些Matlab代码复制到Python中，目前我正在开发一个单元测试来检查等价性。在下面的代码中，我得到了E-11顺序的错误，这表明它可能是一个舍入错误。Matlab代码：x = 1:100000;y = filter(b, 1, x);Pythonsignal.lfilter(mat_data('b'), 1, mat_data

浏览 21提问于2018-12-13得票数 1

1回答

Struct.unpack(struct.pack(浮点))有舍入错误吗？

python、floating-point、pack

在测试我的库时，我发现当生成数字并将其解析回浮点时，测试就会失败。浮点数不应该像内存中的浮点数一样表示吗？

浏览 2提问于2016-09-21得票数 1

回答已采纳

2回答

使用scipy.io.loadmat()读取浮点值-位是否准确？

matlab、scipy

我想将单精度浮点值从Matlab/Simulink转移到我的Python脚本中。Matlab/Simulink中的数据被保存到V7 MAT文件中(这样我就可以使用scipy.io.loadmat())。这些浮点值可以在Python字典中的loadmat()之后找到。我的问题是，我在Python中得到的

浏览 1提问于2016-10-21得票数 0

2回答

浮点数精度

python、floating-point

Python中的浮点数的精度是多少？它总是双精度的，还是它的实现或特定的平台？它在CPython和PyPy上有区别吗？

浏览 3提问于2017-02-01得票数 2

回答已采纳

点击加载更多