在Python2.7中，我需要将高精度浮点数(比如来自numpy的np.float64或来自Decimal模块的decimal )记录到一个二进制文件中，然后再读回来。我怎么能做到呢？我想只存储一个高精度浮点数的位图像，没有任何开销。提前感谢！
浏览 3提问于2013-12-03得票数 0
我在Javascript中有两个高精度和低精度的浮点数(事先不知道)，例如：12.1536461312.154
浏览 8提问于2015-03-17得票数 0
回答已采纳
2回答
我正在尝试学习Clojure，并尝试定义这个简单的函数：#'user/triple33.0300000000000002
浏览 0提问于2012-02-29得票数 2
3回答
需要在高精度的80位浮点数中计算sqrt((long double)a)*sqrt((long double)b)。
举例说明。哪种win32 C/C++编译器可以管理80位浮点运算？
浏览 1提问于2011-08-11得票数 1
回答已采纳
我正在使用Koen Vos在“快速实现伯格方法”中提出的方法制作一个C#版本的伯格算法。 我使用GNU Octave arburg函数将结果与进行比较。当我在C#代码中对内部变量使用decimal时，测试结果几乎相同(精度为0.0000000000001)，但当我使用double时，测试结果有很大不同(精度为0.01)。* x = sin( 2 * pi() * t / (512 / 5.2));* [a, v, k] = arburg(x(1:512), 4)
*/ C<
浏览 12提问于2019-09-13得票数 2
回答已采纳
对于确定性，假设我正在编写一个高精度浮点数，它在内部使用一个或多个double值来存储高精度数字。从数学上讲，该类的x < y定义已经定义了所有其他运算符(如果我与比较运算符的通常语义一致的话)。注:我标记这个问题c++，因为这是我所理解的。请用那种语言写例子。
浏览 4提问于2015-08-16得票数 8
1回答
是否有任何方法可以在SQL中存储十进制值，而不需要额外的尾随零(如浮点数据类型格式)。2.500000001.853333102.51.8533331
是否有可能以最高精度以上述预期格式存储值？
浏览 0提问于2020-12-17得票数 1
1回答
我试图创建一个数据库驱动的网站与PHP和数据存储在一个PostgreSQL数据库，(与PDO访问)，我将需要存储和操作高精度的十进制数字(在某些情况下，超过20个数字后的小数)。我计划在我的数据库中使用数字或十进制数据类型来存储这些数据，以便保持所需的高精度。谢谢!
浏览 1提问于2011-12-13得票数 7
回答已采纳
问:这些精度是否“嵌套”，即任何数字在较低精度下都可以精确表示(即没有近似值)，在较高精度下也可以精确表示。 另一种说法:当转换为更高精度时，我是否更改了浮点数的值？
浏览 37提问于2021-11-17得票数 0
回答已采纳
2回答
它是直接放在C double之上还是什么，或者它也使用了一个更精确的修改后的实现？(显然不是任意精确度。;D)
浏览 4提问于2010-07-08得票数 1
回答已采纳
我尝试了df.astype("str")和df.applymap(str)，但都使用了比display.precision设置更高精度的浮点数。
浏览 0提问于2017-07-07得票数 0
2回答
我有一些执行高精度算术的C代码，这些算术是由gcc(gcc (GCC) 4.4.4 20100726 (红帽4.4.4-13))编译的。.frequency_value =(浮点数)current_freq；(gdb) p(浮点数)current_freq $1 = 622.079956
有没有人能解释一下，为什么gcc的计算结果和gdb的
浏览 1提问于2011-09-09得票数 2
回答已采纳
2回答
考虑以下设置：{} InnerStruct;
{} OuterStructfloat TestFunc(OuterStruct *b) float a = 0.0f; a += b->c[程序集用于我的测试循环:ㅤㅤㅤㅤㅤㅤㅤㅤㅤㅤ程序集用于原始循环：
lwz r9,-0x725C(r13)
浏览 21提问于2022-11-18得票数 0
回答已采纳
您将如何比较从Cpp端发送到QML函数的浮点数和双面值？如果我想像下面提到的那样进行高精度的比较 return fabs(a - b) < EPSILON;如何在QML ?
浏览 2提问于2017-07-24得票数 1
回答已采纳
1回答
数组中的每个单元格都包含一个高精度的浮点数(例如0.0000000000000123344)，并且这些数组相互传递值以进行某些计算。我想知道在一个巨大的数组中存储浮点数的最大允许大小是多少？谢谢。
浏览 2提问于2014-04-22得票数 0
回答已采纳
1回答
CUDA上的高精度浮点数
、、、
希望还没人问过这个问题，但是...有没有什么简单的方法可以让高精度的浮点数( 1024位精度)在CUDA上工作，而不需要从头开始编码？
浏览 2提问于2011-11-03得票数 1
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
云直播
腾讯会议活动推荐
腾讯云开发者
