我看过很多书，说你应该在货币相关的算术中使用十进制浮点数。
据我所知，浮点数和小数浮点数的区别在于指数部分的基数是什么，浮点数使用2作为基数，小数浮点数使用10。当使用小数浮点数时，您仍然会有舍入误差，您仍然不能表达1/3(如果我错了，请纠正我)，我猜很有可能将某人的账户余额乘以30%，然后发生舍入误差，经过几次计算，舍入误差可能会传播得更严重。除了更大的数字范围之外，为什么我要在金融算术中使用小数浮点数
浏览 2提问于2014-11-06得票数 4
在c++中，浮点数x= 131071.3330 10001111 11111111111111111010101
它可以读取为十进制数131071.328125，但输出为131071.335938
浏览 0提问于2019-04-21得票数 2
当处理大于Long.MAX_VALUE的整数时，为什么要有人在双倍上使用BigInteger对象？一个长的最大值是2^63 -1，而一个双的最大值是~1.7*10^308.如果只使用一个整型，而不是为这个数字创建一个完整的对象，那么只使用一个偶数不是更容易使用更少的资源吗？
浏览 3提问于2015-07-30得票数 2
回答已采纳
生成的曲线图为：
我看到误差很小，所以可能是舍入误差，但它似乎也累积了，这让我很担心。
浏览 21提问于2018-12-13得票数 1
根据Doug Crockford的博客“数字是64位浮点数”，但我不得不使用单个浮点数来移植C++算法，它计算单精度浮点数的误差。
浏览 11提问于2010-10-31得票数 9
回答已采纳
我刚刚开始了python教程。为什么在python中打印19而不是20 ?？整数做了一些舍入，但我无法理解。我们很感激你的帮助。
浏览 7提问于2015-01-05得票数 2
回答已采纳
2回答
C示例：以十六进制格式导出浮点数可防止舍入误差。虽然舍入误差通常可以忽略不计，但能够准确地恢复保存的值仍然是有利的。如何使用'a‘说明符在Fortran中导出和解析浮点数？
浏览 4提问于2015-01-28得票数 1
2回答
我们有一个成本C，它必须分配给部门1..n。另一种计算产生每个部门的份额，它是一个从0到1的数字，小数位数超过5位。所有部门份额的总和恰好是1，但它们不一定相等。过于简单的示例:C= 33.34，4个部门，每个部门恰好占0.2500的份额。因为33.34x0.25= 8.335，所以你可以看到两个
浏览 1提问于2009-12-01得票数 1
回答已采纳
;echo -478.35+478.32+0.03;-0.34999999999999我不明白为什么，我尝试了(浮点数
浏览 2提问于2014-04-03得票数 2
1回答
我做了一个排列和组合计算器。查找数字阶乘的代码是： total=1; return total; else{ total*=i; return total;} answer.innerHTML="Answer: "+factorial(n)/factorial(n-r);
如果我做了55P9，我的答案是.5 off。如果我使用Math.floor()，一切都会正常
浏览 1提问于2016-05-21得票数 0
回答已采纳
5回答
我不明白为什么浮点值不同于双精度值。从下面的示例中可以看出，对于相同的操作，float提供的结果与double不同： double a = 99999.8d; System.out.println(a + b);
float b2 = 99999.65f;
System.out.pr
浏览 1提问于2012-07-20得票数 14
回答已采纳
在前面的问题中，有一个等式：这不是0，而是：我理解为什么会发生这种情况，因为4/3不能准确地表示出来。1.3333333333333332593184650249895639717578887939453125现在，我在理解这些涉及e的等式中的奇怪行为时遇到了麻烦 b = 1e-16 + 1 - 1e-16;
这里我们期望b等于c，但事实并非如此。我知道在操作顺序和错误方面有
浏览 3提问于2016-02-10得票数 0
1回答
我想知道为什么会输出以下代码：$b = round(log(5, 5));var_dump($a);echo 'b: ';echo '<br>';这b: float(1) 感谢任何能向我解释这一点的人。
浏览 2提问于2012-11-27得票数 1
回答已采纳
它特别提到“C标准规定，一个浮点数必须能够表示至少六个有效数字……一个浮点数必须准确地表示前六个数字，例如，33.333333”。这对我来说很奇怪，因为它听起来像是一个浮点数可以精确到六位数，但事实并非如此。1.4存储为1.39999...诸若此类。您仍然有错误。那么，为什么书中说浮点数精确到六位数，以及亚正常与常规舍入误差</em
浏览 1提问于2019-02-01得票数 3
我尝试用Scipy和EXCEL来计算贝塞尔函数，但他们给出的结果不同。你知道为什么吗？提前谢谢。import scipy.special as ss
print(result)=BESSELK(0,2155481626213; 1)来自Excel的结果是4,405746474969860。
浏览 5提问于2021-01-06得票数 0
4回答
在C中对float类型的描述中提到有效位数是6。然而，然后使用printf()打印它并不打印12345.6，而是打印12345.599609。那么，对于浮点类型，"6个有效数字“(如果是double，则为"15”)意味着什么呢？
浏览 2提问于2012-10-10得票数 9
回答已采纳
1回答
我正在寻求对numpy浮点数的“分辨率”参数的更多理解(我想任何计算机定义的浮点数都是这样的)。precision=15 resolution= 1.0000000000000001e-15min= -max
numpy文档指定：“分辨率：(适当类型的浮点数分辨率源于精度，但不幸的是，这个定义是圆形的“精度(int)：这种浮点数精确的十进制数字的近似数”( )。我知道浮点数只是实数的有限表示，因此它们的表示有误差，而精度很可能是衡量这种偏
浏览 0提问于2015-09-08得票数 5
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
即时通信 IM
腾讯会议活动推荐
腾讯云开发者
