我目前正在使用c++的股票市场相关的项目，涉及许多浮点类型，如价格和指数。
我看过很多书，说你应该在货币相关的算术中使用十进制浮点数。据我所知，浮点数和小数浮点数的区别在于指数部分的基数是什么，浮点数使用2作为基数，小数浮点数使用10。当使用小数浮点数时，您仍然会有舍入误差，您仍然不能表达1/3(如果我错了，请纠正我)，我猜很有可能将某人的账户余额乘以30%，然后发生舍入误差，经过几次计算，舍入误差可能会传
浏览 2提问于2014-11-06得票数 4
当处理大于Long.MAX_VALUE的整数时，为什么要有人在双倍上使用BigInteger对象？一个长的最大值是2^63 -1，而一个双的最大值是~1.7*10^308.如果只使用一个整型，而不是为这个数字创建一个完整的对象，那么只使用一个偶数不是更容易使用更少的资源吗？
浏览 3提问于2015-07-30得票数 2
回答已采纳
我有一些JS计算在进行。由于浮点算术通常使用数字的近似值，而不是精确值，如果将这些浮点数字舍入到固定的精度，则通常会得到一些细微的差别。当你与美元打交道时，人们不喜欢这些细微的差别。有人知道我如何做数学运算(乘法和加法)，而不引入这些来自浮点近似的四舍五入误差？我发现另一篇文章带来了同样的问题，并确认JS没有内置的十进制数据类型：。你可以看到你的JS终端626.185.toFixed(2) == 626
浏览 4提问于2012-06-11得票数 3
在c++中，浮点数x= 131071.3330 10001111 11111111111111111010101
它可以读取为十进制数131071.328125，但输出为131071.335938
浏览 0提问于2019-04-21得票数 2
我尝试用Scipy和EXCEL来计算贝塞尔函数，但他们给出的结果不同。你知道为什么吗？提前谢谢。import scipy.special as ss
print(result)=BESSELK(0,2155481626213; 1)来自Excel的结果是4,405746474969860。
浏览 5提问于2021-01-06得票数 0
在我的应用程序中，我正在做一些客户端数学运算，它经常由于浮点错误而出错。要简化问题：还有其他更复杂的例子，但我的问题是：
解决潜在浮点错误的适当方法是什么？
浏览 2提问于2014-02-28得票数 1
2回答
我正在测试一些代码，一个涉及使用浮点值的计算的数字-通常是非常大的浮点值。我有一些通用的(C++模板化的，但对于这个问题来说这并不重要)代码，它将我的输出与它们的期望值进行比较，无论是标量还是数组。我面临着为我正在测试的各种函数选择精度阈值的问题，至少对于两种C/C++浮点类型float和double是如此。就像一样，对于比较浮点值，也没有万能的方法，也没有完全基于数据类型来拟合和计算的单一精确值:相对误差和绝对误差，可能会放大浮点舍入误差的
浏览 2提问于2016-05-06得票数 1
1回答
我做了一个排列和组合计算器。查找数字阶乘的代码是： total=1; return total; else{ total*=i; return total;} answer.innerHTML="Answer: "+factorial(n)/factorial(n-r);
如果我做了55P9，我的答案是.5 off。如果我使用Math.floor()，一切都会正常
浏览 1提问于2016-05-21得票数 0
回答已采纳
我使用它来查找事实(100)的所有数字的总和，它给出了正确的输出，即648。 r=fact%10 fact=fact//10
但是，在使用相同的脚本并将//替换为math.floor()函数时，我获得了675作为输出。 r=fact%10 fact=floor(fact/10)
请帮我理清这个异常现象。据我所知，N//x和math.floor()是可以互换的。
浏览 0提问于2019-04-21得票数 0
1回答
基于矩阵乘法的sse精度误差
、、、、
这两个矩阵元素都是浮点类型的。没有内存分配问题。矩阵大小被输入为4的倍数，例如: 4x4或8x8等。答案通过顺序计算得到验证。一切正常工作，直到64x64的矩阵大小。
浏览 4提问于2014-05-11得票数 1
回答已采纳
1回答
我最近在使用浮点数，我意识到了一个我没想到的关于浮点数的东西。我好奇的是，为什么浮点误差乘以10就消失了。通常的算术规则表明浮点误差会被传播，但实际上并没有发生。为什么会发生这种事？有什么办法可以避免吗？
浏览 3提问于2020-03-01得票数 2
回答已采纳
我已经并行化了一个简单的计算函数积分的简单代码。我把它和函数y=2*sqrt(1-x^2)从-1到1一起使用，这个积分等于Pi。顺序算法是： int i; double step = 1.0/ (double) STEPS;
for(i=left_bound*STEPS; i<right_boun
浏览 0提问于2017-05-19得票数 0
回答已采纳
9回答
我听说过在使用浮点变量时出现“错误”。现在我正在尝试解决这个难题，我想我得到了一些舍入/浮点误差。所以我终于要弄清楚浮点错误的基础了。double p_2x_success = pow(1-p, (double)8) * pow(p, (double)2) * (double)choose(8, 2);
这是一个浮点错误的机会吗
浏览 0提问于2008-10-30得票数 37
1回答
不稳定希尔伯特矩阵单位向量
、、、、
设H(n)是n阶的希尔伯特矩阵。让e_im := H(n) * e来吧。设r = (r_1,...,r_n)是一个小的随机向量。我使用了一些计算机代数系统来解决H(n) * x_2 = (e + r)_im问题。我使用numpy和scipy.linalg
浏览 0提问于2015-11-09得票数 1
我刚刚开始了python教程。为什么在python中打印19而不是20 ?？整数做了一些舍入，但我无法理解。我们很感激你的帮助。
浏览 7提问于2015-01-05得票数 2
回答已采纳
有没有可能在Javascript中以某种方式模拟单精度浮点？根据Doug Crockford的博客“数字是64位浮点数”，但我不得不使用单个浮点数来移植C++算法，它计算单精度浮点数的误差。
浏览 11提问于2010-10-31得票数 9
回答已采纳
2回答
有没有人能解释/理解单线程/多线程模式下计算结果的差异？#include <iomanip>#include <ppl.h>
{ start = clock(
浏览 1提问于2014-12-29得票数 3
1回答
我们有一个API，以欧元作为字符串返回价格，例如2.55或0.035。但是，我们的数据库以美分保存，因此我编写了一个非常简单的方法，通过以下操作将其转换为美分所以对于这个代码结果应该是255，对吧？但不知何故，它是254。您可以简单地在您的CLI上测试这个
php -r "echo (int) ((float) '2.55' * 100)
浏览 0提问于2018-03-07得票数 1
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
实时音视频活动推荐
腾讯云开发者
