我想调用一个具有double参数和int精度的函数。例如：function(1.23432, 4)必须用4个小数(1.2343)对这个数字进行四舍五入。有人能帮我解决这个问题吗？
浏览 0提问于2018-03-21得票数 0
回答已采纳
最初，我认为这可能是因为SSE中的所有操作都是浮点形式的，但浮点应该能够存储e+08级的数字。
我正在试着找出我可能会出错的地方，但似乎找不到答案。
浏览 3提问于2010-06-01得票数 5
回答已采纳
例如，假设我有基数8中的数字12.24 (基数10中的10.3125)，我希望将这个数字相加到1的精度点，从而得到12.3。
浏览 1提问于2021-07-21得票数 7
回答已采纳
我所知道的解决这个问题的方法是：
如有任何建议，敬请谅解！
浏览 7提问于2017-10-21得票数 1
我试图在Objective-C中将字符串中的所有数字相加，但我无法计算出它。NSString *number = @"234454875657";
如何一次提取一个数字，然后将它们相加？此外，如果字符串很短，您可以获取intValue并使用% 10，然后除以10来将所有数字相加，但如果它是一个长字符串，并且只有Double可以容纳它，该怎么办？%不适用于双精度值。
浏览 2提问于2011-12-04得票数 0
回答已采纳
1回答
我有一个奇怪的问题，在ng-bind中使用数学表达式时，结果是意想不到的。根据我的实验，只有当被加数的第一部分大于15，第二部分仅为1.112时，才会出现这个问题。
浏览 3提问于2012-12-03得票数 0
回答已采纳
2回答
我的代码中有问题，因为相同的浮点数可以有多种表示形式。例如，这些数字被认为是相同的：
privatestatic float Rounding(float v, float p) return Mathf.Round (v * p) / p; 其中p是我的精度。这似乎很好，但在这种情况下，如果我使用p= 1e7，第一个
浏览 2提问于2012-03-30得票数 2
回答已采纳
1回答
双精度？
、、、
我有一种情况，我向一个方法发送一个数字，它将这个数字除以6，并返回一个列表，其中数字6除以n个项目。我从dictionary.count中提取除数，并将返回列表与从中提取它的字典组合在一起。下面的数字返回一个索引比从更大的项目中提取的needed...13,15,18,23,25,20,27,28,30.....The代码少1的列表。最后一行应该始终是6，但它是我提到的数字。我认为这是一个舍入问题，但我在本例中没有使用舍入。有什么想法吗？谢谢。
浏览 0提问于2013-02-24得票数 1
回答已采纳
据我所知，float可以精确地表示14个数字。564214623154我们将这个c=a*b相乘，它应该是30609771735350808，但当编译它时，它显示3.0609771735351E+16，所以据我所知，它应该会失去一些精度，但当我用c除以c/a时，我得到了564214623154的准确结果，而没有任何精度损失c = 30609771735350808
d = 30609761111111111e=c-d应为10624239697，但在编译时显示为10624239696
浏览 1提问于2011-07-13得票数 2
回答已采纳
我在sql(sql server management studio)的计算中遇到了很大的问题。我有一个变量声明@KursEur十进制(32，10)= 4.2617000000我需要将数据库中的值与一个变量相乘的结果，该变量在点精度之后有10位。
浏览 0提问于2020-10-09得票数 2
回答已采纳
2回答
int function(uint32_t *r, const uint32_t *a, const uint32_t *b, int n) int i; for (i = 0; i < n; i ++) ri = a[i] + b[i] + c; r[i] = ri; return ((int) c);下面给出的C函数有四个参数: r、a和b是指向uint32_t类型数组的指针。整数n指定这些数
浏览 0提问于2014-03-01得票数 0
2回答
我正在为iphone和ipad编写一个应用程序，我的程序需要将两个双精度值相加才能得到一个双精度值。问题是，当其中一个双精度值相当大(例如: 2^100)而另一个很小(如1或2 )时，将这两个双精度值相加的结果是错误的，或者它甚至不执行加法。有没有人知道为什么会这样，有没有办法绕过它。谢谢。
浏览 0提问于2011-09-23得票数 1
因此，我尝试从特定文档中获取数字，并将它们放在双精度格式中，然后将这些值相乘或相加，但首先，我需要从firestore中检索它们。
浏览 10提问于2020-12-25得票数 0
回答已采纳
你好，我正在尝试用vb.net做一个简单的计算器，但我有一个小问题。问题是当我将两个数字相加时，比如4.3+1，当我使用点来表示双数字时--> 4.3.它工作得很好。但是当我使用逗号指定双精度时，比如--> 4,3，它不会读取像43这样的数字，而不是4,3，这是我的代码：
Label3.Text = Val(CDbl(TextBox1.Text)) + Val(CDbl
浏览 0提问于2017-12-09得票数 0
我准备在这种情况下失去一些精度，所以我将使用divide(...)方法，它允许提供结果的小数位数：
five.divide(fourPointTwo, 2, RoundingMode.HALF_UP);
浏览 1提问于2011-12-19得票数 1
回答已采纳
3回答
我为数值模拟编写的程序有问题，乘法也有问题。基本上，我在尝试计算：这个循环上千次。我使用了一个高精度的库，它确实改善了事情，但模拟运行得非常慢(模拟花费了50倍的时间)，而且它真的不是一个实用的解决方案。从这里我意识到，真正伤害我的不是变量a，b和c的精度，而是乘法的方式。我的问题是:如何将这些括号相乘，使result1 = result2？解决了！
这是一个关于添加的问题。然而，在一个虚构的矿井塌陷模拟中，使用Kahan添加的代码需
浏览 2提问于2013-09-25得票数 0
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
实时音视频
对象存储
即时通信 IM活动推荐
腾讯云开发者
