2回答
C++双精度不能等于两个整型除法
c++、double、division
我有点纠结于这个问题：double c = a / b;这将输出以下内容：为什么？double aa = a,c = aa / bb;2.5
浏览 0提问于2016-12-25得票数 0
4回答
std::pow给出了一个错误的分数指数近似值
c++、c、numerical-methods
这就是我想要做的 double pow=1/3;结果是0，但我期望是0.4465
浏览 0提问于2009-10-16得票数 6
回答已采纳
3回答
C++与Lua的简单数学计算差异
c++、math、lua
我是一名Lua开发人员，但最近进入了学习C++的世界。local a = ( 4 / 3 ) * 3.1415 * ( 5 * 5 * 5 )在C++中
int
浏览 27提问于2017-08-30得票数 0
回答已采纳
3回答
双精度/浮点数的Java意外舍入
java、floating-point、double、rounding
;}
这是意想不到的结果:所有的除法都是在我没有告诉它的情况下舍入的然后在双精度不起作用后，我把它们改成了浮点数。现在我被难住了。为什么Java仍然表现得像int一样呢？
浏览 0提问于2011-09-09得票数 1
回答已采纳
3回答
在python中处理大数字时获取额外的数字
python、integer、decimal
我试过：50000000000000004529848325000000000000000000000000
浏览 19提问于2021-12-23得票数 1
回答已采纳
6回答
Java中的十进制格式？
java
有没有人能给我解释一下这个的输出： DecimalFormat first = new DecimalFormat("#.###"); String format_string = first.format(y);是这样的吗： 2但是，当我将15/7更改为它给了我正确的答案 2.143
请
浏览 2提问于2013-01-21得票数 5
回答已采纳
2回答
如何舍入Postgresql中的最小整数值？
sql、postgresql
我在“日”栏中有数据，它是通过找出两个日期之间的差异来计算的，这告诉我一个人完成一项活动所需的天数。我想以下面的方式代表专栏“日”(星期)。6天= 6/7 =0周
我试过舍入，但它被舍入到最高的整数值，而不是最小的整数值。下面是我使用的查询。
浏览 5提问于2019-09-27得票数 1
回答已采纳
6回答
在c#中，当您想要除以如下方法的结果时，强制它返回双精度值而不是缺省整数的最佳方法是什么？(int)Math.Ceiling((double)(System.DateTime.DaysInMonth(2009, 1) / 7));
如你所见，我需要除法返回一个双精度，这样我就可以使用天花板函数了
浏览 9提问于2009-01-28得票数 5
回答已采纳
4回答
我正在为学校的一个实验室工作，这个实验室运行10个10000张5手牌的跟踪。我必须在每一只手中找到同花顺和对。我必须找到每条小径的配对和同花顺的百分比。
浏览 4提问于2009-02-20得票数 2
回答已采纳
2回答
C++将浮点数与分数相乘
c++、floating-point、multiplication、fractions
刚刚从MATLAB背景中开始使用C++，并且感到困惑。
浏览 54提问于2020-06-21得票数 1
回答已采纳
4回答
Java int与Double
java、function、double、int
calc(int v1) {}
return v / 2 + 1.5;这些函数是否返回相同的结果我认为它们不会返回相同的结果，因为第二个函数会包含小数点，而第二个函数会将数字向上舍入。
对吗？
浏览 1提问于2011-05-15得票数 0
回答已采纳
3回答
在双精度数上执行操作返回0
iphone、objective-c、double
我有一个方法可以接收NSString格式的数字。这是我的方法。后面的NSLog返回值82.000000等(随着温度的变化而不断变化)。
接下来，我想使用这个double并将其转换为摄氏值。
浏览 0提问于2010-10-25得票数 0
回答已采纳
10回答
为什么除以两个int在分配给double时不能产生正确的值？
c++、variables、double、integer-division
为什么会出现在下面的代码片段中？int b = 3;c = a / b;那么为什么int/int=double不能工作呢？
浏览 0提问于2011-09-27得票数 127
回答已采纳
1回答
在Python中将float转换为bigint时，什么是防止溢出的好方法？
python、type-conversion、integer-overflow
当修剪由除法产生的大小数时，我得到一个溢出问题。>>> int(100000000000000123.1)>>> floor(100000000000000123.1)
100000000000000128 从类型上看，数字似乎是一个普通的浮点数，它不能以所需的精度存储。有没有更好的数据类型来存储‘长浮点数/双精度浮点数’？如果是，我如何强制大整数的除法</e
浏览 32提问于2019-04-17得票数 0
回答已采纳
5回答
C++整数下限函数
c++、math
我想实现最大整数函数。[“最大整数函数”是也称为floor函数的 。]我的问题是，对于更大的数字，是否会有精度损失，因为5/3会产生一个双精度？编辑:最大整数函数是小于或等于X的整数。示例：4 = 43 = 3
我想知道的是5/3会产生一个双倍吗？因为如果是这样的话，当转换为int时，我会损失精度。
浏览 12提问于2010-04-12得票数 9
回答已采纳
6回答
java中的错误划分
java
我将两个int值相除，我希望得到一个双一。但它的工作原理非常奇怪，它在除法之前有正确的值，但它没有给出正确的答案。
浏览 2提问于2010-08-24得票数 4
回答已采纳
2回答
除以1e9d是什么意思？
java、time、nanotime、datetime-conversion
这是代码片段：someTime是使用System.nanoTime()派生的。1e9d在这里做什么？
浏览 0提问于2013-12-13得票数 9
回答已采纳
3回答
舍入误差检测
c++、floating-point、rounding-error
我有两个整数n和d，它们完全可以用双dn(n)和双dd(d)表示。在C++中是否有可靠的方法来检查包含舍入错误？如果这只是一个整数除法，检查(n/d) * d==n是否能工作，但是用双精度算法可以隐藏舍入错误。
浏览 1提问于2018-05-08得票数 3
回答已采纳
云服务器
对象存储
ICP备案
云点播
语音识别
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号