3回答
Swift中的整数除法似乎是向零取整，而不是向较低的数字取整。例如，这意味着-1 / 2将是0而不是-1。
有没有办法告诉Swift四舍五入到更低的数字？
浏览 3提问于2014-09-16得票数 7
1回答
我在谷歌上找到的所有东西都表明，下面的任一项都会将双精度数向下舍入到小数点后两位。double的值是3.3743984E7，结果是相同的。怎么了？
浏览 1提问于2012-12-19得票数 1
这是因为'a‘的值是1e18。但理想情况下，'a‘应该是(1e18+1)。请帮帮忙。
浏览 20提问于2019-08-10得票数 1
回答已采纳
1回答
我使用它来回显两个日期之间的间隔天数，但第二行回显了一个浮点数。
echo (mktime(0,0,0,10,27,2013)-mktime(0,0,0,8,18,2013))/(3600*24).'
浏览 1提问于2013-09-27得票数 0
在我们的数据库中，时间以秒为单位存储。我需要拉出时间，并转换为小时，最多2位小数。我有下面的sum (CAST(vt.TIMEINSECONDS AS decimal(10,2))/3600)作为AMOUNT_TAKEN
在大多数情况下，它是有效的，但有时它会显示39.9999998小时而不是40小时，并且在我运行的报告中，由于时间上的原因，它会导致问题。
浏览 0提问于2017-04-27得票数 0
2回答
将fpu切换为单精度
、、、、
我在fpu之前几年读到过，当切换到单精度模式时，除法和sqr的速度是正常模式的两倍。它仍然是这样的吗?这样的切换可以加快一些循环的速度，使内部产生大量的浮点代码？与第二个问题相关，例如，当进行系统(winapi)调用时，我可以在代码中自由地玩弄FPU精度吗，与fpu取整模式和系统端一样，api是否也会破坏我对它的设置？
浏览 2提问于2012-10-03得票数 3
我正在查看可以在此中看到的SNMPBEECodec我感兴趣的一个片段 int temp我想知道为什么要使用Math.floor()而不是像temp/256那样简单的整数除法。看起来简单的整数除法也会得到同样的结果。还是有技术上的差异？
浏览 0提问于2013-01-22得票数 18
回答已采纳
我正在执行一些计算并将结果插入到数据库中。Decimal edcut = rrp * edpercentage;
老实说，我对数字一窍不通，整个数学函数都是我在大学里尽量避免的。谁能告诉我怎样才能使这些数字向上取<e
浏览 12提问于2010-11-12得票数 11
回答已采纳
2回答
Python2有两个除法运算符：/和//。有没有不是这样的时候？如果不是，为什么Python2会包含两个做同样事情的操作符？
浏览 0提问于2016-05-07得票数 9
回答已采纳
3回答
如何在jq-1.5-1-a5b5cbe中对数字进行取整、取整、取整和截断？例如，对于{"mass": 188.72}，我想要带地板的{"mass": 188}，带天花板和圆形的{"mass": 189}。四舍五入示例：5.50 --> 5 or 6截断示例：5.50 -->
浏览 28提问于2019-11-27得票数 3
回答已采纳
在python中调用.describe函数时，如何规范化列？我想要两位小数的输出。
浏览 7提问于2018-08-15得票数 1
1回答
我正面临着一种奇怪的情况，在同一台机器上的同一个程序执行相同浮点值的Round()并不总是产生相同的结果。起初，我认为它一定是因为有点翻转或其他原因而出现故障，但它总是回来。现在，它也开始在一台完全不同的机器上发生。糟糕的结果很少出现，大约是一周一次。当他们这样做的时候，他们似乎一直在发生，直到程序重新启动。然而，这可能只是一个巧合。到目前为止，我还不能随意复制它。我考虑添加的一个检查是，Round是否一直指向相同的内存地址。还有其他
浏览 38提问于2021-01-03得票数 2
回答已采纳
2回答
我有以下函数，用于在Java中对双精度值进行舍入：}double d = 7.3149999999999995;但是，当函数返回时，返回的值是我在文档中搜索，看看为什么bd.SetScale会有这种行为，但没有成功。
有人能解释一下为什么会发生这种情况吗？非常感谢！
浏览 0提问于2012-09-29得票数 1
回答已采纳
1回答
0) {
var degree = longitude / 100 | 0; //除100后取整0) {
var degree = longitude / 100 | 0; //除100后取整>= 0) {
latitude = l
浏览 5提问于2014-02-27得票数 0
回答已采纳
1回答
我以为这会是自动的：我需要计算一个文件下载的KB数量(大小是整的)。在常规Java代码中，相同的计算将截断小数部分的并返回剩余的整数。但是，在JSF中，不存在截断除法，因此该除法返回一个float。无论如何，它是如何在EL
浏览 8提问于2012-06-04得票数 1
回答已采纳
我正在研究如何做一个高效的FPGA项目(朝着ASIC设计的方向)，其中包括简单的32位二进制数的除法运算。
我发现最快的方法是使用LUT (查找表)，而不是生成复杂的除法逻辑。这很好，但是，当我想到ASIC时，我想象一个物理微芯片，里面有数字逻辑，我不能想象把一整张表放在里面来产生除法。我可以理解它在FPGA中是有意义的，因为它有很多资源，包括片上存储器等，但不是在一个明确
浏览 9提问于2016-11-10得票数 0
我试图将数字向下舍入，而不考虑小数点后的值。这样做的目的是从整个数字中减去四舍五入的数字，以将小数分离为新值。Double.parseDouble(splitter2);
double finfracti = splitdeci * 8;
我想做的是把结果变成整数和我尝试过的一切都运行得很好，直到我得到一个向上取整而不是向下取整的</e
浏览 1提问于2012-05-05得票数 2
回答已采纳
1回答
本文讨论了CUDA对浮点舍入模式的处理，here和各种内部函数(如__fadd_rn )可用于执行四舍五入的浮点选项(在本例中为四舍五入)。 但是，如果我想切换代码块的舍入模式，这就变得很笨拙了。在主机端，我可以使用fesetenv and friends为线程设置浮点取整模式。 有没有办法为流或内核设置CUDA的浮点取整模式？
浏览 55提问于2021-05-09得票数 1
1回答
与使用epsilon进行浮点数比较相比，您是否可以通过将两个浮点数四舍五入到所需的精度来可靠地比较它们的等价性？
浏览 2提问于2015-08-21得票数 0
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
实时音视频
对象存储
即时通信 IM活动推荐
腾讯云开发者
