1回答
下面是一些可能出现问题的示例代码：{
CGSize superViewSize = self.superview.bounds.size;
浏览 1提问于2013-01-17得票数 1
回答已采纳
3回答
如何在不使用算术运算符的情况下进行乘除？我读过类似的问题，但我仍然有乘除的问题。
另外，如果不使用数学函数，如何计算平方根？
浏览 1提问于2011-12-08得票数 2
回答已采纳
2回答
4.我对这个问题感到困惑。一个双精度值作为输入，比如7.2，现在输出将是7.3和8。如果输入是7.2.3，那么输出将是7.2.4和7.3.3。
浏览 1提问于2015-06-04得票数 0
1回答
有人说从gcc 4开始会自动启用sse选项，但也有评论说sse不支持乘除。我想知道这个等式是不是：实际上，我发现x86_64中还有8个新的寄存器。这会导致一次进行8次浮点操作和4次双精度操作吗？
浏览 5提问于2012-09-28得票数 0
回答已采纳
我有以下问题。 JavaScript计算在小数点后的末尾给出额外的数字。 后端验证时，JavaScript计算和PHP计算不匹配。
浏览 13提问于2019-05-11得票数 2
2回答
我有个问题。今天我试着创建一个代码，用来查找加泰罗尼亚编号。但是在我的程序中可以是很长的数字。我找到了分子和分母。但是我不能对长数字进行除法！此外，只有标准库是必须在此程序中使用的。请帮帮我。
浏览 1提问于2011-01-16得票数 1
1回答
我在我的JS中遇到了下面的错误。而不是返回1001，而是返回1000.99999999。我正试图根除这个bug，并且一直在考虑使用这个库。我不知道该怎么办才能解决这个问题。var x = new Big(10);这会产生与没有库的错误相同的错误。
浏览 2提问于2017-09-26得票数 1
回答已采纳
如果我这样做了，我将来会遇到什么问题吗？在代码上做更多的测试，如果我使用numba来迭代这些数据，那么32位的性能会稍微慢一点。
浏览 0提问于2015-01-30得票数 1
在Javascript中使用乘除分数的最好方法是什么？我能够找到一个名为sylvester.js的库，用于一些矩阵数学运算，但仍然无法找到任何用于查找内核的javascript实现。作为我实现的一部分，我需要能够可靠地将分数相乘。我考虑过舍入到一定的精度，但对此感到不安，并开始重写代码，只使用整数，只需将所有内容乘以一个设置的数字，这样我就不必使用分数。不过，这似乎仍然不是最好的方法。我该怎么办？我想以这样一种方式编写正在执行的操作，而不仅仅是处理浮点数学被破坏的问题。我的问题不同于“浮点数学有问
浏览 1提问于2016-06-20得票数 0
我在我的代码中使用了Math.pow()函数，但是当我尝试执行下面的条件时，这个函数返回了不需要的无穷大。我正在寻找一个替代的解决方案。如果任何人有任何想法，请帮助
浏览 1提问于2017-08-04得票数 0
我已经读过SQL decimal类型，以及做乘除时的精度和小数位数，但我仍然不能理解： select cast(7 as decimal(25,13))*cast(15 as decimal(25,13
浏览 43提问于2020-06-17得票数 0
回答已采纳
4回答
我正在做floats和ints的乘除运算，忘记了隐式转换规则(问题中的单词对于谷歌来说似乎太模糊了，比在这里问得更快)。
如果我有两个int，但我想做浮点除法，我是否只需要转换其中一个或两个操作数？
浏览 64提问于2010-11-04得票数 23
回答已采纳
在MySQL数据库中，以下字段fee和rate(百分比)为DECIMAL类型，小数精度为2。SELECT ROUND(fee * (1- rate/100))),2 ) as profit既然query只是返回值，而不是将它们保存在变量中，那么精度问题*是否仍然存在( PHP或JS附带的)？如果是这样，最好在PHP或JS中对浮点数进行舍入？
*是的，我指的是保存双精度时出现的精度问题，例如1.5可能会保存为1.4
浏览 3提问于2015-07-28得票数 5
1回答
这会造成问题吗？频率卷积:注意顶部/左侧的填充。
下面是创建问题的最简单的代码。100%numpy/scipy/matplotlib。此外，频率滤波图像的偏移很可能会导致问题。我的教授已经检查了我的代码，没有发现任何问题。她的建议是继续使用频率滤波图像，而不是空间滤波图像。我在dsp.stackexchange.com上也有类似的问题：
浏览 1提问于2011-10-28得票数 6
1回答
如上所述，我对乘除大数的程序很感兴趣。我几乎不是一个编程新手，所以我还不能自己准备这样的算法，我在google上也找不到任何东西。作为一个次要的问题，将两个数字乘以一百万个以上的数字所需时间的大致估计是多少？
浏览 12提问于2017-03-31得票数 0
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
腾讯会议
云直播
对象存储活动推荐
腾讯云开发者
