如题，如图，请问为什么只有在3.8的时候math.ceil才是4.0，用一个表达式或者变量就变成了3.0呢
image.png
浏览 208提问于2021-09-20
稍后，我看到一些代码试图使用以下NSNumberFormatter格式化long。
NSNumberFormatter * sut = [[NSNumberFormatter alloc] init];
[sut setMaximumFractionDigits:20]; // also tried set to 15 or 16, not working too.
[sut setMaximumSignificantDigits:20];
NSLocale *enUSPOSIXLocale = [[NSLocale alloc]initWithLocaleIdentifier:@"
浏览 4提问于2016-05-19得票数 3
在python中调用.describe函数时，如何规范化列？我想要两位小数的输出。
浏览 7提问于2018-08-15得票数 1
#include <iostream>
using namespace std;
int main() {
double pi = 0.1234567;
cout << "1234567890" << endl;
// cout.width(10);
cout.setf(ios::fixed);
cout << pi << endl;
}
输出
1234567890
0.123457
为什么打印出来的是这个数字而不是0.123456？
浏览 2提问于2013-02-11得票数 0
回答已采纳
我需要在javascript中对一个浮点数进行四舍五入，但在caso中需要将其向下舍入为1.005。我使用函数.toFixed(2)，但这个舍入是向上的。例如
如果我有1.005并使用toFixed(2)，结果是1.01，但我需要1.00，有另一个函数可以做到这一点吗？谢谢!
已添加
我有这样的场景：
原始数|期望值
25.0010 | 25.00
25.0050 | 25.00
25.0049 | 25.00
25.0051 | 25.01
25.0090 | 25.01
浏览 0提问于2014-10-23得票数 0
1回答
我们可以将Java作为一个视角。假设我们有一个系统，它有一个有价格的商品。这个价格需要几次操作，比如说15次操作。商品的价格将被一遍又一遍地用小数点进行除法、求和、减法。让我们假设我们的系统与另一个系统对话。另一个系统也会根据价格进行操作。最后，两个系统的价格值必须完全匹配(美分)。我们是在装腔作势地谈论会计系统。根据我的经验，这两场比赛的机会是非常罕见的。我们该如何处理这种情况。是否有舍入规则？
浏览 5提问于2021-11-08得票数 0
我创建了这个简单的函数，结果返回1而不是0.5
我做错什么了？
DELIMITER //
DROP FUNCTION IF EXISTS test_decimal //
CREATE FUNCTION test_decimal(input DECIMAL)
RETURNS DECIMAL
BEGIN
SET @_credit = 0.5;
RETURN input * @_credit;
END //
DELIMITER ;
SELECT test_decimal(1);
浏览 3提问于2012-09-13得票数 7
回答已采纳
大家好。而不是每次都调用下面的方法来获得(在本例中)一个浮点数的两位小数形式--有没有更好的(更有pythonic风格的)方法？
def dec2( anum ) :
return( (math.trunc( anum*100))/ 100.0 )
谢谢，阿尔
浏览 15提问于2020-11-13得票数 0
回答已采纳
1回答
当我运行以下代码时，似乎出现了某种模糊的舍入错误：
int roundedTotal = (int)(PriorityJob * 100.0);
最初，PriorityJob = 1.4和roundedTotal是未定义的。在这一点上计算PriorityJob * 100.0会得到140。之后是roundedTotal = 139。
显然，140.0被解释为139.99999。这是浮点引擎的不足吗？我从来没有见过这样的事情。
浏览 0提问于2012-09-14得票数 5
回答已采纳
正如标题所说:使用这个数字1000000.125685，我如何在不使用number_function的情况下像1,000,000.125一样格式化它，因为该函数对小数进行舍入？ number_format("1000000.125685",3) //returns 1,000,000.126 如何在不使用number_format的情况下给出我想要的任何数字
浏览 14提问于2019-05-23得票数 0
回答已采纳
4回答
小数点后双精度
、、
在午休时，我们开始讨论double值类型的精确度。
我的同事认为，它总是在小数点后15位。
在我看来，不能说，因为IEEE754没有对此做出假设，这取决于第一个1在二进制表示中的位置。(也就是小数点之前的数字大小)
怎样才能做出更有修饰性的陈述呢？
浏览 5提问于2012-08-23得票数 6
回答已采纳
3回答
我有一个格式化大数字的函数。
public static String ToEngineeringNotation(Double d, String unit, int decimals) {
double exponent = Math.log10(Math.abs(d));
if (d != 0)
{
String result = "0";
switch ((int)Math.floor(exponent))
{
case
浏览 0提问于2012-11-17得票数 0
回答已采纳
当我在javascript中将currentTime属性的值设置为16.56时，它会自动更改为16.559999。我需要正确的值16.56。
对他改变价值有什么想法吗？
浏览 4提问于2017-02-15得票数 0
回答已采纳
1回答
我正面临着一种奇怪的情况，在同一台机器上的同一个程序执行相同浮点值的Round()并不总是产生相同的结果。起初，我认为它一定是因为有点翻转或其他原因而出现故障，但它总是回来。现在，它也开始在一台完全不同的机器上发生。糟糕的结果很少出现，大约是一周一次。当他们这样做的时候，他们似乎一直在发生，直到程序重新启动。然而，这可能只是一个巧合。到目前为止，我还不能随意复制它。顺便说一句，这一切都发生在主线程上。 我考虑添加的一个检查是，Round是否一直指向相同的内存地址。还有其他想法吗？ 2020-12-28 08:30:19.411 DBGrid1.Fields[17].AsString: 0,2
浏览 38提问于2021-01-03得票数 2
回答已采纳
我看到了pyrDown的声明
CV_EXPORTS_W void pyrDown( InputArray src, OutputArray dst,
const Size& dstsize=Size(), int borderType=BORDER_DEFAULT );
因此，我假设第三个参数dstsize可能类似于：Size(src.cols/4, src.rows/4。但正如所说：
无论如何，应满足下列条件：
因此，只有默认大小的Size((src.cols+1)/2, (src.rows+1)/2)是合法的。那么为什
浏览 0提问于2014-11-23得票数 7
1回答
与使用epsilon进行浮点数比较相比，您是否可以通过将两个浮点数四舍五入到所需的精度来可靠地比较它们的等价性？
例如：
round($float, 3) === round($otherFloat, 3)
浏览 2提问于2015-08-21得票数 0
我今天已经把我的安卓应用上传到了市场上，我收到了4个关于NumberFormatException,Double.parseDouble和Double.valueOf的错误。
下面是我在开发者控制台中看到的Logcat：
java.lang.RuntimeException: Unable to start activity ComponentInfo{can.you.drive/can.you.drive.do_drive}: java.lang.NumberFormatException
at android.app.ActivityThread.performLaunchActivity
浏览 0提问于2011-05-16得票数 0
回答已采纳
5回答
to_d始终返回拼音的两位小数
、、、、
我正在处理货币，我想把数字四舍五入到小数点后两位。即使这个数字是500.0，我也希望它是一致的500.00。当我执行"500.00".to_d时，它会将其转换为500.0。
改变这种行为的好方法是什么？我还使用此方法向下舍入到2位数，并确保它始终有2位小数。
def self.round_down(x, n=2)
s = x.to_s
l = s.index('.') ? s.index('.') + 1 + n : s.length
s = s[0, l]
s = s.index('.
浏览 1提问于2013-04-09得票数 59
我发现没有变量量词很难做到这一点。
我希望能够做一些像这样的事情
var halfStrLength = string.length /2
string = string.replace(/.(?=.{halfStrLength})/g, '*')
// replaces all but the last half of string with *
浏览 3提问于2018-05-17得票数 0
我正在使用Crystal Report XI，我已经创建了一个数据源为存储过程的报表。
存储过程获取正确的值，但在crystal report的字段中不同。存储过程中的值为: 43,859.92。但在水晶报告中是: 43,859.90。我已经格式化了水晶报表中的字段，使用格式字段-> decimals : 1.00，舍入: 0.01。我不能在存储过程中将值更改为字符串，因为我需要它来进行进一步的计算。
我的required正是DB数据。有什么建议吗？
浏览 0提问于2015-03-06得票数 1
1回答
我在谷歌上找到的所有东西都表明，下面的任一项都会将双精度数向下舍入到小数点后两位。
double roundToFourDecimals(double d)
{
DecimalFormat twoDForm = new DecimalFormat("#.##");
double myD = Double.valueOf(twoDForm.format(d));
return myD;
}
double nextLon = (double)Math.round(bnextLon * 100.0) / 100.0;
但对我来说都不管用。double的值是3
浏览 1提问于2012-12-19得票数 1
我在CSV文件中有这种格式的数据。我想有一个excel文件，其中所有大于0的值都被替换为1。现在我已经尝试了这个代码，但问题是我要么丢失了头文件(例如1960/1961年)，要么当我忽略它们时得到错误。 ? 这是我的代码跟踪。 import pandas as pd
data = pd.read_csv("first.csv")
data1 = data.apply(pd.to_numeric,errors='coerce')
data1 = (data1>0).astype(int)
data2 = data1.combine_first(
浏览 19提问于2020-01-02得票数 0
3回答
在c#中有没有一种简单的方法可以将小数舍入到最接近的四分之一，例如x.0、x.25、x.50 x.75例如0.21将舍入为0.25，5.03将舍入为5.0
提前感谢您的帮助。
浏览 1提问于2010-05-13得票数 41
回答已采纳
1回答
我如何舍入一个浮点数，例如(0.001)到1 (12.321)到13 (12.011)到13 (19.999)到20 PS:如果浮点数是12.000，我不希望它像12那样舍入。
round(12.001,0);
我试了很多例子，除了这个，但是我不能得到我的结果。您的帮助我们将不胜感激。
浏览 1提问于2018-02-23得票数 0
1回答
我有一个奇怪的问题，在ng-bind中使用数学表达式时，结果是意想不到的。根据我的实验，只有当被加数的第一部分大于15，第二部分仅为1.112时，才会出现这个问题。
ng-bind="sum = 16 + 1.112“ng-model="sum”value="16.112000000000002“
浏览 3提问于2012-12-03得票数 0
回答已采纳
我对火狐没有什么问题。
在Mozilla Firefox的水平菜单下的工具条上有1px的移位。
你知道为什么吗？非常感谢。
浏览 5提问于2010-07-21得票数 1
1回答
在IEEE754浮点标准中有几种舍入模式，我的问题是:舍入模式是基于保护/舍入/粘滞位来选择的，还是由程序员指定使用哪种模式？
浏览 0提问于2014-08-30得票数 1
我正在使用C#和SQL中的ROUND函数，令人惊讶的是，两者都产生了不同的结果。
在SQL中：ROUND(1250.00, -2) = 1300
在C# ROUND 1250中，round和precision = 2 = 1200
以前有没有人遇到过这种情况？
浏览 1提问于2011-11-22得票数 9
回答已采纳
我有一个3秒音频样本的html5音频播放器。可以使用这个音频播放器的计时器/计数器吗？因为我想在几秒钟内添加文本或图像。
我用Javascript做了一个(不起作用的例子)。但是我认为使用jQuery会更好，这样我就可以使用.append函数了。
HTML：
<audio id="audio_2" controls="controls">
<source src="http://www.pachd.com/sfx/metallic-clonks.wav">
</audio>
<div id=&
浏览 0提问于2012-04-14得票数 0
回答已采纳
2回答
我正在用C语言编写一个图形程序，我的笛卡尔数值在-1,1之间，我很难对数值进行舍入，以便我可以使用它们进行绘图和进一步的计算。我知道如何用小数点舍入大于1的值，但这是我以前没有做过的。
那么我该如何对值进行舍入呢？例如,
.7213=.7
.7725= .8
.3666667=.4
.25=.2 or .3
.24=.2
如有任何建议，我们将不胜感激。:)
浏览 2提问于2013-07-22得票数 1
回答已采纳
我有一个销售模型，我想计算按month、week、year分组时的(交易数量)/(天数)。 class SaleItem(models.Model):
id = models.UUIDField(default=uuid4, primary_key=True)
bill = models.ForeignKey()
item = models.ForeignKey('item')
quantity = models.PositiveSmallIntegerField()
price = models.DecimalField(max_di
浏览 16提问于2019-02-13得票数 0
回答已采纳
3回答
我经过计算后一直在寻找四舍五入的答案，但似乎找不到答案。我知道你必须在你的javascript中使用轮代码，但是我不知道把它放在哪里，它似乎不起作用..
val1 = parseInt($("#figure1").val());
val2 = parseInt($("#figure2").val());
$("#totalcost").val( ("$" val1 + val2 ));
我应该把舍入代码放在哪里，这样它就会舍入总成本？
谢谢
浏览 4提问于2013-12-03得票数 1
我想用小数点后的两位数来显示美元的值，以表示美分。在下面的程序中，输出是23.24。Perl对小数位进行四舍五入。如何避免它。我希望输出为23.23。
$val=23.2395;
$testa=sprintf("%.2f", $val);
print "\n$testa\n $val";
浏览 5提问于2012-03-20得票数 5
回答已采纳
1回答
KD树建设
、、
我正在用Python构建KD，我创建了这个类
class KD_Tree:
def __init__(self,data):
self.data = data
self.tree = None
def _build(self,points,depth):
k = len(points.columns)
_axis = depth % k
_column = points.columns[_axis]
if len(points) == 0:
return None
objects_list = points
浏览 17提问于2022-02-27得票数 0
我想将1256.3648转换为126.36 (最多2位小数)
为了实现这个功能，我使用了.setScale(2, BigDecimal.ROUND_HALF_UP));
但由于某些原因，它不起作用
有什么想法吗？
浏览 0提问于2015-01-30得票数 1
我有下面的时间戳1447862653771，我想格式化它。
www.epochconverter.com成功地将其转换为GMT: Wed, 18 Nov 2015 16:04:13 GMT
我使用的是moment.js，它没有正确地格式化日期。
moment.unix('1447862653771')给Tue 12月10日09:29:31 (东部标准时间)
$("body").append($("<p>").text(moment.unix('1447862653771')));
<script src=&#
浏览 10提问于2015-11-18得票数 1
回答已采纳
4回答
我有以下代码，
float a = 0.7;
if(0.7 > a)
printf("Hi\n");
else
printf("Hello\n"); //Line1
和
float a = 0.98;
if(0.98 > a)
printf("Hi\n");
else
printf("Hello\n"); //Line2
这里line1输出Hi，而Line2输出Hello。我假设有一个关于双常量和浮点数的特定标准，即它们中的任何一个在计算时都会变得更大。但这两个代码让我明白了，当
浏览 1提问于2012-07-11得票数 0
回答已采纳
4回答
我有一个带有浮动列的表(我使用的是MySQL，mysql2 gem，一切标准的东西)
create_table :some_table do |t|
t.float :amount
end
我在控制台里玩，当我这样做时
a = SomeTable.new
a.amount = 9999.99
a.save!
#9999.99
a.amount
#9999.99
a.reload
a.amount
#9999.99
一切都很好
a = SomeTable.new
a.amount = 9999.999
a.save!
#9999.999
a.amount
#9999.999
a.r
浏览 0提问于2011-12-14得票数 4
回答已采纳
1回答
这是我的职责：
public static function GetFormattedMicroTime($timestamp = false) {
if(!$timestamp)
$timestamp = microtime(true);
return DateTime::createFromFormat('U.u',sprintf('%.f', $timestamp))->format('Y-m-d\TH:i:s.u');
}
我就是这样称呼它的(我只从代码中的一个点调用它)：
$microtime =
浏览 1提问于2014-06-23得票数 3
我有一个简单的代码：
//LastUpdate = DateTime.Npw
//These two lines occur every frame
TimeSpan timeSpan = DateTime.Now - data.LastUpdate;
Debug.Log(timeSpan.Milliseconds);
但结果显示毫秒并没有真正增加，它波动在100到900毫秒之间。它的规模应该不断扩大，因为过去的时间越来越长。
我已经检查过LastUpdate没有改变，所以这不是原因。
我想我误解了时间周期的工作原理。我正在尝试获取当前帧的LastUpdate和now之间经过的毫秒。
我用错了
浏览 0提问于2018-04-13得票数 2
回答已采纳
3回答
当我序列化我的对象时，我的双精度值被打印为-9.99999999988987E-05，我如何解决这个问题，这样我才能得到一个有4位小数的数字？
public class DecisionBar
{
public DateTime bartime
{ get; set; }
public string frequency
{ get; set; }
public bool HH7
{get;set;}
public bool crossover
{get;set;
浏览 2提问于2012-07-24得票数 2
回答已采纳
如何格式化ag网格单元格中的数字例如，我有一个带有小数点的数量，例如5210.15，我希望返回5,210.15我已经看到了几种方法，但它们完全忘记了小数点或将它们四舍五入。我不需要到处转转。
这就是我到目前为止所尝试的：
<code>A0</code>
浏览 2提问于2018-12-15得票数 1
三年前，这个问题在这里被问到，
我们有一些当时写好的代码。我们使用了变通方法。现在我们重构我们的代码。这个错误在.Net 3.5中还存在吗？
浏览 0提问于2011-12-08得票数 1
回答已采纳
1回答
将NSString转换为日期错误
、、、、
我遇到了一个奇怪的问题:将字符串转换为日期：
NSString *goodDateString = @"2012-06-28 16:08:56.871000";
NSString *badDateString = @"2012-06-28 16:11:17.999771";
NSDateFormatter *formatter = [[NSDateFormatter alloc] init];
[formatter setDateFormat:@"yyyy-MM-dd HH:mm:ss.SSS"];
NSTimeZone *timeZone =
浏览 3提问于2012-06-28得票数 1
回答已采纳
1回答
我在使用PHP53，所以Codecerence1.8
$response = (array)$I->grabDataFromJsonResponse("result");
\Codeception\Util\Debug::debug($response);
Array
(
[*position] => 0
[*val] => Array
(
[key1] => 10
[key2] => 1
)
[*asso
浏览 0提问于2015-11-26得票数 0
1回答
我正在开发一个Android应用程序，服务器端是用Java实现的。当我收到来自用户的协调时，我正在检索一张餐馆列表，我正在计算与用户的距离，并以升序的方式对它们进行排序。
现在，一切正常。唯一的问题是，计算出的距离具有很高的灵敏度。我正在寻找的是，以这种方式显示的距离，即1.2公里、200米、12.2公里等，这是在适当地计算和附加公里或米。我怎样才能做到这一点？
目前的产出是：
Restaurant distance is 6026.203669933703
Restaurant distance is 1.0248447083638768
Restaurant distance is 1.0
浏览 6提问于2015-11-27得票数 0
回答已采纳
1回答
我经常注意到，当使用Graphics.TranslateTransform()将对象绘制到不同的位置时，gdi+绘制相同的对象(例如，通过一些简单的DrawLine调用定义)会有一点不同。它看起来像一些工件，例如1像素细线的末尾显示为“断线”。以及其他像这样的像素伪像...
我也使用ScaleTransform，但对所有对象都是一样的。当稍微更改ScaleTransform时，一些伪像会消失，但效果是它们会出现在另一个位置/对象，因此没有机会消除所有这些伪像。
你知道为什么会发生这种情况，以及如何避免吗？
fritz
浏览 1提问于2010-08-15得票数 1
回答已采纳
1回答
我已经创建了量化的值，如下所示： 并且希望基于该集合对矢量进行量化。例如，给定向量 将被转移到 ..。 请指导我使用python/numpy/pytorch的最快方法。非常感谢！
浏览 45提问于2021-03-02得票数 -1
回答已采纳
1回答
我在这里尝试使用四舍五入函数。有时从.5向下舍入，有时向上舍入。那么问题出在哪里呢？
源文件：
print("rounding up 0.5 is",round(.5))
print("rounding up 1.5 is",round(1.5))
print("rounding up 2.5 is",round(2.5))
print("rounding up 3.5 is",round(3.5))
输出：
rounding up 0.5 is 0
rounding up 1.5 is 2
rounding up 2.5 is
浏览 1提问于2015-05-13得票数 3
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
实时音视频
对象存储
即时通信 IM活动推荐
腾讯云开发者
