2回答
格式说明符
、、
我想知道我在格式说明符中看到的一些东西。我看到的是这样的：
@"%03.1f", someFloat
我测试了它，它在日志中返回
"1.5"
这叫什么来着，%f和03.1之间的事情
浏览 1提问于2013-06-01得票数 2
回答已采纳
1回答
我想将坐标格式保存为小数点后6位。(我不知道如何用英语描述，请原谅)
示例：(123.123456，25.123456)显示在url底部的图片中。
但在realm browser(底部的图片)中，它保存为
示例：(123.123，25.123)也显示在url底部的图片中。
小数点后只有3位。与我的位置相比，它在地图上出现的位置完全不同。
我的领域模型与坐标是双精度，但当它保存在领域数据库。它变成了浮动。我不确定这是我面临的某个问题。
请帮帮忙。感谢您花时间审阅我的问题。
浏览 0提问于2016-02-14得票数 1
我有一个表，其中的字段名为num，当我尝试插入一个值(如-1.0 )时，该字段为decimal(3,3)。我得到的是Error code 1264. Out of range value for column 'num' at row 1
你能详细说明为什么我的值超出范围吗？
浏览 9提问于2018-01-08得票数 0
回答已采纳
我们有SQL Server2000数据库的money数据类型列，我们在money列中的数字有奇怪的问题，我们在其中存储有两个小数位的数字。很长一段时间，一切都很好。但现在我看到，在某些行中，原来的47.22号现在变成了47.2178号。当我选择CAST(COLUMN as CHAR)时，结果是47.22时，但当我从ADO记录集中检索值时，结果是47.2178。我浏览所有应用程序，如果有任何地方它可以写4位小数的数字，但什么也找不到(在应用程序历史日志中，应用程序将47.22写入数据库)。会不会是SQL Server出了问题？
编辑:应用程序用VB6编写
浏览 0提问于2010-02-10得票数 1
回答已采纳
我正在将一个过程从Oracle移植到Postgres。在查询的select中，我使用了TO_CHAR(v_numeric, '990.000') 看起来，相同的TO_CHAR(v_numeric, '990.000')在Postgres中也有同样的效果。 有人能解释一下查询中的'990.000‘是做什么的吗？ TO_CHAR(123.4, '990.000')在Oracle和Postgres中都返回123.400。而TO_CHAR(1234.400, '990.000')在Oracle中返回########，在Postg
浏览 24提问于2021-02-10得票数 0
回答已采纳
我想在Stata中写一个TeX文件，它包含一个四舍五入到最接近的.001的p值。由于sutex、outtab等没有用于后处理评估结果的内置功能，因此我尝试了很多方法，比如
file write myfile %4z "`r(p)'"
或
gen temp = round( `r(p)',.001)
format temp %4.3f
sum temp, f
file write myfile " & `r(mean)'"
有什么想法吗？
浏览 1提问于2012-06-19得票数 1
回答已采纳
3回答
在我的mysql DB中，列类型是float(9,3)，而在应用程序中，我需要验证文本框中的值对于该类型是否有效。我们如何验证这一点。
例如:如果我输入12345/123456/...它将成功插入，但如果我输入类似1234567，它将抛出错误。同样，我需要检查整个验证。
谢谢。
浏览 1提问于2013-10-04得票数 0
我在SQL Server中有一个money数据类型。如何将查询中的0.00重新格式化为0？
浏览 12提问于2009-02-10得票数 23
2回答
我正在尝试使用子查询中的两个变量来计算一个比率，我希望我的结果在小数点后有三个值。
变量：
calls -- type(整数)
盒子--类型(浮动)
ROUND((calls / boxes) * 100.0, 3) Call_Rate
仅返回两个小数点
当我使用
(CAST(calls AS DECIMAL(10,3)) / (boxes AS DECIMAL(10,3)) * 100.0 Call_Rate
此代码返回小数点后的三位数，但第三位数始终为0，因此进行了四舍五入。
当将两个变量都转换为浮点数时，它也只返回十进制数后的2个值。
有没有办法执行这个操作，让它返
浏览 2提问于2018-02-26得票数 0
作为我的任务的一部分，我必须创建一个UDF。对于我们创建的内容，它是完全开放的，我选择创建一个函数，该函数在给定STAFF_ID和WEEK_NUM的情况下计算员工的总工资。 函数的代码如下(请原谅我的格式化，我不确定如何格式化它)： CREATE OR REPLACE FUNCTION CALCULATE_WAGES(FSTAFFID IN NUMBER, FWEEKNUM IN NUMBER)
RETURN NUMBER
IS
WAGES NUMBER(6,3);
STAFF_ID NUMBER;
HOURS_WORKED NUMBER;
MAX_HOURS NUMBER;
HOURLY_
浏览 13提问于2019-05-04得票数 1
我试图使用以下方法将字符串转换为时间戳：
from datetime import datetime
date_object = datetime.strptime('09-MAR-15 12.54.45.000000000 AM', '%d-%b-%y %I.%M.%S.%f %p')
我得到：ValueError：
时间数据‘09-3月-15 12.54.45.0000000 AM’不匹配格式'%d-%b-%y %i%M%S%f %p‘
浏览 2提问于2016-08-02得票数 0
回答已采纳
1回答
下面这段代码到底做了什么，
//Make the year be formatted without a thousands separator.
spinner.setEditor(new JSpinner.NumberEditor(spinner, "#"));
为什么这是消除JSpinner numberModel中的逗号所必需的。
我刚开始使用java，请用简单的术语来解释。
浏览 4提问于2016-01-06得票数 0
回答已采纳
最初我的模型上的一个坐标字段使用整数，但当我试图部署到Heroku时，我被提醒(由于我的坐标中有小数点)，我需要它改为浮点型。因此，我在本地机器上生成了一个change_column迁移，以便将它们change_column为浮点型。一切都很顺利。
我再次尝试部署到heroku，首先使用heroku pg:reset，然后使用heroku db:setup。在执行db:setup的过程中，我收到以下错误：
PGError: ERROR: precision for type float must be less than 54 bits : CREATE TABLE "landmar
浏览 0提问于2012-01-26得票数 1
回答已采纳
1回答
我的数据库表中有一个字段，类型为：double
如何存储这样的值：0,001？
我已经尝试过了，但是它被截断为0,00。
浏览 1提问于2013-05-21得票数 0
回答已采纳
1回答
我正在尝试将文件从.txt文件读取到矩阵中。我的问题是标题和时间。我使用函数读取标题，使用函数跳过第一行读取数字。我的文本文件的格式是：
time;col1;col2;col3;col4;col5;...
13:27:15.3167892;6.546785;5.456778;4.5561345435;....
................................
我尝试使用importdata和datenum，但问题出在小数位上。我该如何解决这个问题呢？
我希望输出是这样的
Time col1 col2 col3
浏览 3提问于2013-12-09得票数 0
虽然双倍的限制是巨大的。
create table numerictype2 (
c1 decimal(3,2),
c2 float(3,2),
c3 double(5,2)
);
insert into numerictype2 values #insert values
(2.323,2.323,2.323),
(1.5,1.4,111.65);
为什么我要得到这个错误：
错误代码: 1264。列“c3”在第2行的超出范围值
浏览 3提问于2019-04-26得票数 0
7回答
我希望将一个数字显示为获胜百分比，类似于您在ESPN棒球排名上看到的数字。如果用户没有损失，我希望读取的百分比为1.000。如果用户没有wins，我希望它读取.000。如果用户既有赢也有输，我希望显示.xyz，即使y或y和z都是0。
这段代码没有后面的0，也没有小数点前的0 (0.4代替.400，0.56代替.560)：
$wpct1 = $wins / ($wins + $losses);
if($wpct1 == 1){$wpct = '1.000';}else{$wpct = round($wpct, 3);}
这段代码获取小数前面的初始0，但仍然没有尾随的0(用.400
浏览 0提问于2011-06-07得票数 1
回答已采纳
4回答
我想得到小数点后有超过3位数的所有数字。
例如，我有一个名为ARTICLE的表，它有两列：name (varchar type)和price (number)。
我希望获得存储在表ARTICLE中的所有记录，其中price列值在小数点之后有3个以上的数字。
例如，将返回等于12.9584或45.874521的ARTICLE.price值，因为它们在小数点之后有超过3个数字。
我怎样才能做到这一点？
我尝试过这个请求，但这是不正确的：
select name, price
from ARTICLE
where length(TO_CHAR(price)) > 7;
谢谢
浏览 2提问于2021-04-07得票数 1
回答已采纳
所以我有这样的想法：
new Date().getMilliseconds();
然而，有时这只产生1或2位数字，而不是3位。
所以我试着使用：
new Date().getMilliseconds().toFixed(3);
所以它总是3位数，但这似乎总是产生000，我不知道为什么。有人知道怎么做吗？
浏览 3提问于2018-05-01得票数 3
2回答
我尝试将表单的位置信息保存到WAMP服务器数据库中。我可以在phpmyadmin页面的insert函数中添加一条记录到表中。但是，当我在表单中使用insert坐标并提交它以将信息保存到数据库中时，我看到了这个错误：
Data truncated for column 'lat' at row 1
我用下面的列定义我的表：
place_id: int(10)
p_name: varchar(50)
lat: float(30,27)
lng: float(30,27)
addr: varchar(100)
tel: int(12)
category: varchar(15)
de
浏览 1提问于2013-10-06得票数 0
2回答
我在C#中使用指数格式化来格式化十进制数。例如，如果数字是
0.0001234567
格式设置
(0.0000123456).ToString("E4");
显示
1.2345E-004
如何从指数中删除前导零，使其如下所示？
1.2345E-4
浏览 1提问于2012-01-09得票数 12
回答已采纳
我有个模特像：
class ModelWithDecimal(models.Model):
value = models.DecimalField(max_digits=2,decimal_places=2)
...yet当我尝试..。
obj = ModelWithDecimal(value="1.5")
obj.save()
在保存过程中，我会得到一个quantize result has too many digits for current context错误。那不是吗?小数点之后小于2位，小数点后小于2位？
同样的错误发生在一个模型上：
class Model
浏览 5提问于2013-12-04得票数 16
回答已采纳
2回答
为了计算1 - (value2 / value1)，我有这个查询。
select ID
, 1 - (value2 / value1) as value3
from table
group by ID
我怎样才能得到第一个3小数呢？
浏览 3提问于2015-06-18得票数 0
回答已采纳
2回答
我是Python的新手，我有一个问题。目前，我正在使用它来计算消息发出和消息进入之间的时间。然后，生成的开始时间、时间增量和唯一ID显示在文件中。同样，我使用的是Python 2.7.2
目前它正在减去两次，结果是0.002677777777( 0.00是小时和分钟)，这是我不需要的。如何格式化它，使其以秒(59.178533,00)开头，59是秒。而且，有时python会将数字显示为8.9999999 x e-05。我如何才能强制它始终显示确切的数字。
def time_deltas(infile):
entries = (line.split() for line in open(
浏览 1提问于2011-12-01得票数 0
如何在SQL Server2008数据类型中存储.NET double？
当我试图在一个数字(16，16)列中存储一个双精度值时，我得到一个异常‘参数值'1.3465492655247000’超出范围‘。因为数字有16位小数，前面有一个1。数字(16.16)是我可以在SQL Server中为该类型设置的最大值。
我在C#中创建了一个ADO.NET数据集，并将列设置为decimal。我把双精度数改成了小数点。
此显示SQL Server2008数据类型
浏览 0提问于2011-10-06得票数 0
回答已采纳
目前，我使用以下方法在bash命令行中使用逗号每三个数字计算以下内容：
printf "%'3.f\n" $(((29246636)*4096))
119,794,221,056
方程需要从$((开始，也需要以))结束。Linux命令行引用有关于格式化文本的更多信息。
我还有以下几点：
printf "%'.3f \n" $(((31200310)*4096))
127,796,469,760.000
我想要确保，当有一个除法时，没有剩余的小数部分。
是实现这一目标的最佳方法，如：
printf "%'.3f\n" $((
浏览 0提问于2023-01-29得票数 3
3回答
我正在使用Python内置解决方案和其他一些外部库(如SymPy )研究不同的舍入方法，在这样做的过程中，我偶然发现了一些需要帮助的案例，以帮助我理解其背后的原因。
前例1：
print(round(1.0065,3))
输出: 1.006
在第一种情况下，使用Python内置的舍入函数，输出是1.006而不是1.007，我可以理解这不是一个错误，因为Python舍入到了最接近的偶数，这就是所谓的银行家舍入。
这就是为什么我从一开始就开始寻找另一种方法来控制舍入行为。通过快速搜索，我找到了decimal.Decimal模块，它可以轻松地处理十进制值，并有效地使用quantize()进行舍入，如
浏览 18提问于2018-02-20得票数 2
您好，我正在尝试获得一些小数的计算值，如下所示-
BEGIN
declare @b_server_qty int,
@b_bookings numeric(30,4),
@b_std_margin numeric(30,4),
@b_avg_sp numeric(30,4),
@b_avg_discount numeric(30,4),
@c_server_qty int,
@pos_ucs_qty int,
@qry_B_server_qty nvarchar(max)='',
@qry_C_server_qty nvarchar(max)='
浏览 0提问于2014-01-23得票数 2
我想在科学表示法中显示一个双倍，小数点3位，指数部分也有三个小数。另外，我想用点(".")来显示数字。作为十进制分隔符(我的本地化总是用逗号打印它)。我想要的格式如下：
1.234e+001
我该怎么做？我所有的尝试
echo ( "{0:e}" -f $myDouble )
到目前为止已经失败..。欢迎任何暗示:)
浏览 8提问于2014-01-22得票数 0
回答已采纳
1回答
我需要在mysql中插入一个动态十进制。这意味着它可能是7.5，33.5或150.5。最后的价值是基于销售额的百分比。我在堆栈上找到了这个答案：，但它对我的问题没有帮助。
有一个简单的方法来存储这些例子吗？
3.5或47.5或246.5
如果我使用varchar，十进制就不会出现。如果我使用代码形式，十进制以上的答案是off的。有什么建议吗？
更新:实际上，我认为这是我的代码。我似乎没办法把十进制放在正确的位置。我试着得到一个随机数的30%。下面的代码不能正常工作
<?
$randomMade = 40;
$TotalMade = (30/$randomMade) * 100;
$Tot
浏览 5提问于2013-08-07得票数 0
回答已采纳
1回答
我正在尝试显示2个总数的2个小数点并减去它们，但它没有计算小数点。任何人都想弄清楚这一点。谢谢。
function calculate() {
var myBox1 = document.getElementById('box1').value;
var myBox2 = document.getElementById('box2').value;
var basicpay = document.getElementById('basicpay');
var myResult = myBox1 * myBox2;
浏览 3提问于2014-08-01得票数 0
有人能告诉我如何在包含小数零的正则表达式中显示零吗？
例如，1,320.00当我将其转换为正则表达式时，.00将消失。我要他们现身。这是我使用的公式。
(^\d*\.?\d*[0-9]+\d*$)|(^[0-9]+\d*\.\d*$)
任何帮助都将不胜感激。
谢谢,
浏览 14提问于2018-02-16得票数 0
回答已采纳
我的变量中有数字123456。
如何在smarty中像123 456一样显示它？
所以我想要这样的东西
1000
1,000 000
..。
谢谢
浏览 2提问于2011-04-05得票数 0
1回答
Error: No more than 3 digits are allowed after decimal place in bid price
一定有办法做到这一点，而不是竞标0.017
浏览 0提问于2014-04-29得票数 0
我试图将Math.Pow((Density * 10), -12)的值限制在4小数点以下。
其中double Density = 0;被定义为变量
现在，如果是Density=7;，那么Math.Pow((Density * 10), -12)计算为7.22476158090089E-23，但我希望它像7.2247 E-8一样。
任何想法都将不胜感激。
浏览 6提问于2022-02-17得票数 0
回答已采纳
2回答
所以我有一个十进制类型的问题。我的任务是:在3D空间中有一个点和一条线。找出他们之间的距离。输入：
九个雷亚尔，三维坐标为：
给出的点.
指的是线上的点。
，直线的方向向量。
方向矢量的长度大于1e-8。输出:一个实数，给定点和线之间的距离。示例：
输入: 1.0 1.0 1.0 2.0 1.0 1.0 0.0 0.0 1.0输出: 1.0我的代码：
static void Main(string[] args)
{
var input = Console.ReadLine();
var numbers = input.Split(' ').Select(x
浏览 1提问于2020-11-27得票数 0
回答已采纳
3回答
我有一个乱七八糟的txt文件，点数是一个千分(1.000或19.329)和一个十进制数(10000.3)。两个示例行：
John;1.952;2003;20.365;1.214
Ryan;2.342;2002;3045.3;345
我想去掉千位数的点，保留小数点。做这件事最简单的方法是什么？
浏览 3提问于2013-06-28得票数 0
回答已采纳
cout<<5*1.0<<endl;
cout<<(float)5<<endl;
在这两种情况下，我得到的答案都是5，而不是5.0。请帮帮我。
浏览 3提问于2015-06-24得票数 4
1回答
我正在使用SQL中的纬度/经度数据，这些数据将从各种不同的来源以不同的精度收集。
我正在尝试找出一种可以保留尾随零的数据类型，而不使用decimal来设置数量为零的数据。12.345应该与12.34500不同。有没有一种方法可以做到这一点，而不是简单地将这些值转换为字符？这似乎是显而易见的解决方案，但我正在努力更好地了解可供选择的范围。
浏览 0提问于2020-07-30得票数 0
3回答
将字符串转换为货币格式
、、、
使用Ruby和Haml，我有一个属性，就是成本。我相信(我是ruby的新手)它将是一个浮动。
目前，下面这行代码以类似4.5的格式输出我的小数，而不是我想要的4.50。
%span.value= "£#{event.beers.first.cost)}"
这是我的啤酒类文件。
class Beer
include Mongoid::Document
embeds_many :ratings
field :name, type: String
field :country, type: Country
field :cost, type:
浏览 0提问于2012-01-05得票数 2
回答已采纳
6回答
定点与浮点数
、、
我只是不能理解定点和浮点数，因为在Google上很难读懂它们的定义。但在我读过的书中，没有一个能对它们的真正含义提供足够简单的解释。我可以通过示例得到一个简单的定义吗？
浏览 2提问于2011-09-23得票数 133
1回答
Im试图添加验证，以防止用户在小数位之前输入超过6位数字，而在小数位之后仅输入3位数字。我的精度设置为8，刻度为2，但是它正在生成一个错误页面。我只想阻止用户输入比格式集更多的内容。我的最大长度已经设置为9。
浏览 1提问于2022-06-07得票数 0
回答已采纳
2回答
我有按时间步骤命名的数据文件，如：
0.01
0.02
0.03
0.04
0.05
0.06
0.07
0.08
0.09
0.1
0.11
...
0.99
1
1.01
...
1000
如您所见，一些数据文件名在小数位之后有两位数，而另一些则有1位或没有小数位。我只想删除有两个小数点地名的文件(例如0.01，0.02等)，同时保留所有小于小数点2位的文件。因此，最后，我希望将该文件标记为：
0.1
0.2
...
0.9
1
1.1
...
1000
但是把剩下的移开。
如何删除小于n位小数位的数字命名文件？
浏览 0提问于2016-11-07得票数 1
回答已采纳
4回答
我尝试了四舍五入函数，但标准函数对我没有好处(所有的数字必须在一个函数中工作)。
我有号码: 0.7555和0.9298
And how round i this case:
0.7555 - 0.75
0.9298 - 0.93
谢谢
浏览 0提问于2010-10-19得票数 2
回答已采纳
1回答
我有个浮点数。我想把它绕成这样：
1.301 => 1.31
1.309 => 1.31
1.3001 => 1.30
1.3009 => 1.30
到目前为止，我已经尝试过：
$number = ceil($number * 100) / 100;
这几乎是完美的，但仍然不完美：
1.3301 => 1.34 // It should be 1.33
有办法解决我的问题吗？
从Niet the Dark Absol解析了的答案：
$number = ceil( floor($number*1000) / 10) / 100;
浏览 1提问于2014-02-18得票数 1
回答已采纳
3回答
我通过Python中嵌套的for循环读取了两组数据。我需要使用一个共同的数字(时间)来匹配两个不同文本文件的行。在这两个文件中，时间的写入方式不同(例如，21:53:28.339 vs. 121082008.3399)。我只需要时间的最后四位来匹配它们，例如从21:53:28.339，我只需要'8.339‘。在大多数情况下，将数字作为字符串进行索引工作得很好(例如: timeListnid)，但上面列出的数字除外，在这种情况下，python将.3399舍入到.34。
有没有办法让我的数字保持浮点型，并从数据中选择不舍入的数字？
谢谢!
浏览 1提问于2011-04-25得票数 1
1回答
我正在将下面的掩码设置应用于Devexpress TextEdit控件，但在执行时请给我语法错误。
textEdit1.Properties.Mask.MaskType = DevExpress.XtraEditors.Mask.MaskType.RegEx;
textEdit1.Properties.Mask.EditMask = "(100(?:\\.0{1,3})?|0*?\\.\\d{1,3}|\\d{1,2}(?:\\.\\d{1,3})?)%";
使用这个正则表达式的概念是从0到100%输入值，并选择3小数点。
与25, 25.5, 60, 60.369, 99 b
浏览 0提问于2013-04-23得票数 1
我正在使用c3.js创建一个图表，这是我发现的一个问题。如果数据点的浮点数x值为负值，则工具提示会将该值舍入为最接近的整数。
您可以尝试这样做，只需更改示例中的数据。只需将其中一个x值更改为负的浮点值，然后将鼠标悬停在该点上，并注意工具提示报告的x值。
有没有解决这个问题的办法，或者是否有人遇到过类似的问题？
浏览 1提问于2015-03-24得票数 1
我是一个新手(大概两周)，正在尝试学习Python2.7x。我正在尝试做一个基本的程序，有一个用户输入一顿饭的费用，它输出多少钱，它将与.15小费。我希望输出看起来像23.44 (显示2个小数)
我的代码：
MealPrice = float(raw_input("Please type in your bill amount: "))
tip = float(MealPrice * 0.15,)
totalPrice = MealPrice+tip
int(totalPrice)
print "Your tip would be:
浏览 4提问于2013-06-13得票数 0
我使用time来测量程序的执行速度。但是，它太快了，所以我需要更多的十进制精度。
在man time中，我知道我可以为用户或系统时间指定像%U和%S这样的字段，但是我不知道如何应用sprint格式选项来控制诸如小数这样的事情。
我明白了
$ time -f "%S" ./main
0.00
我宁愿看到：
$ time -f "%S<something???05>" ./main
0.000015
更新
$ type time
time is a shell keyword
$ bash --version
bash --version
GNU bas
浏览 8提问于2020-05-16得票数 0
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
实时音视频活动推荐
腾讯云开发者
