我想将值33.55555插入到数据库中。即使在将mysql行更改为float或decimal之后，我也无法正确执行此操作。
mysql：
ALTER TABLE `test` CHANGE `test1` `test1` DECIMAL( 10,10 ) NOT NULL
插入33.55555后，它将通过以下sql命令转换为0.9999999999
ALTER TABLE `test` CHANGE `test1` `test1` FLOAT( 10,10 ) NOT NULL
将33.55555转换为1.0000000000
浏览 11提问于2012-11-29得票数 2
1回答
我试图用MySQL (InnoDb)存储一个货币值，我需要编写查询来聚合一些记录(sum)，而且我对输出的精度有问题！
我已经将字段的类型设置为双倍，并且我的值是精确的，但是MySQL的操作符并不像我所需要的那么精确。就其价值而言，PHP的默认操作符也不够精确，但是PHP中有一些bc*函数可以做到这一点。
我想知道是否有任何方法来调整MySQL操作符的精度？包括聚合函数？
作为记录，存储到MySQL并从它检索不会影响我的值--这意味着double是我的字段的理想类型。
浏览 1提问于2014-06-22得票数 0
回答已采纳
2回答
在MySQL中，数字的合适字段类型是什么？
我有一个字段，它的数字分别是0.00，4.12，99.10,130.99
因此，TINYINT或SMALLINT无效，因为它们将小数位移至0、4、131等。
当我调用VARCHAR时，我无法正确排序，因为它在130.99之后对99.10进行排序
我需要哪种类型？最大数字不会大于1000。
浏览 0提问于2013-02-17得票数 0
回答已采纳
2回答
在财务之外使用小数
、、、
我总是听说浮点数存在舍入误差，因此，必须使用decimal类型来代替浮点数来进行金融运算。他们所说的finance是什么意思？他们是否只考虑金钱，而金、铜、铁、蜂蜜、木头、毛料、谷类等仍须以实数计算，抑或任何物质资产均须以小数计算？因为你知道，如果你损失了.0000000004美分，可能不会像你损失同等数量的实际物质价值那样可怕。我只是不喜欢这种双重标准。
浏览 2提问于2013-11-07得票数 0
6回答
定点与浮点数
、、
我只是不能理解定点和浮点数，因为在Google上很难读懂它们的定义。但在我读过的书中，没有一个能对它们的真正含义提供足够简单的解释。我可以通过示例得到一个简单的定义吗？
浏览 2提问于2011-09-23得票数 133
1回答
我正在使用MySQL数据库，并试图更改列的精度。我需要将数字限制在逗号后面的2个零。但执行此代码后:数据库中的$this->alterColumn(offer::tableName(), 'price', $this->double(8.2)->null());列精度为空。
结果：
我做错什么了？
浏览 11提问于2021-12-08得票数 0
可能重复：
这是我正在使用的函数
char* round(double value, int decimal_places)
{
decimal_places = decimal_places+1;
std::stringstream s2;
s2 << std::setprecision(decimal_places) << std::setiosflags(std::ios_base::fixed) << value;
std::string st = s2.str();
return st;
}
我的输入值是0.89425，十进制宫
浏览 4提问于2012-11-28得票数 2
回答已采纳
1回答
定点fx表示法和转换
、、、
我有一个fx1.15符号。基础整数值是63183 (寄存器值)。
现在，根据维基百科，它的完整长度是15比特。值不适合里面，对吗？
那么假设它是一个fx1.16值，我如何将它转换为人类可读的值？
浏览 1提问于2012-03-04得票数 1
回答已采纳
1回答
我有一个使用定点数字的程序，因为我使用的CPU不支持IEEE754浮点数。
首先通过查找指数将标准IEEE754s转换为不动点，然后通过手动访问内存中所述IEE754浮点的位数等方法，我一直做得很好。在转换之后，我就可以做定点计算了。
但是，是否有可能将不动点(例如Q15.16整数)重构为没有FPO的IEE754浮点，以便支持type 754/FPO的CPU能够将其读取为它们的本机浮点数类型？是任何地方的代码或例子，CPU的FPO单元实际上如何在原始字节操作中进行这种转换，还是仅仅是一些在软件中无法实现的黑魔法？很明显，我不是在寻找超精确的转换。
到目前为止我看到的所有答案都是使用FPO的。例
浏览 5提问于2020-05-03得票数 1
回答已采纳
的Numer子模块提供了两个字段: decimal和float。从技术上讲，小数是浮点数，那么这两个字段有什么区别呢？
浏览 1提问于2010-11-15得票数 2
回答已采纳
如何存储小数点个数可变的数字？我猜可能有从1到100个小数点的任何地方。float数据类型是怎么回事？为什么他们称它为近似数？Decimal很好，但据我所知它是固定精度的数据类型。有没有关于精确数字的好文章？我的数据库将与.net前端交互，我还需要在前端显示这些精度。
浏览 1提问于2011-08-03得票数 0
在将cobol程序转换为C#时，我遇到了COMP：
03 Var1 PIC X(4).
03 Var2 PIC X(3).
03 Var3 PIC X(3).
03 Var4 PIC X(4).
03 Var5 PIC X(16).
03 Var6 PIC X(4).
03 Var7 PIC X(2).
浏览 6提问于2017-06-12得票数 3
回答已采纳
1回答
GCC的一些内置函数处理浮点值：
由于Linux内核在默认情况下不支持浮点操作，这是否意味着我不能在Linux内核模块中使用这些内置的GCC函数？
如果我做了这样的事情(假设我在x86系统上)，我可以使用它们吗？
kernel_fpu_begin();
float x = 3.14;
x = __builtin_ceil(x);
kernel_fpu_end();
浏览 1提问于2013-04-05得票数 3
回答已采纳
我(通过PHPMYADMIN)定义了一个数据类型为float的字段。
当我尝试将一个数字插入为78.556677099932222377时，它会将其转换为79。
如何保存正确的数字，小数点后至少7位？
浏览 0提问于2011-07-16得票数 4
回答已采纳
这可能是一个复合问题，因为我可能不完全理解这个问题。
我从Oracle Apex查询接口收集数据，并将结果存储在本地SQL Server实例中，以便本地应用程序可以利用这些数据。
我从中提取的Oracle数据库使用定义为NUMBER数据类型(没有定义精度或小数位数)的主键。我应该在SQL Server端使用什么数据类型来存储Oracle NUMBER字段？
我在大多数文档中都发现了将SQL Server中的数字数据字段存储为浮点型的状态，但这没有什么帮助，因为这些数字字段中有许多表示主键(使用浮点值作为主键不是一个好主意)。
我曾经尝试过在Sql Server中使用DECIMAL(38,38)
浏览 4提问于2011-02-02得票数 0
回答已采纳
4回答
可能重复：
$b = $del['Antal'];
$y = $info['Pris'];
$z = $y * $b;
$y来自mysql数据库，其类型为"double(10,2)“，因此当我尝试回显$y时，其中一个可以工作；它用两个小数来响应。
但是现在我想用$b来乘它。
例如10.20 *2= 20.40
但现在的情况是: 10.20 *2= 20.4 (只有一个小数)
我要两个小数，怎么办？我尝试了一些(双)功能，但没有真正发挥作用。该怎么办呢？
浏览 8提问于2013-01-20得票数 1
回答已采纳
我不确定如何让这个函数返回小数点后两位的float。
float calcPrice(float a, float b, string x) {
if (x == "X") return (a - b) * 7.5;
else return (a - b) * 9.75;
}
浏览 0提问于2020-08-18得票数 0
2回答
我已经使用Google Code上的商店定位器教程创建了一个数据库，该教程指定用于存储标记坐标的字段的类型为FLOAT(10,6)。然而，当我使用Google的地理编码器服务对某些点进行地理编码时，我得到了一些带有14个小数位的结果。例如,
-70.07290899999998
数字永远不会大于21或小于-67，并且小数点后始终有1到14位数字。
如何在数据库中设置该字段？
浏览 1提问于2011-12-08得票数 2
回答已采纳
我希望这有一个简单的解决方案。我需要从工作表中获取值，执行计算并将它们插入隐藏的工作表中(稍后将上载到数据库中)。我通常不使用VBA编程，所以我不确定我做错了什么。我的问题是:当我将数据从工作表复制到数组中时，当我指定long时，它们会像整数一样舍入。下面的代码片段将会让你对这个问题有一个大概的了解。我初始化数组是不是错了？
Dim ThisWS As Worksheet
Set ThisWS = Excel.ActiveWorkbook.Worksheets("BchSheet")
Dim BTW() As Long '
浏览 1提问于2013-01-15得票数 1
回答已采纳
2回答
这个问题以前已经被问过很多次了，但我在这个话题上发现了相互矛盾的观点，所以我想我应该再次提出这个问题，希望得到一个更统一的结论。
我想在我的数据库中存储一个货币值。让我们假设所有条目都是相同类型的货币(例如，USD)，并且允许正值和负值。
我最初的想法是以相关货币的最小单位将值存储为带符号的整数。例如，如果我想存储值$1.25，我会将125插入到数据库中，因为USD的最小单位是$0.01。这个方法的好处是MySQL会自动舍入到最接近的整数。例如，如果美元值是$1.259，我可以插入125.9，它将自动四舍五入并存储为126或$1.26.
那么，你怎么看？这是一种合理的方法，还是有更好的方法？
浏览 3提问于2012-06-09得票数 12
回答已采纳
我的大多数应用程序都围绕着涉及支付和利率计算的财务计算。我正在寻找如何确定哪种Delphi数据类型最适合使用。
如果我使用数据库来存储这些值，并且我已经将该数据库中的字段定义为具有两个小数位的小数值，那么哪种Delphi数据类型与该场景最兼容？
在将值存储到数据库之前，我是否应该在Delphi中使用舍入公式将结果格式化为两位小数？如果是这样，那么这样做的最佳实践是什么？
浏览 0提问于2011-09-11得票数 14
回答已采纳
我试图用以下方法进行以下可靠的计算: 3,000 / 45,000,000 = 0.000067：
// SPDX-License-Identifier: MIT
pragma solidity ^0.8.0;
function divide(uint _num1, uint _num2) public pure returns(uint _result) {
return (_num1 /_num2 );
}
但很明显，我得到的结果是零。
我知道，事务的稳健性使用小数点18，但是，在重述以前关于实值小数的所有问题时，我找不到如何对规则数或规则计算这样做。而且，大多数情况下，它甚至不
浏览 9提问于2022-05-12得票数 -1
回答已采纳
2回答
我知道在没有Floating Point Units的机器上，这样的数字要么用定点表示，要么用libc模拟。
在前一种情况下，如何在定点重现非常大和非常小的FPU值？我的理解是定点的小数分辨率是有限的，这里解释：
所以，如果我尝试在C中编译一个非常小/很大的fp值，对于一台没有FPU的机器，这个数字如何在定点中被抑制？
浏览 5提问于2020-06-30得票数 2
1回答
我在impala中创建了一个简单的表，如下所示
CREATE TABLE IF NOT EXISTS my_db.employee
(name STRING, salary double );
我的insert语句如下
insert into employee (name, salary)
VALUES ("Prasad", 158.17)
但问题是
我在impala中的值被加载为
name,salary
prasad,158.1666666666
我不明白为什么会发生这种事。我已经在其他数据库中尝试过了，比如hive，但是它的值被加载为158.17，但是在
浏览 2提问于2018-11-24得票数 0
4回答
我有一个带有浮动列的表(我使用的是MySQL，mysql2 gem，一切标准的东西)
create_table :some_table do |t|
t.float :amount
end
我在控制台里玩，当我这样做时
a = SomeTable.new
a.amount = 9999.99
a.save!
#9999.99
a.amount
#9999.99
a.reload
a.amount
#9999.99
一切都很好
a = SomeTable.new
a.amount = 9999.999
a.save!
#9999.999
a.amount
#9999.999
a.r
浏览 0提问于2011-12-14得票数 4
回答已采纳
这有可能吗？我试着在谷歌上搜索，但我似乎找不到正确的答案。
我需要限制小数位数，因为如果小数位数只有3位而不是5位，答案就会不同，所以我希望你能帮助我解决这些问题。我知道如何打印3位小数点，但声明一个变量只保存3位小数点是我不知道的。我也可以使用一些链接，如果你有任何。
float sinfa(float num1)
{
float fc;
float powers;
float rad_angle;
rad_angle = num1 * (PI / 180.0);
powers = pow(num1,4);
fc = sin(rad_angl
浏览 0提问于2013-02-01得票数 3
回答已采纳
7回答
这些天什么时候使用固定点
、、、、
对于密集的数字运算，我考虑使用定点而不是浮点。当然，固定点类型的大小是多少字节，它将在什么CPU上运行，如果我可以使用(对于Intel) MMX或SSE或任何新出现的东西，这都是很重要的。
我在想，如果现在浮点运算的速度比以往任何时候都快，那么是否值得考虑定点？有没有一般的经验法则，我们可以说它会比几个百分点更重要？从35,000英尺的数值性能来看，情况如何？(顺便说一句，我假设大多数计算机中都有通用CPU，而不是DSP或专用嵌入式系统。)
浏览 0提问于2008-10-05得票数 23
回答已采纳
1回答
如果我想将-2455.1152表示为32位，我知道第一位是1(负号)，但我可以将2455表示为二进制10010010111，但对于小数部分，我不太确定。.1152可以有无限多个小数部分。这是否意味着最多只有23位用于表示小数部分？因此，由于2445使用11位，因此位11到0用于小数部分？
对于二进制表示，我有10010010111.00011101001。指数是10。10+127=137。137作为二进制是10001001。
完整的表示形式为：
1 10001001 1001001011100011101001
是那么回事吗？
浏览 2提问于2013-06-22得票数 0
回答已采纳
提前感谢 我正在研究一个涉及浮点数据类型的Simulink模型。因此，使用Simulink中提供的定点工具，我尝试将浮点系统转换为定点系统。我正在按照这里提供的教程来实现转换。 Link to the tutorial on converting the floating-point system to the fixed point ? 在数据类型建议步骤中，我得到了一些变量的下溢值。我的问题是如何转换这些下溢值以及范围内的值。或者我可以忽略它们并继续进一步的步骤？一般来说，如何处理这种类型的下溢/溢出问题？
浏览 165提问于2020-01-05得票数 0
下面的代码将导致moneyDouble = 365.24567874299998，我需要它恰好是365.245678743
我不介意必须设置一个精度，并获得一些额外的零向右。
这个数字是用来计算货币交易的，所以它需要精确。
std::string money ("365.245678743");
std::string::size_type sz; // alias of size_t
double moneyDouble = std::stod (money,&sz);
浏览 0提问于2018-05-19得票数 3
回答已采纳
2回答
固定和浮点数的计算机体系结构有哪些优点/缺点？我能理解这两者都会导致某种程度的不准确。
我的其他问题是
这些不准确的地方是如何产生的？
一种比另一种好吗？
浏览 4提问于2011-05-23得票数 0
3回答
我试图用Flex /ActionScript3构建一个计算器，但使用Math类得到了一些奇怪的结果：
trace(1.4 - .4); //should be 1 but it is 0.9999999999999999
trace(1.5 - .5); //should be 1 and it is 1
trace(1.444 - .444); //should be 1 and it is 1
trace(1.555 - .555); //should be 1 but it is 0.9999999999999999
我知道浮点数有一些问题，但正如您所看到的，至少对于我的所有示例，它都应
浏览 1提问于2010-02-06得票数 2
回答已采纳
1回答
四舍五入的问题
、、
在使用SAP HANA时，有一个问题我无法理解。
我有一个字段"NET_VALUE“，例如，在ECC中，它等于193.40。我在SAP和HANA中选择了这个专栏，结果仍然是193.40。
但是当我创建一个计算列时，哪个表达式是
IF(A != 0, "NET_VALUE"/B, "NET_VALUE") // in this case A is always equal to 0
我得到的结果是193,39
我认为ECC和HANA会以显示的方式自动舍入NET_VALUE的值(不是计算列)，但不会影响NET_VALUE的“实际”值；我不知道如何验证这一点…
浏览 1提问于2017-10-25得票数 0
1回答
我需要用浮点数乘以X，因为我的处理器中没有浮点运算。我理解这种方法，但不知道为什么会存在这种方法？
假设我们想在小数中乘以2*4.5，我做以下操作:2* 4.5 (100.1)，所以我乘2*1001 = 2*9 = 18，然后右移1，所以18>>1 =9。
我们是在不动点表示2，在不动点表示4.5，当我们乘以Q1.1和Q1.1格式时，我们得到Q2.2格式，并进行右移，导致Q1.1格式的result.Is，对吗？
浏览 0提问于2015-06-21得票数 0
回答已采纳
7回答
我正在寻找一种用于财务数据的定点标准，你知道什么值得一试吗？你对那些手工制作的定点类的表现有什么经验吗？
浏览 1提问于2008-09-28得票数 22
1回答
没有库的浮点操作
、、、
我正在寻找一种有效的方法，以正确地做数学运算浮动值。由于我在嵌入式C中，我不想对浮点数据类型使用任何额外的库。
据我所知，正确的方法是将浮动值作为原始二进制(符号、指数、尾数)处理，然后这样操作。但我找不到任何例子来说明这究竟是如何运作的。
我正在寻找关于如何在不使用浮点数据类型的情况下执行以下操作的说明:给定一个变量int，它的值可以从0到10000。
Y=x* 0.720 + 84.234；
Y=y/ 2.5；
感谢您的上网时间。
浏览 3提问于2022-04-18得票数 0
2回答
十进制超出范围异常
、、、
在我的C#应用程序中，我试图将十进制价格保存到Server表中。列类型为decimal，没有定义总位数。
没有折扣计算，一切正常。
但是当我运行一些计算时，我得到了21800的最终值，并且在试图保存它时得到了以下错误。
"Parameter value '218000/00000000000000' is out of range."
我不明白额外的零是从哪里来的！我唯一知道的是，在myValue.ToString()中，我也得到了218000/00000000000000！
我知道浮点数后面的数字是由计算引起的。但无论他们做什么，我的价值是21800时，看它。
浏览 4提问于2015-06-14得票数 4
回答已采纳
4回答
在C中声明只有两个小数点的变量
、、、、
我试图声明一个只有1位小数点的变量eLon，这样如果我有以下代码：
elon=359.8
printf("eLon = %f\n",eLon);
输出结果将是
eLon = 359.8
然而，我得到的输出是：
eLon = 359.7999999.
我如何知道我可以修改printf，使其成为：
printf(eLon is %0.1f\n",eLon);
来得到想要的结果。这不是我想做的。我只希望变量本身只有一个小数位，这样它就等于359.8而不是359.7999999，因为这对于我进行的任何计算都是至关重要的。你知道我应该如何修改我的代码来获得想要的结果吗？我尝试执行
浏览 0提问于2015-10-21得票数 2
1回答
我使用Tasks -> Import -> Excel 2007将excel文件导入到我的数据库中
我的excel文件中的行的值最多只有三位小数，但是在将它们导入数据库时，数据类型float被赋予列，并且它现在在小数之后具有6数字。
我只想在我的最终用户应用程序中显示最多3位小数。有没有办法把它限制在DB中只有三位小数？
浏览 3提问于2012-03-05得票数 0
回答已采纳
我在大学的时候有一个C++的作业，有一句话我根本不懂：
cout << fixed << setprecision( 2 );
有人能帮我解释一下这条线吗？
浏览 0提问于2013-05-29得票数 2
回答已采纳
1回答
考虑以下片段：
for value in [1.123, 1.126, 1.12, 1.16, 1.1, 1.0, 12345.6789]:
print(
f'Testing {value:>12}',
f'.2 {value:>17.2}',
f'.2g {value:>16.2g}',
f'.2f {value:>16.2f}',
end='\n\n',
sep='\n'
浏览 1提问于2021-03-09得票数 0
回答已采纳
在与别人进行了“激烈的讨论”之后，我想为了子孙后代的利益，我会问这个问题。如果我的假设是不正确的，我愿意被纠正，但是我希望听到一个比我更有信誉的人的第三方意见。
让我们假设我们需要计算和存储以十进制格式表示的数值。然而，所有的数值输入和输出都必须符合特定的数值范围。此外，小数是很重要的，但是我们永远不会对任何小于小数位的值感兴趣。这对任何计算都是正确的。如果计算结果在10^-8范围内包含有效数字，则基本上为0。同样，如果值高于我们的上限，那么这将被认为是一个错误案例。
考虑到这些永远不会改变的固定约束，使用传统的十进制(S，p)数据类型更好，还是使用一个整数类型，它可以包含所有的值表示的值S-
浏览 0提问于2014-10-15得票数 4
回答已采纳
3回答
我是Bison的新手，但在C/C++中没有，在开发和正则表达式的时候，我从来没有听说过这样的东西，只有用于新行的\n，但我想知道\t%.10g的解释是什么，代码中是这样的：
line: '\n'
| exp '\n' { printf ("\t%.10g\n", $1); }
;
诚挚的问候。
浏览 1提问于2009-10-12得票数 1
回答已采纳
6回答
在c#中
double tmp = 3.0 * 0.05;
tmp = 0.15000000000000002
这跟钱有关。值实际上是0.15美元，但系统希望将其向上舍入为0.16美元。0.151可能应该向上舍入到0.16，但不是0.15000000000000002
有哪些方法可以得到正确的数字(即0.15，如果小数足够高，则为0.16 )。
浏览 0提问于2008-10-07得票数 3
回答已采纳
2回答
用十进制类型累积错误？
、、、
我有一个累积十进制值的应用程序(包括加和减)。为了避免积累错误，我使用十进制类型而不是加倍类型。然而，我遇到了一种情况，这种行为与我所期望的不太一样。
我有x=a+ b，其中a= 487.5M，b=433.333333333333333333333333333335M。
计算加法，得到x=920.833333333333333333333333334M。
然后，y=967.87500000000000000000000000001M。
我想断言y-x=y-a- b。但是，
Y-x=47.04166666666666666666666667
Y-a-b=47.041666666666666666
浏览 0提问于2013-10-08得票数 0
回答已采纳
云服务器
ICP备案
对象存储
腾讯会议
实时音视频
腾讯云开发者
