要在.NET中表示小数，SQL中的最佳数据类型是什么？
我们希望存储具有高达9位小数精度的小数，并希望在前端避免舍入误差等。
在阅读有关数据类型的文章时，在.NET中使用小数似乎是最好的选择，因为您不会得到舍入误差，尽管它比Double慢一点。
我们希望将这一点带到数据库中，并希望在通过层移动数据时最大限度地减少转换问题。有什么建议吗？
浏览 2提问于2008-10-23得票数 16
我正在使用mysql进行实验，并使用GRATEST()函数进行了查询，以比较两个不同的字段。
我的查询如下：
SELECT
id,
float1,
float2,
GREATEST(
IFNULL(float1, 0),
IFNULL(float2, 0)
) AS gtst
FROM `test`
Float1和2是无符号浮点数，默认值为NULL。服务器版本:5.1.73-1-日志，客户端: 5.0.8-dev，PHP扩展: mysqli.
运行上面的命令会给出如下奇怪的值：
| id | float1 | float2 | gtst
浏览 1提问于2015-03-03得票数 0
回答已采纳
1回答
我试图使用C编程(输入公差级别)来计算e^1，但由于某些原因，我得到了如下错误的输出：
对0.000100的误差公差: 2.000000
对0.000000的误差公差: 2.000000
对0.000000的误差公差: 2.000000
对0.000000的误差公差: 2.000000
有什么想法吗？
#include <stdio.h>
#include <stdlib.h>
//this function creates factorial of n
int myfac(n)
{
if (n <= 1) return 1;
return n*myfac(n
浏览 5提问于2015-03-20得票数 1
回答已采纳
我想打印出一个双精度的数字，它和原来的十进制数在C语言中是一样的。
char buf[1000];
double d = ______;
如果是替身，我会这么做
snprintf(buf, sizeof(buf), "%.17g", .1);
但它将打印出来做：printf("%s", buf);
0.10000000000000001
存在最后一个1作为舍入误差
如果您尝试表示.1，它会打印出最接近的小数表示法双精度值。将.1转换为double，则会出现舍入误差。转换回小数，您将得到另一个舍入误差。
有没有办法解决这个问题？
浏览 2提问于2015-11-15得票数 0
1回答
我的模式上有一个十进制的价格字段，每次我尝试插入价格时，pg都会出现这个错误。有人能给我点光吗？谢谢
配置
t.decimal "price", :precision => 2, :scale => 2
误差
PG::Error: ERROR: numeric field overflow
DETAIL: A field with precision 2, scale 2 must round to an absolute value less than 1.
: INSERT INTO "items" ("category_id&#
浏览 2提问于2012-05-15得票数 4
回答已采纳
2回答
在财务之外使用小数
、、、
我总是听说浮点数存在舍入误差，因此，必须使用decimal类型来代替浮点数来进行金融运算。他们所说的finance是什么意思？他们是否只考虑金钱，而金、铜、铁、蜂蜜、木头、毛料、谷类等仍须以实数计算，抑或任何物质资产均须以小数计算？因为你知道，如果你损失了.0000000004美分，可能不会像你损失同等数量的实际物质价值那样可怕。我只是不喜欢这种双重标准。
浏览 2提问于2013-11-07得票数 0
我的MySQL数据库中有一个customer invoice表，其中包含一个名为price的十进制(10，2)字段。
当在php中获取这些值并计算总和时，
例如:在脚本中
$totalAmount = 0; // initialised them to
while(records){
$amount = $inv_amount - ($pay_amount + $onamount); //float i guess. 2.22, 14.22
$totalAmount = $totalAmount + $amount; //fl
浏览 1提问于2012-06-20得票数 6
回答已采纳
我是在Redshift中创建一个表(基于PostgreSQL)，该表的源数据中有几列是整数和小数的混合。
如果我设置小数(5，5)，它会抛出整数的误差，如果我设置整数，它会抛出小数的误差，哪种类型适合这两种类型？
浏览 2提问于2019-04-17得票数 0
回答已采纳
1回答
我有一个简单的代码：
delx=0.1;
delt = 10**-3;
r = delt/delx**2
我在控制台中得到r= 0.09999999999999998。为什么这么少的小数点会有舍入误差？我该怎么纠正呢？
浏览 0提问于2018-11-25得票数 1
回答已采纳
".py“说
# If the ratio of data variance between dimensions is too small, it # will cause numerical errors. To address this, we artificially # boost the variance by epsilon, a small fraction of the standard # deviation of the largest dimension.
有人能给出一个例子来说明这种由小方差引起的数值误差吗？
浏览 0提问于2019-10-22得票数 0
我在MATLAB中输入了abs(sin(pi))。我希望它能给我pi的绝对值，希望用'abs‘(绝对值)来减轻自然的舍入误差。我仍然得到一个舍入误差。我应该怎么做?为什么我错了？
浏览 1提问于2013-01-21得票数 0
回答已采纳
4回答
这是一个在过去的几个小时里让我完全困惑的问题……
我在我的程序中硬编码了一个等式：
double s2;
s2 = -(0*13)/84+6/42-0/84+24/12+(6*13)/42;
每次我运行程序时，计算机都会给出3作为答案，但通过手工计算，我得到了4。甚至，在将方程输入Matlab后，我也得到了答案4。这是怎么回事？
我能想到的唯一错误就是四舍五入误差。然而，最多有5个舍入误差，再加上使用双精度数学，我的最大误差将非常非常小，所以我怀疑这是问题所在。
有谁能提供任何解决方案吗？
提前谢谢你，
-Faken
浏览 0提问于2009-08-06得票数 2
回答已采纳
在雪花中圆函数的误差。下面是错误
函数强制转换的参数太多(轮(ColumnName为浮动)，0，1)，预期为2，got 3
下面是从SQL查询转换为雪花查询的函数
CAST(ROUND(CAST(ColumnName AS FLOAT),0,1) AS INT)
这在SQL中运行得很好。下面是SQL查询：
CAST(ROUND(CONVERT(FLOAT,ColumnName),0,1) AS INT) AS 'Column_Name'
浏览 2提问于2021-08-25得票数 0
当我想使用模数运算符，第二个数小于1(当然大于0)时，有人能解释为什么我会得到误差Division by zero吗？
当我尝试
$a = 5
$b = 3
var_dump($a % $b);die; // result is as expected int(2)
但当我尝试这个
$a = 5
$b = 0.5
var_dump($a % $b);die; // result is
Warning: Division by zero
bool(false)
PHP 5.4.4，debian 7
谢谢
浏览 2提问于2014-08-20得票数 3
回答已采纳
1回答
我知道，由于舍入误差问题，货币值应该作为整数存储和处理。这对我来说很有意义，我明白了(我想)。
但是税率呢？是否有任何理由需要将税率(不是税额、税率，如6.5或8.125)存储为整数而不是十进制？
如果我将税率存储为整数，如何将税率应用于交易中的美元金额？如果我以6.5%的税率计算10000 * 1.065 (100.00*1.065美元)，将6.5%存储在数据库中而不是6.500的好处是什么？我不认为将一个数字乘以100是容易产生舍入错误的。
我存税率有关系吗？
浏览 0提问于2014-10-02得票数 4
回答已采纳
2回答
TRANSACTION_DATE是DATE数据类型。
此代码列出了MI:SSSS的所有事件日期。
select to_char(transaction_date,'YYYY-MON-DD HH24:MI:SSSS') as trans_date from ticket_orders;
现在，我想得到这些日期的计数，我得到的是ORA-00979，而不是一个函数组。
select to_char(transaction_date,'YYYY-MON-DD HH24:MI:SSSS') as trans_date,
count(*)
fr
浏览 9提问于2022-01-27得票数 0
回答已采纳
2回答
浮点算法
、、、、
今天，在我的C++编程课程中，我的proff告诉我，永远不要直接比较两个浮点值。
所以我试了一下这段代码，找出了他陈述的理由。
double l_Value=94.9;
print("%.20lf",l_Value);
我发现结果为94.89999999 (一些相对误差)
我知道浮点数不是以一种向代码显示的方式存储的。以二进制形式压缩这些1和零涉及到一些相对的舍入误差。
我正在寻找解决两个问题的方法。1.比较两种浮动值的有效方法。2.如何将浮动值添加到另一个值中。举例说明。添加0.1111到94.4345才能得到确切的值为94.5456
提前谢谢。
浏览 4提问于2017-04-10得票数 1
回答已采纳
1回答
我正在尝试使用Python语言中的corner包来格式化角图。据我所知，有一个命令title_fmt = *arg，但是它给中位数和误差提供了相同的格式，这对于报告测量误差是不方便的。我需要误差显示与两个有效的数字，然后中位数是四舍五入在最后的sig.fig。它的错误。下面是我能做的一个例子 import numpy as np
from matplotlib import pyplot as plt
import corner
np.random.seed(539)
# generate data
data = np.random.randn(5000,3)
data[:,0] =
浏览 30提问于2021-01-31得票数 1
我理解一些机器学习模型倾向于低偏差，而另一些则倾向于低方差(来源)。例如，线性回归往往具有较低的方差误差和较高的偏差误差。相反，决策树往往具有较高的方差误差和较低的偏差误差。从直觉上看，这是有意义的，因为决策树容易过度拟合数据，而线性回归则不是。然而，是否有一种更定量的方法来确定一类算法是否倾向于产生低偏差或低方差模型？
浏览 0提问于2020-12-02得票数 1
回答已采纳
6回答
我试图创建直接支付贝宝rest (通过使用信用卡ID)的金额19.50，但失败。我发现了以下错误：
异常:访问时获得Http响应代码400。
{"name":"VALIDATION_ERROR","details":[{"field":"transactions[0].item_list.items[0].price","issue":"Currency amount must be non-negative number, may optionally contain exactl
浏览 4提问于2014-03-20得票数 1
回答已采纳
为什么下面的部分返回超过小数的分数分量误差？它似乎只是在低平衡的情况下触发。
如果我的余额是0.1Ether或BNB，我没有看到一个错误，但是如果我的余额是0.0001，我会看到这个错误
错误:分数分量超过小数
var account = accounts[0]
var yourBalance = await provider.getBalance(account)
var fixedBalance= ethers.FixedNumber.fromValue(yourbalance , 18);
var stakedAmount = (fixedBalance * 0.50).toString
浏览 26提问于2022-05-29得票数 1
在试图执行以下计算时，我在雪花中得到舍入误差。
select ROUND(84186926/91.0)*91.0
我得到的答案是84186921。然而，正确的答案是84186926。
有办法修复这个舍入错误吗？
提前谢谢。
浏览 1提问于2020-08-13得票数 0
回答已采纳
我的桌子admin_tool_functionality
CREATE TABLE admin_tool_functionality (
id BIGINT NOT NULL AUTO_INCREMENT,
admin_tool_functionality_type_id BIGINT NOT NULL,
CONSTRAINT fk__admin_tool_functionality__admin_tool_functionality_type
FOREIGN KEY (admin_tool_functionality_type_id)
浏览 8提问于2016-07-24得票数 2
回答已采纳
如果后端发送小数点后为4位或6位的数字，这些数字是否总是准确地转换为JavaScripts数字类型(在JSON反序列化期间)？哪些数字会导致问题？
提示:假设后端是精确的，没有舍入误差等。我需要了解在哪一点问题可以发生在前端。
浏览 0提问于2021-05-15得票数 1
当我尝试下列方法时
SELECT serials.device_id
FROM serials
LEFT JOIN performance
ON serials.device_id = performance.device_id
我得到了
(误差静态分析：
分析过程中发现1处误差。
缺失的表情。SQL查询:编辑编辑
设FOREIGN_KEY_CHECKS = ON；
MySQL说:文档
2006年的今天，MySQL服务器已经消失)
浏览 1提问于2019-09-06得票数 0
获取误差
import mysql.connector
ModuleNotFoundError:没有模块名为“mysql”
浏览 4提问于2021-12-06得票数 -1
可能重复：
鉴于99.99 * 0.01 = 0.99
显然，这是一个由来已久的浮点四舍五入问题，但在这种情况下，舍入误差对我来说似乎相当大；我的意思是，我可能预期结果为0.99990000001或类似的‘接近’结果。
为了记录在案，我在JavaVM和.Net环境中得到了相同的答案。
浏览 5提问于2010-05-28得票数 0
我在actionscript中有一个数字，它是通过一些任意的数学计算得出的：
var value:Number = 45 * (1 - (1 /3));
trace(value);//30.00000000004
现在，我想取这个数字的上限，除非它大于下一个较低的整数的量小于某个epsilon。在上面的例子中，我真的想要舍入到30，但只有在我知道我得到了舍入误差的情况下：
Math.ceil(value); //I want 30, but get 31
Math.ceil(30.1); //In this case, it's reasonable to get 31
在actio
浏览 1提问于2012-06-07得票数 0
回答已采纳
3回答
我在理解这些双精度数的精度如何影响Matlab中算术运算的结果时遇到了一些麻烦。我认为，由于a和b都是双精度的，它们将能够执行达到该精度的操作。我知道可能会有舍入误差，但由于这些数字在64位数字表示范围内，我认为这不是问题。
a = 1.22e-45
b = 1
a == 0
ans = 0 %a is not equal to zero
(a + b) == 1
ans = 1
为什么它能够携带足够的精度来识别a != 0，但是当添加到1时，它不会显示任何变化。
浏览 1提问于2010-09-13得票数 5
3回答
验证数字精度/小数位数
、、、、
如何验证从表单过帐的数字的精度/小数位数，以确保它可以存储在Oracle number列中？例如：
<input type="number" name="foo" value="123.45" />
用户将表单提交到PHP后端...
<?php
function isValidNumber($number, $precision, $scale) {
// ???
return $isValid;
}
// The precision and scale here are actually dynamic
$
浏览 3提问于2011-09-10得票数 0
回答已采纳
3回答
我在NCalc上遇到了一些舍入问题。我的问题很简单。只需添加0.5和0.5555即可。预期结果为1.0555。这需要四舍五入到3小数。1.056
float和double应该不会对5位数造成任何精度问题。然而，NCalc做到了。
Expression ex = new Expression("0.5 + 0.5555");
object result = ex.Evaluate();
result 1.0554999999999999 object {double}
这将向下取整而不是向上取整。即使误差是0.00000001。有人知道我该怎么解决这个问题吗？
浏览 2提问于2014-05-21得票数 0
1回答
我试图将一个双精度值转换成一个指数，但我得到一个舍入误差。
int main (unsigned int argc, char **argv)
{
float a=293.17;
float b=293.10;
double ULfreq = 2089.555000;
double upfreq = 0.0;
long int t = 0;
long int u = 0;
upfreq = ULfreq * 1000000.0;
printf(" %f, upfreq:%22.16E\n", upfreq, u
浏览 0提问于2012-11-23得票数 0
回答已采纳
示例代码：
#include <stdio.h>
int main() {
printf("%d", (int)4294967295.0);
return 0;
}
这将在代码页()上打印2147483647，在我的vs2012设置上打印-2147483648。预期-1。但是，将4294967295.0正确转换为无符号整数将产生-1。
发生什么事了呢？如何安全地将双份转换为int？这种误差远远超出了舍入误差的范围。
浏览 4提问于2014-09-01得票数 4
回答已采纳
2回答
在进行二进制文件写入时，我在python中打包和解包二进制浮点数时遇到了一些问题。以下是我所做的工作：
import struct
f = open('file.bin', 'wb')
value = 1.23456
data = struct.pack('f',value)
f.write(data)
f.close()
f = open('file.bin', 'rb')
print struct.unpack('f',f.read(4))
f.close()
我得到的结果如下：
(1.23
浏览 0提问于2013-04-23得票数 9
回答已采纳
1回答
可能重复：
我到处都在寻找解决办法。假设我有一个像这样数字的变量：
$price1 = 1597;
$price2 = 1497.85;
当有偶数时，是否有一个显示小数点2位而不舍入的函数：
$price1 = 1597.00;
$price2 = 1497.85;
更新：
I发现了问题，和(总) MySQL函数舍入值：
$result = mysql_query("SELECT SUM(total), SUM(subtotal) FROM jos_vm_order_list WHERE user_id = '$user_id'");
浏览 4提问于2012-03-12得票数 5
2回答
问题
如何使用avg和round在PostgreSQL中提供小数点？
要将字符串转换为十进制数字需要什么功能？
函数使用
第1函数
AVG(ratings.dating) AS scent_avg
1误差
Error: expected { scents_id: 1, scent_avg: 4.5 } response body, got { scents_id: 1, scent_avg: '4.5000000000000000' }
第二函数
ROUND(AVG(ratings.rating), 1) AS scent_avg
第二误差
Error: expected {
浏览 4提问于2020-07-02得票数 1
回答已采纳
2回答
是否可以使用亚像素定位来定位元素？
我们的应用程序构建了一个PDF的web预览，但是由于浏览器不允许我们定位位置/尺寸为小数的内容，因此存在舍入误差，导致web预览看起来与PDF不同。
有什么想法吗？
浏览 1提问于2011-08-09得票数 2
3回答
请考虑以下几点：
> x<-178379.4999999999999999999999999999999
> x
[1] 178379.5
> round(x)
[1] 178380
这似乎是一个基本的舍入错误。R中有已知的舍入误差吗？还是因为即使在工作记忆中，R也只能处理22位数字？
浏览 0提问于2018-07-20得票数 2
回答已采纳
我有一个数据库，其中包含缩放整数，最长的是10位数长。我试图在Excel中将这些值转换为十进制值，将小数点左移4位，即除以10000。
鉴于这些整数目前低于15位有效数字限制，并将保持这种限制，我是否有可能遇到舍入误差？
浏览 3提问于2014-02-21得票数 0
我正在更新一个用MySQL5.4编写的应用程序，用于数据库-查询当然会受到旧的MYSQL宽松SQL实现和静默警告/错误通知等的影响。我现在使用的是MySQL5.7，启用了默认的严格模式。我需要插入整个整数(即'20')转换为十进制(5，2)字段。我看到MYSQL的当前版本将接受原样的值，并自动向其添加带零的小数，但这仅仅是我应该警惕的另一个宽松的SQL实现吗？我只有MYSQL可以使用，所以我不能与Oracle或SQL Server等进行比较。我是否应该将小数点后的零位连接到数字上？我只是想让查询尽可能的可移植。
浏览 7提问于2016-09-06得票数 0
回答已采纳
我在练习松树剧本，我在做一个简单的策略。但是我犯了这个错误，有人能帮我吗？谢谢！
//@version=5
strategy("Mi semaforo", overlay=true, margin_long=100, margin_short=100)
mm_g = ta.sma(close, 5)
mm_y= ta.sma(close, 10)
mm_r = ta.sma(close, 20)
alcista = (mm_g > mm_y) and (mm_y > mm_r)
// bajista = (mm_g < mm_y) and (mm_y &l
浏览 5提问于2022-06-12得票数 0
1回答
我有一张这样的桌子： ? 我的目标是使用Scipy optimize找到正确的P1和P2值，这样我的V3就等于V1和V3= P1+ P2。我正在寻找一种方法来尝试不同的P1和P2值，以获得abs (误差和)=abs (V3-V1)的最小可能值。 使用excel solver的解决方案： ? 但是，不是让每一行都有不同的P1和P2值，我想要一个组合，使V3尽可能接近V1，并满足最小误差和的条件。
浏览 14提问于2019-10-08得票数 0
回答已采纳
3回答
大整数的乘法
、、
我尝试乘以与111111111^2相同的111111111*111111111，但得到了不正确的结果。它应该给出12345678987654321，但却给出了一个舍入误差。我是否需要对长数使用一些特殊的变量类型，或者这是R的一个bug？
浏览 2提问于2011-11-18得票数 7
我将我的flask-app连接到MySQL-Database，如下所示： from flask_mysql_connector import MySQL
from flask_mysqldb import MySQL
# MySQL Connection
app.config['MYSQL_HOST'] = 'localhost'
app.config['MYSQL_USER'] = 'root'
app.config['MYSQL_PASSWORD'] = ''
app.config[
浏览 50提问于2020-12-25得票数 0
回答已采纳
1回答
对R中的重要数字进行舍入
、、、
所以基本上我在做一个物理实验，在我的表格中，我想让我的数据四舍五入到和误差一样的精度，四舍五入到1sig图。
因此，例如，如果我有以下内容：
angle <- c(4, 4.1, 4.2)
angle.error <- c(0.024, 0.3, 0.113)
data <- data.frame(angle,angle.error)
我想要结束的是角度误差四舍五入到1sig图，和角度四舍五入到相应的小数位数作为角度误差，给出
angle <- c(4.00, 4.1, 4.2)
angle.error <- c(0.02,0.3,0.1)
data <-
浏览 5提问于2017-03-23得票数 3
1回答
在我的函数中，我遇到了计算错误的问题。我正在使用VB6，这可能是我的第一个问题。我正在迭代一个循环，从一个变量到另一个变量，逐个变量，计算商品的每一个折扣。它将这些计算出的折扣中的每一个都放在一个文本文件查找表中。如果用户给它提供的值在这两个值之间，这就是它所应用的折扣。
问题出现在计算折扣值的时候。假设我对每一步的单位.04美元进行了折现。因此，第一步的折扣是.04，然后是.08，然后是.12，依此类推。为了计算这一点，它计算通过指定范围的步数，然后将步数乘以每步的折扣值。这是主要的问题。当我这样做的时候，我得到了一个浮点舍入误差。我将总步数(1)乘以总折扣(.04)，得到.03999999
浏览 2提问于2014-04-01得票数 0
在后端，我将货币值存储在一个money类中，该类包装了一个BigDecimal，并将舍入设置为始终为8的一半。所有基本操作都工作得很好，行为符合预期。但是我需要将这些值以2的比例显示给用户，这会给我带来舍入误差。
例如，我在后端有以下值：
A= 109.11432
B= 9015.57069
C= 9124.68501
它们中的每一个都被格式化为pt-BR区域设置：
NumberFormat nf = NumberFormat.getInstance();
nf.setCurrency(Currency.getInstance(new Locale("pt","BR&#
浏览 2提问于2010-08-05得票数 4
回答已采纳
我的理解是，当我下载MAMP时，mysql也会自动下载。
--我已经将bash_profile中的路径更改为“bash_profile/MAMP/Library/bin”，然后测试了命令"mysql --version"，该命令运行得很好，但随后我尝试运行"mysql.server start“--它提示"mysql.server命令not”(sudo mysql.server的结果与此相同)。我很困惑，因为显然已经找到mysql了，否则"mysql -version“就不能工作了。请帮助我解决这个问题，谢谢！我的最终目标是能够访问我在木星笔记本上的数据
浏览 6提问于2020-04-29得票数 0
回答已采纳
1回答
我的MySQL数据库中有一个MySQL字段。我将其定义为：decimal(1,1) UNSIGNED NULL。但是我想为它设置一个默认值，比如7.0，这就是我遇到的问题。每当我想设置这个值时，我都会得到以下错误：
Invalid default value ...
我还试图将其设置为7,0和7，但结果是相同的错误。MySQL十进制字段的正确默认值是什么？
注意:我正在使用Navicat作为MySQL
浏览 4提问于2018-06-10得票数 6
1回答
误差静态分析：
分析过程中发现1处误差。
预计将有一个接近尾声的括号。(近")“位置136) SQL查询：
创建表zkb58\_assets ( id int(10)无符号非空注释‘主键’，parent\_id int(11)非空默认值‘0’注释)
MySQL说:文档
#1064 -您的SQL语法有一个错误；请检查与您的MySQL服务器版本对应的手册，以便在第4行使用正确的语法
浏览 2提问于2016-09-20得票数 0
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
实时音视频
即时通信 IM活动推荐
腾讯云开发者
