首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >TSQL Round()不一致?

TSQL Round()不一致?
EN

Stack Overflow用户
提问于 2011-07-21 21:42:46
回答 3查看 2.6K关注 0票数 6

我们的问题可以简化为以下两个陈述:

代码语言:javascript
复制
select convert(float, (convert(float,5741.61)/convert(float, 196.00)) * convert(float,14.00)) as unrounded, round(convert(float, (convert(float,5741.61)/convert(float, 196.00)) * convert(float,14.00)), 2)  as roundedTo2dp

select convert(float, 410.115) as unrounded, ROUND( convert(float, 410.115), 2) as roundedTo2dp

第一个语句使用浮点数来计算值410.115,结果也是一个四舍五入()到小数点后两位。四舍五入后的值为410.11。

第二个语句使用浮点值410.115,并将其四舍五入到小数点后两位。四舍五入的结果是410.12。

当被舍入的值相同时,为什么一个向下舍入,另一个向上舍入?

如何将第一条语句四舍五入为410.12?

编辑:为格式化道歉-- stackoverflow在这台机器上没有显示任何格式化(非常奇怪)。

EN

回答 3

Stack Overflow用户

回答已采纳

发布于 2011-07-21 22:23:19

小数比浮点数更精确。如果您将浮点数更改为类似于DECIMAL(18,2)的值,您将获得所需的值,并且不再需要调用round函数。

代码语言:javascript
复制
select convert(decimal(18,2), (convert(decimal(18,2),5741.61)/convert(decimal(18,2), 196.00)) * convert(decimal(18,2),14.00)) as unrounded, round(convert(decimal(18,2), (convert(decimal(18,2),5741.61)/convert(decimal(18,2), 196.00)) * convert(decimal(18,2),14.00)), 2)  as roundedTo2dp

结果:

代码语言:javascript
复制
unrounded   roundedTo2dp
410.12      410.12

链接到有关小数的MSDN。http://msdn.microsoft.com/en-us/library/ms187746.aspx

希望这能帮上忙。

票数 5
EN

Stack Overflow用户

发布于 2011-07-21 21:54:23

数字不相等:

代码语言:javascript
复制
SELECT  CAST(convert(float, (convert(float,5741.61)/convert(float, 196.00)) * convert(float,14.00)) AS BINARY(8))
UNION ALL
SELECT  CAST(convert(float, 410.115) AS BINARY(8)) as bin

----
0x4079A1D70A3D70A3
0x4079A1D70A3D70A4
票数 4
EN

Stack Overflow用户

发布于 2011-07-21 22:10:46

“‘float”是近似的number数据类型,因此并非数据类型范围内的所有值都可以精确表示。

这是基于http://msdn.microsoft.com/en-us/library/ms173773.aspx的。

我相信这就是为什么在使用浮点值时会有舍入问题。你永远不能百分百确定!

例如。Select round(convert(float,1.5555),2) --给出1.56

Select round(convert(float,1.555),2) --给出1.55!

对于这样一个简单的数字,在使用float时,预期结果会有所不同。

票数 2
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/6777018

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档