我们的问题可以简化为以下两个陈述:
select convert(float, (convert(float,5741.61)/convert(float, 196.00)) * convert(float,14.00)) as unrounded, round(convert(float, (convert(float,5741.61)/convert(float, 196.00)) * convert(float,14.00)), 2) as roundedTo2dp
select convert(float, 410.115) as unrounded, ROUND( convert(float, 410.115), 2) as roundedTo2dp第一个语句使用浮点数来计算值410.115,结果也是一个四舍五入()到小数点后两位。四舍五入后的值为410.11。
第二个语句使用浮点值410.115,并将其四舍五入到小数点后两位。四舍五入的结果是410.12。
当被舍入的值相同时,为什么一个向下舍入,另一个向上舍入?
如何将第一条语句四舍五入为410.12?
编辑:为格式化道歉-- stackoverflow在这台机器上没有显示任何格式化(非常奇怪)。
发布于 2011-07-21 22:23:19
小数比浮点数更精确。如果您将浮点数更改为类似于DECIMAL(18,2)的值,您将获得所需的值,并且不再需要调用round函数。
select convert(decimal(18,2), (convert(decimal(18,2),5741.61)/convert(decimal(18,2), 196.00)) * convert(decimal(18,2),14.00)) as unrounded, round(convert(decimal(18,2), (convert(decimal(18,2),5741.61)/convert(decimal(18,2), 196.00)) * convert(decimal(18,2),14.00)), 2) as roundedTo2dp结果:
unrounded roundedTo2dp
410.12 410.12链接到有关小数的MSDN。http://msdn.microsoft.com/en-us/library/ms187746.aspx
希望这能帮上忙。
发布于 2011-07-21 21:54:23
数字不相等:
SELECT CAST(convert(float, (convert(float,5741.61)/convert(float, 196.00)) * convert(float,14.00)) AS BINARY(8))
UNION ALL
SELECT CAST(convert(float, 410.115) AS BINARY(8)) as bin
----
0x4079A1D70A3D70A3
0x4079A1D70A3D70A4发布于 2011-07-21 22:10:46
“‘float”是近似的number数据类型,因此并非数据类型范围内的所有值都可以精确表示。
这是基于http://msdn.microsoft.com/en-us/library/ms173773.aspx的。
我相信这就是为什么在使用浮点值时会有舍入问题。你永远不能百分百确定!
例如。Select round(convert(float,1.5555),2) --给出1.56
Select round(convert(float,1.555),2) --给出1.55!
对于这样一个简单的数字,在使用float时,预期结果会有所不同。
https://stackoverflow.com/questions/6777018
复制相似问题