小程序中的小数计算问题/浮点数计算问题

Javanx

发布于 2019-09-04 10:22:42

2.4K00

代码可运行

文章被收录于专栏：web秀web秀

运行总次数：0

代码可运行

在小程序框架中对于浮点数计算存在误差情况。

看示例：

示例1、

<view>{{0.01+0.2}}</view>

示例2：

/**
* 页面的初始数据
*/
data: {
    num1: 0.01,
    num2: 10.2,
}

this.setData({
    num3: this.data.num1 + this.data.num2
})

<view>{{num3}}</view>

计算结果：

0.21000000000000002
10.209999999999999

解决方案：

在页面显示前，使用toFixed() 方法进行四舍五入处理。

this.setData({
    num4: (this.data.num1 + this.data.num2).toFixed(2)
})

<view>{{num4}}</view>

结果：10.21，显示正常。

特别说明，在视图绑定是不支持toFixed() 方法。以下为错误写法：

<view>{{(num1+num2).toFixed(2)}}</view>

小程序是不支持在视图层写任何js的，包括过滤器filters等，推荐在渲染之前，将数据格式化，或者用wxs。

本文参与腾讯云自媒体同步曝光计划，分享自作者个人站点/博客。

原始发表：2018年10月17日，如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自作者个人站点/博客前往查看

如有侵权，请联系 cloudcommunity@tencent.com 删除。

本文参与腾讯云自媒体同步曝光计划，欢迎热爱写作的你一起参与！

登录后参与评论

0 条评论

热度