首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    JS中对数字含有小数的)进行相乘后,数值不正确的问题

    昨晚测试人员测试的时候,偶然遇到了个小数相乘的问题,后来找了一下博客,才发现原来是JS浮点运算的bug,故在此记录了一下,避免我忘记。...然后我去看了前台的js代码,发现展示的金额确实没问题,但是在订单提交的时候出了问题。 image.png image.png 这样直接算出来的确实是有问题的。...(2)这个和数据结构有关系 整数型自动转换成正型计算 小数型直接转成double型计算 这是在内存中运算的时候必须这样 你该知道计算机只认识01吧 具体的就是浮点精准度的问题 float 精确到小数点后...image.png 特此记录一下昨晚被烦了一晚上的问题(微笑.jpg) Copyright: 采用 知识共享署名4.0 国际许可协议进行许可 Links: https://lixj.fun/archives/js...中对数字含有小数的进行相乘后数值不正确问题

    2.3K20
    领券