首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    float double取值范围_double float区别

    float 符号位(S):1bit 指数位(E):8bit 尾数位(M):23bit 一个float4字节32位,分为三部分:符号位,指数位,尾数位。...//负无穷大 //他们打印的结果:+/-Infinity float f1 = (float)Math.pow(2,128);//指数>=128的,打印结果:Infinity //上面要加(float)...强制转换,否则编译提示出错,详细可参考前一节:Java变量数据类型 float f2 = (float)Math.pow(2,127);//1.7014118E38 System.out.println...f3 = (float) Math.pow(2,-149)//1.4E-45,小于-149,结果则为0.0 Float.MIN_VALUE //1.4E-45 double的取值同float: 负无穷...System.out.println((float)Math.pow(10,6.92));//注意加float强制转换 //打印结果8317637.5,float只保证7~8位有效位,其余位数舍入 不理解的话

    1.9K10

    PHP float 精度

    "; $a = (float) $a; var_dump($a); // float(123456789.11001) var_dump(sprintf('%.11f', $a)); // string..." $c = (float) $c; var_dump($c); // float(123456789.11001) var_dump(sprintf('%.11f', $c)); // string(...实例 2、3:float 的比较结果是 _视情况而定_,永远不要相信浮点数结果精确到了最后一位。 实例 4:出现这个问题是因为浮点数计算涉及精度,当浮点数转为二进制时有可能会造成精度丢失。...例如:把数字 8.5 转为二进制: 整数部分是 8: 8/2=4 8%2=0 4/2=2 4%2=0 2/2=1 2%2=0 1 比 2 小,因此不需要计算下去,整数 8 的二进制为 1000 小数部分是...实例 4 中 0.9 在转为二进制时精度丢失,导致比较时出现错误。 你看似有穷的小数,在计算机的二进制表示里却是无穷的。

    18210
    领券