从浮点数创建有理数会产生不精确的结果
是因为浮点数是一种近似表示方式，无法精确地表示所有的有理数。浮点数使用有限的位数来表示一个数值，因此在表示大范围的有理数时，会存在舍入误差。
浮点数的表示方式是基于二进制的科学计数法，其中包括一个符号位、一个指数位和一个尾数位。尾数位的位数有限，因此无法精确表示无限位数的有理数。当将一个有理数转换为浮点数时，会进行舍入操作，将其近似表示为最接近的浮点数。
由于浮点数的表示方式是近似的，所以在进行浮点数运算时，会产生舍入误差。这意味着对于一些特定的有理数，其浮点数表示可能会与其真实值存在一定的差距。这种误差在一些情况下可能会累积，导致计算结果的不准确性。
为了避免浮点数运算的不精确性，可以使用有理数库或者精确计算库来处理有理数。这些库提供了更高精度的数值表示和计算方法，可以减小舍入误差的影响。
在云计算领域，浮点数的不精确性可能会对一些应用产生影响。例如，在金融领域的计算中，精确的数值计算是非常重要的。因此，在设计和开发云计算应用时，需要考虑到浮点数的不精确性，并选择合适的数值表示和计算方法来保证计算结果的准确性。
腾讯云提供了一系列与数值计算相关的产品和服务，例如弹性计算、云函数、容器服务等，可以满足不同应用场景下的数值计算需求。具体产品和服务的介绍可以参考腾讯云官方网站：https://cloud.tencent.com/
相关·内容
1回答
我必须在球拍中进行一些我以前从未使用过的计算。
我如何强迫它计算某物的单个或一半(如果它有这些)精度浮动？
我想出了如何让它在大浮子中计算：
(bf/ (bf 1) (bf 7))
我知道浮标(双精度)的缩写是fl。不过，我还是找不出单个浮标的正确缩写。
浏览 2提问于2017-08-06得票数 0
回答已采纳
有人能解释为什么结果是252.99999999999997而不是253个吗？应该用什么来代替得到253？
double x = 2.11;
double y = 0.42;
print(((x + y) * 100)); // print 252.99999999999997
我基本上是想把小数点2(即£2.11)的币值换算成便士/美分(即211便士)，谢谢
浏览 3提问于2019-11-13得票数 2
回答已采纳
我的PHP代码：
echo -100.35+100.00;
echo '<br/>';
echo -478.35+478.32+0.03;
给出输出：
-0.34999999999999
-2.9559688030645E-14
我不明白为什么，我尝试了(浮点数)前面的值，但没有区别。
浏览 2提问于2014-04-03得票数 2
2回答
我正在Windows 10上运行Emacs24.5.1并通过工作。麻省理工学院的编辑Edwin的功能不太好，特别是在Windows上。球拍似乎是一个很好的选择。我已经安装了球拍和，一切似乎都正常。然而，racket-mode坚持要漂亮地打印我的结果.如何使它以十进制形式打印？
例如,
(require sicp)
(define (square x) (* x x))
(define (average x y)
(/ (+ x y) 2))
(define (improve guess x)
(average guess (/ x guess)))
(define (good-
浏览 5提问于2016-12-04得票数 5
回答已采纳
3回答
在我的场景中，我试图理解在数据库( Server)表中有一个带有真实数据类型的列的后果。我的数据库中有一列使用真正的数据类型。数据是静态，它总是在0.0，0.1，0.2范围内的值之一。调到1.0。
用例：，我必须总结列中的值，并在一些算术计算中使用和值，其中包括财务数据。
关注点？：--当我在列中对值进行求和时，它会给出更多小数位的结果。
测试：
我要总结列值，并将其用于乘法和除法计算。
对于具有十进制和浮点数据类型的列中的同一组值，我希望重复#1。
过程：--我已经创建了三个不同的表，具有一个列和相同的值集，但是数据类型不同，一个是十进制、浮点和实表。并对其中每一个进行算术计
浏览 6提问于2015-08-12得票数 0
以下是问题所在：
当VX为0.0 5或扣除0.0 5时，它将扣除/约0.05000001 (这将参与进入帧，FPS)
**if(vx < 5 && KR){
vx += 0.05;
}else if(vx > 0 && !KR){
vx -= 0.05;
}else if(vx < 0 && !KL){
vx += 0.05;
}else if(vx < -5 && KL)
浏览 2提问于2014-12-23得票数 1
回答已采纳
1回答
我可以得到maxima来求解一个方程，但是如果不输入float(%)的额外命令/步骤，它就无法显示它的数值。是否可以自动将已解变量转换为数字格式。
下面是方程式的例子：
kill(all); alpha:float(.0014931); endfreq:50; dursec:1200; solve(alpha=log(startfreq/endfreq)/dursec,float(startfreq));
回来的是startfreq=50%e(44793/25000)
我想用299.988代替
浏览 4提问于2014-04-02得票数 0
我在mysql数据库中处理利率。它们以双精度形式存储，通常是小数点后1000位(例如: 4.657)，但有时会更多。有时，我只需要将它们报告给第100位(例如: 4.65)，但我不能对它们进行舍入-我需要将它们截断。所以，如果我在数据库中的利率是5.6575%，我需要得到5.65%，而不是5.66%。
一般来说，TRUNCATE(int_rate，2)可以很好地工作。到目前为止，这对我来说没有任何问题。
我对以下利率有问题: 8.0300%，8.0400%，9.0300%，9.0400%，10.0300%，10.0400%……等等。只有当利率超过8%，3或4在百分之一位，其余都是0时，才会出现
浏览 1提问于2016-07-14得票数 0
1回答
我正在使用一个Money类，它要求所有货币都在int中，以便实例化它。所发生的事情是，我遇到了一个特定的数字(我尝试了各种其他数字，一切都如预期的那样工作)，当类型从float转换到int时，有一个不同的值。
我可以从一个非常高精度的数字，因为浮点数的性质在一般情况下，但这是没有任何意义的，这里我可以重现的错误.
$value = (float)9.78;
var_dump($value );
$prec = (int)(100);
var_dump($prec);
$value = $value * $prec;
var_dump($value);
var_dump((int)($value
浏览 0提问于2015-09-26得票数 2
回答已采纳
如果我没理解错的话，默认情况下球拍中的数字是不精确的。那么在什么情况下我应该显式使用不精确的数字前缀(#i)呢？它是用来做什么的？
浏览 19提问于2020-04-30得票数 1
回答已采纳
我只是在Javascript中遇到了一些很奇怪的事情。
我的脚本将13596乘以0.1，输出为：1359.6000000000001
我们可以同意0.1 = 1/10，所以我试了一下：
13596/10 = 1359.6
我用Firefox和Chrome进行了测试，结果也是一样的。
我想知道它是否与浮动有关，所以我尝试了以下方法：
13596 * parseFloat(0.1) = 1359.6000000000001
不是的。
顺便说一句，这是不平等的：
(13596*0.1) === (13596/10) => false
有人知道这个结果吗？
()
浏览 3提问于2014-11-24得票数 3
回答已采纳
为什么PHP会将(int) ((0.1+0.7)*10)的结果转换为7，而不是8？我知道当它转换为(int)时，结果将是(float) 8，结果将是7？为什么会发生这种情况？
浏览 1提问于2012-07-20得票数 2
回答已采纳
我发现这是在我做字符串到双精度转换练习时发生的(例如在stdlib.h中的atof )。我想将字符串"625“(表示双精度型的小数部分)放入双精度变量0.625。奇怪的是，当我把它作为我练习的一部分，它导致了不准确的结果0.62500000000000011或类似的东西。然而，当我以独立的方式放置它时，它工作得很好，就像下面的代码一样：
int main(int argc, char **argv) {
string str = "625";
double mask = 0.1;
double frac = 0.0;
for( int i = 0; i < sta
浏览 0提问于2012-01-07得票数 2
回答已采纳
1回答
我正在尝试将我的C程序并行化，该程序读取5000个包含数据的文件，并对文件中的每一行进行平均。例如
文件1：
1
2
文件2：
3
4
输出将为：
2
3
程序运行得很好，直到我将其并行化，然后我每次运行都会得到不同的答案。程序看起来像这样：
#pragma omp parallel for
for(int i=0; i<numFiles; i++){
//Process FILES
processFile(argv[i+2],alpha,entropySum,entropy2Sum);
}
其中，processFiles在argv中打开文件，并将行i中的
浏览 1提问于2019-01-13得票数 0
我想从浮子中移除尾随的零。我找到了多个帖子，但所有的答案都建议将浮点数转换为NSString并使用NSFormatter。
虽然这在大多数情况下可能是好的，但我正在执行XCTests，我需要浮点中的值--将生成的字符串转换回浮点数并不能给出正确的结果。
供投入：
arg0 = 0.0001;
arg1 = 0.0011;
我希望得到0.0012的结果，但是添加的arg0 + arg1给出了0.01200的答案，这反过来会为XCTest案例生成一个失败的测试。
我添加数字的方法是最简单的：
-(float)addNumber:(float)first toNumber:(float)second
浏览 1提问于2015-02-19得票数 3
回答已采纳
#include "stdafx.h"
#include "stdio.h"
#include "math.h"
int main()
{
float c;
printf("Type c");
scanf("%f", &c);
printf("C is c: %f ",c);
while(getchar()!='\n');
getchar();
return 0;
}
非常简单的代码，我只是从C开始，大多数数字都可以工作，
浏览 0提问于2011-12-15得票数 1
回答已采纳
我想在python中创建一个while循环，输出结果为列表0.00，0.05，0.10，0.15，...，1.00 我尝试了以下方法： alpha=0
alphalist=list()
while alpha<=1:
alphalist.append(alpha)
alpha+=0.05
print(alphalist) 我得到的输出为0，0.05，0.1，0.15000000000000002，0.2，0.25，0.3，0.35，0.39999999999999997，0.44999999999999996，0.49999999999999994，0.549999
浏览 21提问于2019-10-19得票数 1
回答已采纳
2回答
如何获得没有指数表示法的字符串形式的浮点数，即以"e-10"或类似形式结尾的数字？我发现to_s返回带有指数符号的数字。
ms = 1457000.0000000002 % 1000 # => 2.3283064365386963e-10
ms.to_s # => "2.3283064365386963e-10"
我很想得到"0.0000000002"，但是我没有得到正确的结果。
如果我使用上面的例子并计算"%f" % ms，我得到的是"0.000000"，
浏览 2提问于2017-09-26得票数 4
3回答
总结如下：
$a = 213480.7-190.46;
exit($a-213290.24);
# 2.9103830456734E-11
结果输出假定为0。但是它会输出
操作结果的故事：
$b is : 213480.7
-190.46
$b is : 213290.24
现在，平衡看起来是正确的。但是当使用比较运算符时..这里的结果很奇怪，这里是var_dump和compare结果
var_dump($b);
# float 213290.24
if ($b==213290.24) {
exit('same');
} elseif ($b>213290.24
浏览 0提问于2011-11-15得票数 1
回答已采纳
2回答
我想将字符串(%)转换为float.but，我的方法没有很好地工作。结果与正确的数字略有不同。例如,
a=pd.Series(data=["0.1%","0.2%"])
0 0.1%
1 0.2%
dtype: object
首先，我剥去"%“
a.str.rstrip("%")
0 0.1
1 0.2
dtype: object
我试着转换成数字，但结果很奇怪。
我想这种现象来自于二进制数字系统..。
pd.to_numeric(a.str.rstrip("%"))
0 0.10000
浏览 2提问于2016-09-07得票数 2
回答已采纳
在寻找系统中的bug时，我遇到了这种奇怪的行为。考虑一下下面的内容。
我们有一个包含varchar(100)列的mysql表。请参阅以下sql脚本。
create table user(`id` bigint(20) NOT NULL AUTO_INCREMENT,`user_id` varchar(100) NOT NULL,`username` varchar(255) DEFAULT NULL,PRIMARY KEY (`id`),UNIQUE KEY `user_id` (`user_id`)) ENGINE=InnoDB AUTO_INCREMENT=129 DEFAULT CHA
浏览 4提问于2012-07-27得票数 0
回答已采纳
我在Rails应用程序中尝试了一些小数计算，但得到了一些奇怪的结果。
@pprice = item.price - (( item.price / 100 ) * promo.discount)
@pprice = item.price - promo.discount
每个值(item.price、promo.discount等)都是一个小数。然而，在尝试计算时，我得到的结果好坏参半，没有一个是正确的总和。根据我是否包含.to_f，结果的范围从nil、0.0到-2.0。
第一次计算是基于百分比折扣，第二次计算是基于直接的金钱减少。
我已经在视图中执行了计算(以进行测试)，并且它们显示正确，
浏览 3提问于2012-10-09得票数 1
回答已采纳
3回答
我希望下面的所有比较都是bool (true)，但事实并非如此。有人能解释这个吗？
test.php
<?php
$f = 12;
$f += 5.95;
$f += 5.95;
$f += 5.95;
echo 'var_dump($f) = ';
var_dump($f);
echo 'var_dump($f == \'29.85\') = ';
var_dump($f == '29.85');
echo 'var_dump($f == 29.85) = ';
var_dump($f == 29.
浏览 2提问于2011-07-27得票数 0
回答已采纳
2回答
我在我的程序中发现了一个问题，我不知道如何修复它： 首先，我使用arange函数创建了一个值x_lin的数组，该数组的值从0.014到0.001递增 在此之后，我计算了一个名为r1的比率，然后通过一条if语句，我希望在首先创建的x_lin数组中找到该比率的值。 但是，由于将值修改为值数组，if语句不起作用。 以下是代码(我添加了一些打印来显示结果)： Fa = 400
C0 = 3800
r1 = round(Fa/C0,3)
x_lin = np.arange(0.014, 0.5, 0.001)
j = 0
ligne_r1 = 0
print('xlin='
浏览 36提问于2021-08-05得票数 0
回答已采纳
2回答
<?php
echo gettype ( 5.00 ); // return double
echo gettype((5)); // return integer
echo gettype(((167.00-158.65)/167.00*100)); // return double
echo floor(5.00);
浏览 3提问于2016-01-18得票数 5
1回答
我知道用二进制表示数字的三种方法：
整数
不动点小数(基本上只是整数除以常数)
浮点小数(基本上只是整数除以/乘以2的可变幂)
但是，所有这些都不能完全精确地表示0.1和1/3这样的数字，并且没有舍入误差。
我想表示内存中的任何有理数--存在哪些不同的表示？(与上述相比)它们的优势是什么？我如何计算它们(+-*/)？它们的范围、分辨率以及如何处理边缘情况(极小/大/精确的数字)？
下面是一些例子：
1/3
0.1
0.000001234
10^100
10^100+0.1
2/4
浏览 1提问于2017-03-22得票数 2
3回答
Ruby产生的结果是矩阵逆运算的分数，而不是矩阵乘法运算的分数。例如，以下代码：
require 'matrix'
(Matrix[ [-1/2] ] * Matrix[ [1/2]])
产生Matrix[[0]]而不是Matrix[[-1/4]]。为什么会有这种行为？
浏览 5提问于2015-08-30得票数 0
回答已采纳
出于以下几个原因，我们希望将数据从Oracle移动到SQL Server，并使其可供开发人员使用。我在上读到从Oracle NUMBER到SQL Server FLOAT的正确映射。
我们有一个关于二元有理数的问题。在Oracle中，它的值可能是5.2，而在SQL Server中似乎并非如此。(在一个字段中，有效位数可以有很大的变化。)
一位同事正在使用Access连接并查看数据问题。在SQL Server中，我对一个巨大的表进行了查询，其中一个字段等于5.2，得到的计数与Oracle相同。
select count(*) from result where samp_aliquot_size
浏览 1提问于2010-12-17得票数 0
回答已采纳
在这种情况下，我将一个双变量转换为整数。这给了我错误的结果。为什么会发生这种情况？
>>> $amount = (double) 1052.10
=> 1052.1
>>> $amount = $amount * 100;
=> 105210.0
>>> (int) $amount;
=> 105209 // weird
我能够通过先舍入变量(即：(int) round($amount))来修复它，
但我还是想知道为什么会发生这种事？
使用PHP7.2.9
浏览 1提问于2018-10-13得票数 0
我希望能够通过User记录的created_at时间戳(在本例中是：2020-08-07 11:30:28.5934908)找到它。 但结果是： User.where(created_at: '2020-08-07 11:30:28.5934908').first
=> nil 在Rails生成的MySQL查询中，找不到此(现有)用户记录的原因似乎很明显： User Load (0.4ms) SELECT `users`.* FROM `users` WHERE `users`.`created_at` = '2020-08-07 11:30:28.59349
浏览 30提问于2020-08-07得票数 2
回答已采纳
1回答
我想知道为什么会输出以下代码：
$a = log(5, 5);
$b = round(log(5, 5));
echo 'a: ';
var_dump($a);
echo '<br>';
echo 'b: ';
var_dump($b);
echo '<br>';
echo ($a == $b) ? 'equal' : 'not equal';
这
a: float(1)
b: float(1)
not equal
感谢任何能向我解释这一点的人。
浏览 2提问于2012-11-27得票数 1
回答已采纳
1回答
大家好，这里是我的问题:我如何减少一个浮点数只有小数？%.1对我来说是最好的，但当我比较另一个浮点数，如unNumero= 1.7f的代码不这样做。我想是因为浮点数有更多的数字。我怎么才能解决这个问题。我需要将stopCrono的结果与一些随机浮点数进行比较，但限制为2个小数。对不起，我的英语不是我的母语。以下是我的代码
-(空)增量：(CcTime)startCrono{
totalTime += delta ;
currentTime = totalTime;
timeLimit = 2.0f;
[timeLabel setString:[NSString stringWithForma
浏览 2提问于2012-11-17得票数 1
回答已采纳
1回答
我是prolog的新手，正在尝试学习如何编程。我想知道如何在Prolog中计算x^y，两者都是整数。
我知道事实是这样的：
% exp(y,x,z) <- z is x**y
浏览 0提问于2011-12-29得票数 2
1回答
我将我的结果与结果库进行比较，但仍然得到与结果库不同的结果，即使我有他们的数据。
我想知道是否很难得到相同的结果，为什么，可能是因为他们从java程序中调用它，而我在GUI和ARFF文件中这样做，这应该很麻烦，而且目前还没有开发。
我的问题是，如果我从一个java程序中调用它，而不是像现在从GUI中调用它，那么从ELKI生成的AUCROCcurve的结果会有所不同吗？我想得到精确的结果，并知道我做得对。
浏览 2提问于2015-07-20得票数 0
回答已采纳
我在一个算法中使用了Sympy Rational，我得到了大量的派系。分子和分母最多可达10000位。
我想在分数变得无法计算时立即停止算法。所以问题是，我可以允许的sympy.Rational的最大震级是多少？
浏览 3提问于2016-12-09得票数 3
3回答
我需要将一个简单的C程序移植到PHP。目前，我们必须启动该进程并解析其输出。该程序非常简单，但对于算法来说，使用float是很重要的，因为错误将被求和，结果将会偏离正轨。
C示例：
#include <stdio.h>
int main( void ) {
printf("%f\n", 123456 * (float)0.99524);
printf("%f\n", 123456 * (double)0.99524);
return 0;
}
PHP示例：
<?php
printf("%f\n", 123456
浏览 3提问于2011-11-15得票数 5
5回答
结果是什么？
intval("19.90"*100)
是
1989
而不是人们所期望的1990 (PHP5.2.14)？
浏览 0提问于2011-02-08得票数 3
回答已采纳
作为参考，此代码对应于。
它是一个简单的购物车/签出程序，它注册一个项目并将其成本添加到总数中，它还接受一个项目数量值。
备注:我以前读过关于javascript对数学很奇怪的文章，所以我没有被吓倒，但是我非常好奇和感兴趣地想了解这个特殊情况下的行为，所以也许我会有一些洞察力来防止将来出现这种情况。
所以，我有两个练习的解决方案，第一个没问题，第二个没有问题，我想。下面是它们：
1 1rst
与第一种方法效率低下的事实无关(多次检查所有可确认的情况，并一次又一次地添加项目成本)。引起我注意的是返回的额外十进制值。
var cashRegister = {
total:0,
ad
浏览 1提问于2015-01-05得票数 1
回答已采纳
1回答
我在浮子的乘法上遇到了很大的麻烦。
下面是一个例子：
750 * 10.7 = 8025
但是在PHP中，结果是: 8024
为什么？
编辑？
750 * 10.7 = 8024 (雷亚尔为8025) 750 * 10.2 = 7649 (雷亚尔为7650)
但以10.1 ..。10.9很好。有一段时间，我继续阅读.
浏览 1提问于2012-02-29得票数 0
回答已采纳
2回答
在PHP 5+中开发计算器时，程序员是否可以在不考虑舍入错误和小数表示不精确的情况下获得结果？
我指的是内置的完美方法，例如，以给定的精度获得结果。
或者像$x = $y * $z + 0.77这样的每个操作都必须在算法中开发额外的检查，比如舍入(为了避免错误)？
那么错误或不精确-是由PHP内置的核心决定的，还是由开发人员决定的？PHP 7支持64位，在这方面有什么改进(计算的准确性)？
浏览 4提问于2016-01-02得票数 1
我在除以大数方面有问题。如果索引在数组限制内，如果其余数为零，则我有一个while循环来对数字进行除数：
while ((i + j*arr[i]) <= lim && arr[i + j*arr[i]] % arr[i] == 0)
arr[i + j*arr[i]] /= arr[i]
end
我在arr[i]<(150*10^6)^2的最大值上使用了一个arr[i]<(150*10^6)^2数组，甚至更改为Int128也没有帮助，BigInt是不可能的，因为它花费了太多的时间。我不明白，如果循环只在
浏览 11提问于2020-07-23得票数 5
回答已采纳
1回答
我如何找出一个点(x，y)是否在其他两个点之间创建的直线上？我试过了，但似乎有些不对劲，因为我没有得到我应该得到的结果。
public boolean intersects(Point k, Point z, Point p) {
Line2D line = new Line2D.Float(k.x, k.y, z.x, z.y);
if (line.ptLineDist(p) == 0) {
return true;
} else {
return false;
}
浏览 2提问于2012-06-12得票数 2
回答已采纳
3回答
微时间()和浮点算法
、、、
我创建了一个简单的网站，从MySQL数据库中获取文章。我使用PHP函数来计算解释时间。在我的PHP脚本顶部，我使用了：
$time = microtime(true);
在页面底部，我使用了以下代码：
echo microtime(true) - $time;
当我在脚本的顶部和底部用这些语句刷新我的网页时。它总是与周围的值相呼应(0.0355005264282；只是一个实例)。这就是解释我的PHP页面所花费的时间。
正如PHP手册()所述，microtime(true)以微秒为单位返回当前的unix时间戳。每秒一微秒is one millionth of。所以,
(例如)
0.03 micr
浏览 8提问于2013-02-14得票数 6
回答已采纳
我一直在使用度量衡对象来转换大部分长度。但我有个奇怪的问题。如果我从英里到脚转换，我得到的答案几乎是正确的。
import Foundation
let heightFeet = Measurement(value: 6, unit: UnitLength.feet) // 6.0ft
let heightInches = heightFeet.converted(to: UnitLength.inches) // 72.0 in
let heightMeters = heightFeet.converted(to: UnitLength.meters) // 1.8288 m
let l
浏览 1提问于2018-03-19得票数 6
回答已采纳
我目前正在学习，并遇到了一个奇怪的结果(我不认为这是朱莉娅的具体行为！)，我很想知道原因。在Julia中，可以检查两个值之间的相等性(如Integer、Float等)。使用==或isequal()。例如，您可以检查4和表达式2+2之间的相等性，如下所示：
julia> isequal(4, 2+2)
true
但当我尝试以下两种说法时，我得到了一个意想不到的结果：
julia> isequal(0.6, 0.5 + 0.1)
true
julia> isequal(0.6, 0.4 + 0.2)
false
我搞不懂这有什么不同。任何帮助都将不胜感激。
另外，在Julia中
浏览 3提问于2022-07-07得票数 2
回答已采纳
1回答
(Python 3.8)
有没有一种方法，例如，如何将1/3的整个结果存储到一个变量中？
foo = 1/3
和foo将包含一个周期数(0.333333333333333333.)
浏览 1提问于2020-05-04得票数 1
回答已采纳
3回答
这个问题要求编程语言接受数字常量，以便分配给任意精确变量，或者用于任意精确表达式，而无需在赋值或表达式中的应用程序之前执行对IEEE浮点表示的转换。例如，以下伪语言赋值表达式：
BigNum x = 0.1;
许多语言提供或访问库，这些库将允许从文本字符串构造这样的BigNum类型对象。我正在寻找编程语言，它可以将数字令牌(如0.1 )直接转换为BigNum，而无需程序员创建一个字符串，该字符串随后必须被解析，并可能在运行时抛出异常或标记错误。相反，我对编译器或标记程序在将数字文字处理为任意精度十进制或整数比表示之前可以报告格式错误的数字或无效表达式的语法错误感兴趣。
从上的网站上可以看出，、
浏览 0提问于2014-01-15得票数 6
回答已采纳
因此，在使用PHP编程时，我们发现了一些奇怪的事情正在发生。
我们从数据库中提取了我们的数字，并得到了正常的结果。
然后，我们将在if语句中评估结果，如果是这样的话。
if(abs($number1 + $number2) < .05){
// do that
}else{
// do that
}
当我们打印来自abs($number1 + $number2)的输出时，它显示了.05的结果，因此逻辑上我们的if语句应该已经执行，但它将.05 < .05计算为true。为什么？
浏览 2提问于2015-10-28得票数 1
回答已采纳
当我尝试通过NSNumberFormatter将NSString @"8.8"转换为NSNumber时
NSNumberFormatter *formatter = [[NSNumberFormatter alloc] init];
[formatter setNumberStyle:NSNumberFormatterDecimalStyle];
[formatter setMaximumFractionDigits:2];
[formatter setPositiveFormat:@"###0.##"];
NSNumber *result = [format
浏览 2提问于2011-09-29得票数 0
回答已采纳
可能重复：
为什么当使用javascript将两个数字相加时，它会返回一个疯狂的小数点数？
如果我在纸上加上285.72 + 142.86，它等于428.58，你可以用计算器得到同样的答案。
但是，如果我从两个文本框中添加这个数字，它将返回428.58000000000004。
我需要我的javascript返回428.58。我知道我可以使用.toFixed()，但我不喜欢这样做，因为我不明白为什么将两个数字相加会在小数点之后创建这么一个疯狂的数字。
浏览 5提问于2011-08-23得票数 6
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
实时音视频
即时通信 IM
对象存储活动推荐
腾讯云开发者
