计算浮点数据类型的范围
计算浮点数据类型的范围是指确定浮点数可以表示的最大值和最小值。浮点数是一种在计算机中表示实数的方法，它可以表示的范围非常广泛。在计算机中，浮点数通常使用IEEE 754标准来表示，该标准定义了一种双精度浮点数（64位）和一种单精度浮点数（32位）。
对于双精度浮点数，其范围是从约-1.8 x 10^308到约1.8 x 10^308，其中正负无穷大分别表示为正无穷大和负无穷大。对于单精度浮点数，其范围是从约-3.4 x 10^38到约3.4 x 10^38，其中正负无穷大分别表示为正无穷大和负无穷大。
需要注意的是，由于浮点数的表示方式，它们不能精确地表示所有实数，因此在进行计算时可能会出现一些误差。在实际应用中，应该根据具体情况选择合适的数据类型来表示数据。
相关·内容
我试图设置渲染管道和MTKView颜色附件像素格式的MTLPixelFormatRGBA16Float。
然而，对于MTLPixelFormatBGRA8Unorm_sRGB来说似乎是一样的。
我只想使渲染颜色范围更高(HDR)。
片段函数的返回类型重要吗？
我应该设定什么来实现金属的高动态范围？
浏览 2提问于2018-07-13得票数 8
3回答
我们的老师要求我们搜索这一点，我一直从网上得到的是解释，说明什么是双重和浮动的意思。
你能告诉我这是可能的还是不可能，并解释为什么或为什么不？
浏览 0提问于2015-11-12得票数 0
我认为类似的问题已经回答了here和here。我在执行梯形和辛普森的1x3法则的代码中也遇到了类似的问题。我已经在台式机上运行了代码，运行良好，但使用不同的机器，代码失败。我正在分享代码和错误消息。 代码 import numpy as np
exp = 5.33333
ul = 10
ll = -10
n = 50
def f(x): # The function
return np.e**x**2
def trapezoidal(ll, ul, n): #Setting up Trapezoidal r
浏览 137提问于2021-08-17得票数 0
回答已采纳
如果行中的价格为38.03，则以下搜索限制应全部返回包含结果的行。
WHERE price >= '38.02' AND price <= '38.03' (这是可行的)
WHERE price >= '20' AND price <= '100' (这是可行的)
WHERE price >= '38.03' AND price <= '38.03' (这不起作用)
WHERE price >= '38.03' AND price <=
浏览 0提问于2010-09-08得票数 9
回答已采纳
为什么应用程序通常不使用整数数据类型(如C++/Java/C#中的int或long )在内部表示货币值，而不是使用浮点数据类型(float、double)或类似Java的BigDecimal
例如，如果我正在编写一个Java应用程序，并且我有一个变量希望表示以美元表示的实际值(不需要表示几分钱)，那么我可以声明一个表示美分数的int值。例如，值"$1.00“将表示为100。与使用double (请参阅问题)或BigDecimal (这是一个比简单的原始int更重量级的对象)相比，这似乎是一个很好的选择。
显然，在向用户显示整数值之前，或者在用户输入货币值时，需要对整数值进行“转换”(即
浏览 3提问于2011-03-19得票数 16
回答已采纳
最近我做了一些关于固定精度和浮点类型的实验。我发现一个讨厌的双，是我不能看到所有数字的浮动和实际类型。我试着投十进制(30，20)，但这给了我很多小数(精确)小数。我的猜测是，内部强制转换为浮动(53)，然后转换为十进制(30，20)。我问自己这到底是怎么回事？
下面的说明了这个问题：
DECLARE @r real, @f float
SET @r= 15.49
SET @f= 15.49
SELECT
@r AS 'Real',
CAST(@r as DECIMAL(30,20)) AS 'Real as Decimal',
@f
浏览 10提问于2015-09-12得票数 0
4回答
Java中float和double的包含范围是多少？
为什么不建议您在精度要求很高的情况下使用float或double？
浏览 1提问于2009-10-30得票数 27
回答已采纳
numeric、float和decimal数据类型之间有什么区别?在哪些情况下应该使用哪种数据类型？
对于任何类型的金融交易(例如，对于薪资领域)，哪种交易是首选的，为什么？
浏览 2提问于2009-06-29得票数 384
回答已采纳
1回答
我试图滚动金额或金额之和，但结果-3,5527136788005E-15。我手工计算数量，结果等于零。有什么问题吗？对这种情况有什么看法吗？
SELECT
XX.*,
SUM(QTY) OVER(order by DATE_, FICHENO, STFICHELNNO ROWS BETWEEN UNBOUNDED PRECEDING AND CURRENT ROW) as TOTALQTY
FROM (
SELECT
STFICHE.DATE_ DATE_,
STFICHE.FICHENO FICHENO,
STLINE.STFICHELNNO
浏览 9提问于2022-07-16得票数 -3
回答已采纳
1回答
嗨，我正在使用DB2中的EXP()命令，类型为float的列，如下所示
select distinct 1 - power(0.9144,exp(beta - 0.1)) from mytable
在这里，这一切都很好，直到我在(beta - 0.1)周围引入了exp()。beta是一个浮动，范围在3018.878989897931到12289.951602012534之间。
我所犯的错误是
Arithmetic overflow or other arithmetic exception occurred.. SQLCODE=-802,SQLSTATE=22003,DRIVER=3.64.1
浏览 0提问于2014-05-13得票数 0
回答已采纳
1回答
我有一个表，表中有两个坐标列。这些列是真正的数据类型，我注意到从我的应用程序中只显示了坐标的5个小数点，而且位置不够精确。我决定将数据类型改为浮动，这样我就可以使用更多的小数。令我惊喜的是，当我改变列数据类型时，小数突然出现了，而不必再存储所有坐标。
有人能告诉我为什么会这样吗？实际数据类型上的十进制精度会发生什么？插入数据时，数据不是四舍五入和截断吗？为什么当我改变数据类型时，精确性却没有丢失数据？.
浏览 3提问于2017-05-23得票数 0
2回答
我正在开发一个java应用程序，使用double类型来保存单价、数量等值。我发现MSSQL中显示的这些值中的一些是NAN，并且当我尝试重用it.This时抛出无限错误是如此不合理，我可以保存它，但不能再使用它！我认为MSSQL中的NaN值必须是有效的，当它第一次出现在java中时，所以我可以save.How，什么时候发生这个问题？
浏览 1提问于2009-03-10得票数 0
在金属着色器的实现中，建议使用half4而不是float4。但是如何知道我们是否可以使用half4而不是float4呢？如何知道我们需要多少精度？
浏览 1提问于2019-10-26得票数 2
回答已采纳
3回答
什么是浮点数组？
、、
我对Java很陌生，我的书提到了浮点数组。我们已经覆盖了浮动和双倍。我知道浮子比双面浮子精确多了。
但是，在显示浮点数组的最大值和最小值时，书中有一个问题。我以为你会用以下方法：
float [] array = new float [100];
然而，这本书使用了以下内容：
double [] array = new double [100];
也许我被弄糊涂了，因为这可能是我脑海中的文字游戏。请有人建议这两个例子是否都是浮点数组？我已经搜索了谷歌和许多论坛，但我仍然没有定论。
浏览 4提问于2014-03-18得票数 0
回答已采纳
SQLAlchemy有三种主要的浮点数类型：Float、FLOAT和REAL。它们之间的语义区别是什么？有什么东西能一致地映射到32位和64位的浮点数在不同方言之间吗？
浏览 3提问于2014-06-26得票数 5
目前，dbcc DATA_PURITY在我的一些列中抱怨实际值低于正常值，比如7.561407E-42。我宁愿将它们保存在我的表中，并要求dbcc忽略它们。
我对上限的检查和其他列类型的检查都没有意见。所以我宁愿继续运行这个实用程序，但不要抱怨它的价值很低。
有办法做到这一点吗？
浏览 0提问于2014-01-27得票数 2
1回答
我有一个应用程序来管理项目成本，从一百万美元到数十亿美元。最初，用户输入一个项目的估计:所谓的“拨款金额”。
问题是：
原始值不按预期进行转换。一些例子包括：
他们进入: 111,222,333
改为: 111,222,336人
他们进入: 111,222,333,444
转换为: 111,222,333,440
这里出现的问题：
这个问题是在以下代码行转换时产生的.
project.AppropriationAmount = (!String.IsNullOrEmpty(txtAppropriationDollars.Text)) ? Convert.ToSingle(txtAppropri
浏览 0提问于2011-09-29得票数 0
回答已采纳
4回答
我正在准备一堂课(我在教)，我试图预测来自学生的任何可能的问题，我遇到了一个我无法回答的问题：
如果我们有浮标，为什么我们会使用ints呢？这有什么意义呢？
我知道(或者至少我认为)浮点需要更多的内存，因为它们具有更高的精确度，但当然，就大多数非嵌入式应用程序而言，两者之间的差异几乎可以忽略不计。
我意识到，在很多情况下，我们实际上不需要浮点，但老实说，为什么我们一开始就有ints呢？这有什么意义呢？没有什么是int能做的--浮子做不到。
那他们为什么会在那里？
编辑:您可能会认为它们更容易编写(3比3.0)，但是您可以将所有数字默认为浮动，这样3将被视为3.0。为什么要把它变成另一种类型呢？
浏览 7提问于2013-12-08得票数 7
2回答
总结这个问题，我无法使用SQLAlchemy针对浮点值选择任何实体。
例如：
m = session.query(Model).get(1);
all_m = session.query(Model).filter(Model.some_float_value, m.some_float_value)
all_m是空的，而我希望它总是至少有一个！
如何根据任意精度(EG )在SQLAlchemy中筛选浮点值。有些我可能想要匹配0.01，另一些我可以过滤精度为0.0005)。
例如，我希望能够编写一个泛型函数，这样我就可以在代码中编写这样的查询：
session.query(Model)\
浏览 7提问于2014-05-15得票数 1
回答已采纳
3回答
这听起来可能很傻。但是我对python很陌生，我喜欢在我的程序中使用相等的条件，并且遇到了一个非常令人惊讶的障碍。这里的实际问题是，最后一个条件r==rmax不满足，我将错过循环的迭代，但这不是我担心的问题。
比起(琐碎的)工作，有人能向我解释(简单地说是怎么回事)吗？(还有为什么无论我运行多少次这个循环，数字结果都是相同的，因此它是系统的，而不是概率的)。确保这种情况不会发生的正确方法(我的意思是我在所有编码中都应该采用一种编程实践，这样就不会再发生这种无意的差异了)？--我的意思是这样的循环在我的代码中无所不在，这让我很担心。
我似乎不能相信python中的数字，这将使它作为一个计算工具变
浏览 0提问于2015-11-05得票数 2
我有一些浮点引用的C代码。这段代码最终将在DSP处理器(专有)上移植/执行，在该处理器上它将使用无符号8位精度的数据类型，变量的小数值缩放到0-1.0范围内。
对于其他具有16位精度浮点值的DSP目标，我编写了如下代码，将全精度(32位浮点值)转换为半精度(16位浮点值)，并对目标进行建模。
I had a function
float bin32tobin16(float val;)
{
float ret;
val = &= ~(0x1fff);
//I used to loose 13 bits of mantissa of a binary32 float to get
浏览 4提问于2011-03-29得票数 2
回答已采纳
1回答
我创建了一个名为：
sub
，带字段：
addn numeric (24,6) NULL
我使用了这个txt文件中的值来插入。
问:为什么我要问这个问题：
select SUM(addn) from sub
结果：
131546008007.610000
如果我将结果粘贴到Excel中：
select * from sub
这笔款项是：
131546008007.57
注意:查询中有4 (-0.01)个。我不知道这是不是触发以及如何解决这个问题
浏览 0提问于2018-01-25得票数 1
回答已采纳
我在R中构建了一个xgboost模型，并在PMML中导出它(用r2pmml)。
我用R和PMML (用Java)测试了相同的数据集，输出的概率非常接近，但它们在1e-8和1e-10之间都有很小的差异。这些差异太小，不会因为输入数据出现问题而引起。
这是一种在不同语言/软件之间绕圈子的典型行为，还是我在某个地方犯了一个错误。
浏览 3提问于2021-08-09得票数 0
回答已采纳
如何存储小数点个数可变的数字？我猜可能有从1到100个小数点的任何地方。float数据类型是怎么回事？为什么他们称它为近似数？Decimal很好，但据我所知它是固定精度的数据类型。有没有关于精确数字的好文章？我的数据库将与.net前端交互，我还需要在前端显示这些精度。
浏览 1提问于2011-08-03得票数 0
在自动化我们的内部应用程序时，在显示excel文件中的数值时遇到了一个问题--使用Selenium (使用Java和TestNG框架)自动化应用程序。
发行：
数值数据在xlsx文件中更新，没有后缀“.0”。
但是，在控制台中显示数据时，这些数据显示如下，后缀为".0“
输入xlsx文件如下：
24213
24214
24215
24216
控制台中的输出：
资料来源: 24213.0
资料来源: 24214.0
资料来源: 24215.0
资料来源: 24216.0
下面是代码片段，请您告知是什么使代码显示这个意外的输出
浏览 5提问于2015-05-14得票数 0
回答已采纳
Java浮点/双类型和VB.NET的浮点/双类型之间有什么区别吗？
编辑:它们都使用相同的规范吗？(IEEE 754)
浏览 5提问于2013-06-07得票数 2
3回答
我不确定升级是否仅仅意味着将数据类型转换为更大的数据类型(例如，short转换为int)。
或者升级意味着将数据类型转换为另一种“兼容”的数据类型，例如将short转换为int，这将保持相同的位模式(额外的空间将被零填充)。转换是否意味着将像int这样的东西转换为float，从而创建一个完全不同的位模式？
浏览 4提问于2015-01-28得票数 9
回答已采纳
1回答
我正在编写生成复杂查询的分析软件。在生成where子句时，可能会在同一数据库字段上添加多个约束。我想知道PostgreSQL是否会将多个约束重写为更简单的约束。我做了一些测试：
SELECT COUNT(id) FROM employee WHERE age BETWEEN 18 AND 40;
我运行了10次，平均时间是65ms。现在我让查询变得更长一些，但优化起来很简单：
SELECT COUNT(id) FROM employee WHERE
(age BETWEEN 18 AND 40) AND
(age BETWEEN 18 AND 40) AND
(age BETWEEN 18 A
浏览 1提问于2016-07-12得票数 2
所以我有点困惑为什么会发生这样的事情。
我有一个二进制镜像：
现在我想将这个二进制图像转换到RGB空间，因此我使用dstack函数来连接第三个轴。
到目前为止，一切运行正常，但是现在我必须将out_image数组乘以255以在RGB空间中反映白色，这就是出现问题的地方，所有东西都变成了黑色。
但如果我绘制另一个随机图像，一切都很好，所以这里发生的事情，我也玩过cmap，但无论我使用哪种类型的cmap，乘以255时，结果总是黑色
有什么想法吗？
浏览 5提问于2017-02-05得票数 10
回答已采纳
4回答
我在为班级做贷款计算器。我几乎完成了，但唯一缺少的是如何绕过INTEREST_RATE，而不是298.95833333333337美元，我想要得到298.96美元。但我不知道怎么做。
输入您的旧原则= 25000
输入您当前的付款= 450
以往余额:25000.0美元
付款:450.0美元
支付利息:151.04166666666666美元
支付原则:298.95833333333337美元
新校长:24701.041666666668美元
import java.util.Scanner;
public class LoanCalculator {
/**
* @param arg
浏览 8提问于2014-09-26得票数 0
回答已采纳
我有一个从C#代码到SQL Server2008执行的查询：
INSERT INTO [tableName] (valueColumn) @Value
其中，sql是带有DbType.Single和Value = 45.01的@Value参数的名称
执行查询后，我在表值45,0099983215332而不是45,01中看到
为什么会发生这种情况？
ps:列的类型为float
浏览 3提问于2012-04-18得票数 1
1回答
我有一个包含float(10,5)和decimal(10,5)列的表
我将表更新为：
update table1
set decimaltesting = 12311123123123123.456789,
floattesting = 12311123123123123.456789;
结果是：
decimal = 99999.99999
float = 100000.00000
但是，如果我将列更改为float(6,3)和decimal(6,3)，并使用与上面相同的值更新它
结果是：
float = 999.999
decimal = 999.999
为什么对于第一个场景，浮点值将是100
浏览 1提问于2013-12-11得票数 3
回答已采纳
因此，我们有一个多维数据集设置，可以进行多到多个货币转换。在此之前，汇率度量组使用了汇率的货币数据类型，但我没有意识到这仅限于小数点4位。在SSAS中唯一的其他数据类型是双和单，当汇率可能需要超过4位小数位时，人们使用什么作为汇率数据类型？从外汇汇率的角度来看，一个双位将精确到多少位小数点？
浏览 0提问于2021-04-05得票数 0
2回答
我有一个浮点值，我试图用以下代码插入Server表中：
SqlConnection connection = new SqlConnection(ConnectionString);
SqlCommand command = new SqlCommand("AddNewValue", connection);
command.CommandType = CommandType.StoredProcedure;
command.Parameters.Add("value", SqlDbType.Float).Value = value;
try
{
c
浏览 3提问于2016-04-13得票数 0
回答已采纳
我正在用java执行以下代码，但我得到了两个不同的答案，在数学上应该是相同的数字。
public class TestClass {
public static void main(String[] args) {
double a=0.01;
double b=4.5;
double c=789;
System.out.println("Value1---->"+(a*b*c));
System.out.println("Value2----
浏览 0提问于2015-03-18得票数 2
如何在GWT中计算18%的佣金？我可以简单地将它乘以0.18，但我认为它通常不会用于金钱和科学计算。我需要准确的结果，与准确的舍入。
谢谢。
浏览 1提问于2012-02-03得票数 1
回答已采纳
3回答
我想使用vb.net执行小数的基本计算。
Dim a As Single= 7200.5
Dim b As Single= 7150.3
Dim c As Single= a - b
'Expected result = 50.2
MsgBox(a.ToString + " - " + b.ToString + " = " + c.ToString.Trim)
'Produced result is: 50.2002
Dim single1 As Single
Dim single2 As Single
Dim single3 As Sing
浏览 2提问于2012-11-15得票数 3
回答已采纳
。这种情况也发生在枕部，长度很小，例如n= 2**7：
import numpy as np
from scipy.signal import max_len_seq
import matplotlib.pyplot as plt
seq = max_len_seq(7)[0]* 2 - 1
acorr = np.correlate(seq, seq, 'full')
plt.plot(acorr);
但不能使用更长的长度，例如n=2**8
seq = max_len_seq(8)[0]* 2 - 1
acorr = np.correlate(seq, seq,
浏览 0提问于2018-03-20得票数 1
回答已采纳
1回答
我正在为Facebook测试一个照片应用程序。我正在从Facebook API获取对象ID，但我收到了一些不正确的ID，这是没有意义的-为什么Facebook会发送错误的ID？我调查了一下，发现17位以上的数字会自动变成偶数！
例如，假设我应该从Facebook收到的ID是12345678912345679。在调试器中，我注意到Flash Player会自动将其转换为12345678912345678。我甚至尝试手动将其设置为奇数，但它一直更改为偶数。
有没有办法阻止Flash Player对数字进行舍入？顺便说一句，这个变量被定义为Object，我从Facebook那里收到了这个变量。
浏览 0提问于2012-02-23得票数 3
回答已采纳
double d = 1000000000138719341D;
System.out.print(Double.valueOf(d).longValue());
打印结果为
1000000000138719360
为什么会有所不同？怎样才能得到正确的结果呢？
浏览 0提问于2017-08-24得票数 1
2回答
我正在为iphone和ipad编写一个应用程序，我的程序需要将两个双精度值相加才能得到一个双精度值。问题是，当其中一个双精度值相当大(例如: 2^100)而另一个很小(如1或2 )时，将这两个双精度值相加的结果是错误的，或者它甚至不执行加法。有没有人知道为什么会这样，有没有办法绕过它。谢谢。
浏览 0提问于2011-09-23得票数 1
2回答
public class MyCalculator {
int q = 1;
int w = 2;
int e = 3;
int r = 4;
int t = 5;
public float average() {
// TO DO: write java code to calculate the average for all input variables
int average = (q + w + e + r + t);
average = average / 5;
浏览 0提问于2019-04-01得票数 0
当我注意到一些有趣的事情时，我正在研究一些二进制实践问题。计算机如何区分二进制值。例如，二进制中的13是1101，而0.8125也是二进制中的1101。由于它们的二进制值是相同的，计算机如何知道哪一个是哪一个。或者，如果我把它转换成10基数，我怎么知道这个数字最初是13还是0.8125？
浏览 9提问于2015-06-25得票数 1
回答已采纳
我的一个朋友说，他们在使用decimal列存储货币格式(例如保存1000.00 )时遇到了一些奇怪的问题，这会导致它被存储为999.99。
但是，我刚刚测试了一下，1000.00在decimal(19,4) / MySQL 5上存储为1000.0000。有没有人能洞察他们可能遇到问题的原因？也许这是一个老的MySQL错误，在保存到数据库之前在应用程序端不正确的计算？
这是一个ROI字段，我存储的货币价值可以高达数千，仅供参考。
浏览 1提问于2010-06-08得票数 3
回答已采纳
精确度损失是一回事，但精确度增益？
我有一个包含以下坐标的文本文件：
41.88694340165634 -87.60841369628906
当我将其粘贴到SQL Server Mgmt Studio表视图中时，结果如下：
41.886943401656339 -87.608413696289062
我是在做梦吗？这怎麽可能？
我正在从记事本粘贴，它是原始文本。如果我直接输入字符，也会出现同样的问题。
sql server从哪里获得额外的精度？
浏览 0提问于2009-07-29得票数 3
回答已采纳
2回答
有很多玩家，包括我和一些朋友。我们注意到，对于不同的人，同样的事情可以运行不同的方式。模拟中的数学问题绝对是罪魁祸首。原因是否在硬件、操作系统、浏览器、32位/64位等方面尚不清楚。但是对于我们必须测试的组合，我们已经从相同的模拟开始条件中获得了5个不同的最终结果，并且可能会得到更多。
这让我想知道，有没有浮点数学规范？如果有，它对计算的准确性和确定性有什么规定？
我将其与Java进行比较，后者使用Math类区分常规浮点运算，而使用StrictMath类和strictfp关键字区分确定性浮点运算。两者总是在精确结果的1ULP内，这也意味着对于单个操作或函数调用，常规数学和严格数学总是给出彼此在
浏览 32提问于2018-06-09得票数 1
1回答
更多的是一个理论问题，但是为什么VBA编程语言中没有float数据类型(带十进制符号的32位数字)，有什么特殊的原因吗？
在VBA中似乎没有任何逻辑编程限制，它能够很好地利用Double (64位)。这只是一个疏忽--认为它是不必要的，还是在VBA中缺少float背后有一个逻辑原因？
浏览 0提问于2018-02-19得票数 2
回答已采纳
2回答
有人能解释一下SQL Server中的以下结果吗？我被难住了。
declare @mynum float = 8.31
select ceiling( @mynum*100)
831格式的结果
declare @mynum float = 8.21
select ceiling( @mynum*100)
822格式的结果
我已经测试了一系列数字(在SQL Server 2012中)。一些增加了，而另一些保持不变。我不明白为什么天花板对待他们中的一些人是不同的。从float更改为decimal(18,5)似乎可以解决这个问题，但我担心这样做可能会遗漏其他影响。任何解释都会有所帮助。
浏览 0提问于2014-10-03得票数 1
我的功能是截断双数据类型vaiable的十进制位，如下所示
public double GetTruncate(double tobeTruncated, int divideFactor)
{
if (divideFactor == 0)
return Math.Truncate((double)tobeTruncated);
else
{
tobeTruncated = tobeTruncated * divideFactor;
浏览 2提问于2011-07-29得票数 0
回答已采纳
1回答
我正在尝试写一个代码，它将计算出给定数字中5个连续数字的最大乘积。
我的代码尝试将数字转换为数组，然后对数组进行for循环，将每5个连续的单个数字相乘，并将其与最后一个数字进行比较。
一旦我通过该函数传递的数字超过21位，我猜计算机会将该数字转换为科学记数法，从而使整个函数失效。
这是代码，它在21位数字下运行得很好：
function func(value){
var number = value;
console.log(number);
var output = [];
sNumber = number.toString();
console.lo
浏览 2提问于2013-02-20得票数 1
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
实时音视频
即时通信 IM活动推荐
腾讯云开发者
