浮点数的八度精度:它是不是在引擎盖下的128位？
浮点数的八度精度是指浮点数的精确度，通常用于描述计算机中浮点数的表示和计算精度。它并不是指浮点数在引擎盖下的128位。
浮点数是一种用于表示实数的计算机数据类型，它可以表示带有小数部分的数值。在计算机中，浮点数通常使用IEEE 754标准进行表示，其中包括单精度浮点数（32位）和双精度浮点数（64位）两种常见的精度。
单精度浮点数的精度为大约7位有效数字，双精度浮点数的精度为大约15位有效数字。这意味着在进行浮点数计算时，结果的有效数字位数可能会受到限制，可能会出现舍入误差。
浮点数的精度对于科学计算、金融计算、图形处理等领域非常重要。在一些对精度要求较高的应用中，可能需要使用更高精度的浮点数表示，例如128位浮点数或更高精度的浮点数。
腾讯云提供了多种云计算服务和产品，其中包括计算、存储、数据库、人工智能等领域的解决方案。具体关于浮点数精度的相关产品和介绍，可以参考腾讯云的官方文档和产品页面。
请注意，本回答中没有提及其他云计算品牌商，如有需要可以进一步了解相关内容。
相关·内容
在我的客户契约中，我有这样的规则
{
foo: like(1.2)
}
我想要求的是foo要么是浮点数，要么是整数。然而，在提供程序端，对于整数的pact测试失败。
我的提供者端(PHP)看起来如下所示：
myApi() {
return [
foo => (float) 1 // Returns 1 in PHP, not 1.0
];
}
提供者真的需要返回1.0而不是1，还是可以以不同的方式编写合同？
浏览 3提问于2020-01-14得票数 0
回答已采纳
#include <iostream>
#include <iomanip>
using namespace std;
int main()
{
float f = 17793.03;
cout.setf(ios::fixed|ios::showpoint);
cout<<setprecision(3);
cout<<f<<endl;
}
结果17793.029
我过去经常使用Python，我不知道为什么会发生这种情况。谢谢
浏览 2提问于2016-05-09得票数 1
在C#中使用decimal或float有什么区别？我知道float用于更精确的小数，而decimal用于货币或价格等少数小数，但当它用于少数小数时，为什么使用decimal比使用float更好
浏览 0提问于2015-10-27得票数 3
在ghci终端中，我使用sqrt函数与Haskell计算了一些方程。
我注意到，当sqrt结果被简化时，有时会丢失它的精度。
例如,
sqrt 4 * sqrt 4 = 4 -- This works well!
sqrt 2 * sqrt 2 = 2.0000000000000004 -- Not the exact result.
通常，我会期待2的结果。
有什么方法可以得到正确的简化结果吗？
在哈斯克尔这是怎么回事？
浏览 1提问于2014-06-28得票数 1
回答已采纳
我正在将Matlab/Octave中的一些代码编写成C++代码。我只有八度，所以从现在开始我只说八度。我想正确地比较八度码和C++码之间的结果。我正在编写的算法以一个2D矩阵作为输入，并输出另一个2D矩阵。
为了比较结果，我使用函数A和默认选项从八度写入输入矩阵save A.mat A。这将创建一个ascii文件A.mat，启动如下
# Created by Octave 3.8.1, Tue May 27 12:12:53 2014 CEST <remi@desktop>
# name: values
# type: matrix
# rows: 25
# columns: 5
浏览 4提问于2014-05-27得票数 2
回答已采纳
1回答
我想在RStan中定义一个协方差矩阵。 类似于如何为标量和向量值提供约束，例如实数a，我想提供协方差矩阵的前导对角线必须为正的约束，但非对角线分量可以采用任何实际值。 有没有办法强制要求矩阵也必须是半正定的？否则，产生的一些样本将不是有效的协方差矩阵。
浏览 51提问于2019-06-19得票数 1
回答已采纳
下面是解释代码。语言是Java，代码使用Android。
fg.setTextSize(height*0.50f); //<-'f' is in the brackets
或
@Override
protected void onSizeChanged(int w, int h, int oldw, int oldh) {
super.onSizeChanged(w, h, oldw, oldh);
sWidth = w / 3f; // <-'f' is here
}
后缀“f”是什么意思？
浏览 0提问于2011-01-11得票数 8
回答已采纳
我在书中和网络上看到过几个例子，他们有时在声明浮点值时使用小数位，即使它们是整数，有时还使用"f“后缀。这有必要吗？
例如：
[UIColor colorWithRed:0.8 green:0.914 blue:0.9 alpha:1.00];
这与以下内容有何不同：
[UIColor colorWithRed:0.8f green:0.914f blue:0.9f alpha:1.00f];
后面的"f“有什么特别的意思吗？
去掉alpha值的尾随零也是可行的，因此它变成：
[UIColor colorWithRed:0.8 green:0.914 blue:0.9 alph
浏览 0提问于2010-03-08得票数 3
回答已采纳
2回答
为什么Float以Real的形式存储在sys.columns或Information_schema.columns中，而在precision <= 24中。
CREATE TABLE dummy
(
a FLOAT(24),
b FLOAT(25)
)
检查数据类型
SELECT TABLE_NAME,
COLUMN_NAME,
DATA_TYPE,
NUMERIC_PRECISION
FROM INFORMATION_SCHEMA.COLUMNS
WHERE TABLE_NAME = 'dummy&#
浏览 6提问于2017-01-13得票数 2
回答已采纳
1回答
尝试执行服务器端验证，其中有HTM5编号输入：
<input ... min="1" max="20" step="0.1" />
浏览器将允许您输入诸如"10.5“之类的值，但是在PHP中如何对其进行双重检查？对于那些不会进行验证的浏览器(以及您不应该信任来自浏览器的数据的事实)。
if (fmod(floatval($value), 0.1) == 0) {
// valid
}
这不起作用，因为在这种情况下，fmod()返回"0.099999..."，如下所示：
您可以将$value乘以10，并
浏览 3提问于2012-10-15得票数 4
回答已采纳
只是想知道我是不是漏掉了什么。我来自ObjC，在那里NSTimeInterval是一个双精度，它提供了“在10000年的范围内的亚毫秒精度”。与Unity相比，Unity使用浮点表示时间，一天后(可能更快)就会开始崩溃。例如，Math.Approximately(1天，1天+1帧)返回true (而1小时vs 1小时+1帧正确返回false)。实际上，当我整晚都在玩游戏，回来时，注意到一些与时间相关的奇怪行为，我就体验到了这一点。
浏览 0提问于2014-04-02得票数 5
我已经将Keras模型转换为CoreML。我想确保CoreML的所有纹理都使用半浮点数而不是全浮点数。我该怎么做呢？
更新:如何确保网络的输出是半浮点型或至少是浮点型(或任何其他类型)而不是双精度？
浏览 13提问于2017-08-31得票数 1
回答已采纳
当在八度中计算带整数项的矩阵(甚至3x3矩阵)的特征值时，有时它会报告一个浮点值，比如9.1940e-17，而实际上应该是零。例如，当我绘制一些数字模1时，一个值-2e-17在图中变成1，但实际上应该是0。
虽然我可以把答案近似到小数点后的几位，但在计算特征值和浪费计算时间时，它仍然会在内部计算17位小数点。是否有可能从一开始就只对所有数量进行小数点8位左右的处理？
如果这是不可能的，它是否有可能告诉八度(在一个脚本中一劳永逸)大约所有的数量，直至小数点8位，而报告？
浏览 1提问于2020-04-14得票数 1
回答已采纳
4回答
这感觉像是那种只会在现场失败的代码，但我会尝试将其改编为代表我所看到的代码片段。
float f = myFloat * myConstInt; /* Where myFloat==13.45, and myConstInt==20 */
int i = (int)f;
int i2 = (int)(myFloat * myConstInt);
在单步执行代码、i==269和i2==268之后。到底是什么原因造成了这种差异呢？
浏览 3提问于2010-03-25得票数 7
回答已采纳
我有一个网络转移学习，并希望在两个GPU培训。到目前为止，我已经对其中一项进行了训练，并正在寻找加快速度的方法。关于如何最有效地使用它，我得到了相互矛盾的答案。
strategy = tf.distribute.MirroredStrategy(devices=["/gpu:0", "/gpu:1"])
with strategy.scope():
base_model = MobileNetV2(weights='imagenet', include_top=False, input_shape=(200,200,3))
x =
浏览 3提问于2020-07-10得票数 0
4回答
我正在设计一个多用途的C++数学库，将用于创建界面，游戏等。不幸的是，我陷入了设计困境，需要一些意见。数学库包含常用的Vector、Math、Matrix类，但我无法确定是使用浮点数还是双精度数。
有人能列举出全浮点或全双精度的几个缺点吗？这个世界是不是正走向使用所有的替身，我甚至应该为浮点数而烦恼吗？
考虑到这一点，是否有我应该考虑的架构优势，例如，在64位系统上使用doubles会更好吗，32位系统上使用浮点数会更好吗( SIMD操作呢？)
设计这样一个系统的理想方式是什么？
浏览 4提问于2012-02-12得票数 2
2回答
在八度，我得到
1 - 0.05 -0.95 = 0
和
1 - 0.95 -0.05 = 4.1633e-17
据我所知，这是由评价的顺序所引起的，再加上0.05的近似二元表示为0.00(0011)，0.95为0.11(1100)，请有人告诉我整个故事，或者给我一个解释的链接。
--编辑:这个问题不是的副本，其他人认为它可能是重复的。后者处理数字的四舍五入表示。前者要求提供计算执行顺序影响结果精度的机制的细节。
浏览 1提问于2019-01-18得票数 1
回答已采纳
我正在处理一个问题，C程序返回的结果不如简单的计算器返回的好，精确地说也不一样精确。在我的计算器上，当我把2000008除以3，得到666669.333333，但在我的C程序中，我得到666669.312500，这就是我要做的-
printf("%f\n",2000008/(float)3);
为什么结果是不同的？我该怎么做才能得到和计算器一样的结果？我尝试了double，但随后它返回了另一种格式。我需要进行转换吗？请帮帮忙。
浏览 4提问于2014-05-04得票数 1
回答已采纳
1回答
大多数神经网络都是用浮点权重/偏差进行训练的。
量化方法可以将权重从浮点型转换为整型，以便在较小的平台上部署。
您能否从头开始构建神经网络，以约束所有参数，并将其更新为整数算法？
这样的网络能达到很好的准确性吗？
浏览 2提问于2018-04-10得票数 0
在我的代码中，我一度将Sprite的alpha设置为0.7
square.alpha = 0.7;
if (square.alpha == 0.7) {//do stuff}
我一直在挠头，为什么它不能工作，直到我做了一个trace(square.alpha);，而不是0.7，我得到了0.69921875。
这个数字(0.69921875)对于我将alpha设置为0.7的每个sprite实例都是相同的。
我做了几个测试，看起来alpha的值只有0、0.5和1返回的值与我设置的值完全相同。其他任何东西似乎总是返回一个非常非常接近我设置的数字，但不完全是。例如，0.2会给我0.19921875
浏览 2提问于2013-05-28得票数 2
回答已采纳
在八度音阶中，浮点数的输出默认限制为4位(%.4f)。有没有办法使用IPython来设置这种行为？
浏览 0提问于2010-10-26得票数 9
回答已采纳
我想知道是否有人知道他们的头顶，如果团结做任何优化的引擎盖下浮动。
因为它们的mathf函数本质上封装了C# math函数，大概是因为它使用浮点数而不是小数，这本身就是一种优化，但它们仍然是ulong的两倍资源，ulong可以用来存储值，然后除以10的因子。
当进行物理计算时，每帧要处理数百到数千个浮子，似乎我们想要得到所有的opt。
最理想的情况是，我被告知我希望使用指针，我将提供一个链接，但我不喜欢在不安全的环境中运行。
浏览 2提问于2016-10-17得票数 1
回答已采纳
1回答
我刚刚开始用iPhone 5S和OpenGL ES应用程序上的64位架构进行测试。我看到的问题是，(CGFloat)值在到达着色器时是错误的。我传入0.8，当我调试着色器时，它会更改为-1.58819e-23。我使用glUniform4fv()传递值。我需要使用不同的数据类型还是？或者是另一种传递值的方法？当我在32位上测试时，这个值会很好。
CGFloat brushColor[4];
brushColor[0] = 0.8;
brushColor[1] = 0.1;
brushColor[2] = 0.1;
brushColor[3] = 0.3;
glUniform4fv(progr
浏览 2提问于2013-10-31得票数 7
回答已采纳
using namespace std;
int main()
{
float f1 = 5488955, f2 = 0.2197265620, f3 = 0;
f3 = f1 + f2;
f3 = f3 - f1;
cout << f3<<endl;
return 0;
}
为什么f3值打印为0而不是0.2197265620
浏览 1提问于2020-08-19得票数 0
1回答
两者有何不同：
CGFloat gray[4] = {0.9f, 0.9f, 0.9f, 1.0f};
和
CGFloat gray[4] = {0.9, 0.9, 0.9, 1.0};
我认为它们是一样的，但我不确定。
浏览 0提问于2012-06-05得票数 1
回答已采纳
7回答
在使用eval(...)开发一些工程规则值引擎时，我遇到了以下问题实现。
Dim first As Double = 1.1
Dim second As Double = 2.2
Dim sum As Double = first + second
If (sum = 3.3) Then
Console.WriteLine("Matched")
Else
Console.WriteLine("Not Matched")
End If
‘'Above条件返回false，因为s
浏览 0提问于2011-05-06得票数 4
我正在寻找一个函数，它将在0和1之间生成随机值。我用八度的rand()函数生成了12万个随机值，但没有得到0或1作为输出的值。rand()曾经产生过这样的价值吗？如果没有，我还可以使用其他功能来达到预期的结果吗？
浏览 2提问于2015-04-23得票数 14
回答已采纳
在中，它描述了如何以纳秒精度格式化日志时间戳。此外，在中，据说默认的时间戳来自System.getCurrentTimeMillis()，如果您想要一个不同的时钟，则应该将log4j2.component.properties中的属性log4j2.clock设置为实现org.apache.logging.log4j.core.util.Clock的类的完全限定类名。在中，我看到上述接口只允许毫秒精度，但它有一个子接口org.apache.logging.log4j.core.time.PreciseClock，它允许纳秒精度。我已经实现了一个类
package my.package;
impo
浏览 6提问于2021-10-29得票数 0
有一个数据集(仅供测试)如下: 0.1，0.2，0.3，0.4，0.5，1.1，1.2，1.3，1.4，1.5，0.1，0.2，0.3，0.5，我想得到最小0.1和最大1.5之间的频率计数，而bin(步骤大小)是0.1。我已经测试了Matlab，八度，起源，和AWK脚本。然而，我得到了完全不同的结果。
1. Matlab
data = [0.1 0.2 0.3 0.4 0.5 1.1 1.2 1.3 1.4 1.5 0.1 0.2 0.3 0.4 0.5];
edge = 0.1:0.1:1.5;
count = histc(data, edge);
结果是：
count = [2 4 0
浏览 2提问于2012-12-06得票数 3
回答已采纳
因此，我有一个将数据从Oracle迁移到Snowflake的管道。Oracle中有一列的数据类型为NUMBER，我在Snowflake中对其使用了NUMBER(38, 18)。 我的管道昨天开始失败，因为Oracle中的列现在有21位数字，而NUMBER(38, 18)在Snowflake中无法处理这些数字。我换成了NUMBER(38, 17)，现在还行得通。 雪花中有没有NUMBER的等价物，这样它就可以处理来自甲骨文的任何值？我不可能更改Oracle表的数据类型。
浏览 14提问于2021-07-01得票数 1
3回答
我有这个字符串: 1303317717.65384 -它是一个带有毫秒(65384)的UNIX时间戳(65384)。
如何在Java中将其转换为浮点型？我总是在发的时候得到1.06172723E9，但我只想要它是1303317717.65384。
谢谢!
浏览 0提问于2011-04-21得票数 5
回答已采纳
有没有一种简单的方法让scriptlet从下面的结果中访问一个字段？它应该是什么样子的？
${item.options}不是以<%= pageContext.getAttribute("item.options") %>格式编写的
我知道我可以设置一个新的pageContext变量并访问它。但我想也许有一种更优雅的方式。
我知道scriptlet并不理想，但我只是在原型化。
浏览 0提问于2012-12-23得票数 1
回答已采纳
为什么switch表达式不允许在Java语言中使用long、float、double或boolean？为什么只允许int (以及自动升级到int的那些)？
浏览 0提问于2011-02-28得票数 37
1回答
我试图计算两点之间的距离，使用acos()函数在process...but中，我没有得到精确的result..in情况，距离很小。
float distance_between(dest& point1,dest point2) {
float EARTH_RADIUS = 6371.0;//in km
float point1_lat_in_radians = point1.lat*(PI/180);
float point2_lat_in_radians = point2.lat*(PI/180);
float point1_long_in_radians = point1
浏览 2提问于2015-09-05得票数 2
回答已采纳
这是一个简单的例子，说明了对我不起作用的东西：
CREATE TABLE Vertex(
PointID CHARACTER(15) PRIMARY KEY,
Height FLOAT(6,3)
);
在这样的输入之后：
INSERT INTO Vertex values("Tryout 1",555.22689562);
我希望用值来保存身高: 555.227，但对我来说不是这样，我一直在寻找保存的全部数字。
您能告诉我如何定义列类型并包含格式xxxxxx.xxx的备选方案吗？
浏览 3提问于2013-11-12得票数 0
回答已采纳
1回答
我在使这个自定义丢失函数(它检查y_pred数据是否与y_true提供的实际排序索引一致)方面存在一些问题：
def custom_objective(y_true, y_pred):
y_true = tf.cast(y_true, tf.float32)
ordered_output = tf.cast(tf.nn.top_k(-y_pred, k=5)[1], tf.float32)
return tf.sqrt(tf.reduce_mean(tf.square(ordered_output - y_true), axis=-1))
我可以使用示例数据正确地运行它
浏览 4提问于2017-02-28得票数 3
我读到printf的%f说明符用于double，它会自动将浮点数转换为double。但我在书中找不到任何证据(尽管在网络上有说明)。
我无法访问ANSI标准文件的副本，也无法在glibc源代码中找到具体位置。我已经在"The C Programming Language，第二版“中进行了搜索。
我需要一些特别适用于ANSI C的东西。
正如effeffe指出的那样，在C89标准3.3.2.2中有一段说明了我正在寻找的东西。在C99中这只是一个不同的段落。
浏览 1提问于2014-04-06得票数 0
可能重复：
当我在eclipse中执行以下代码时，结果不是0，而是5.5511151231258E-17。
$a = 0.1+0.2-0.3;
echo $a;
谁能告诉我原因吗？
浏览 3提问于2011-08-25得票数 2
3回答
我想要一个宏，它可以决定给定的变量是否为指针？
我的要求如下：
#define IS_PTR(x) ?
#define MY_TEST(x) IS_PTR(x)?&(*x):x ===> 1 if ptr and 0 means ref.
void main()
{ int a;
int *b;
int *c = MY_TEST(*b) ====> I have to *b instead of b directly
====> after precompilation
浏览 1提问于2015-09-16得票数 2
我正在解一个大型的非线性方程组，我需要很高的数值精度。我目前正在使用sympy.lambdify将方程组及其Jacobian的符号表达式转换为矢量化函数，该函数以ndarray作为输入，并返回ndarray作为输出。
默认情况下，lambdify返回一个d类型为numpy.float64的数组。是否有可能让它返回一个具有dtype numpy.float128的数组？这可能需要输入具有numpy.float128的dtype。
浏览 0提问于2014-10-08得票数 2
回答已采纳
我希望将字符串字段从CSV输入文件转换为特定的数据类型，即布尔型、小数型、数字型和整型。
当我在Dataweave中这样做时，我收到一条消息，告诉我dataweave不能将字符串转换为整数。
以下是其中一种转换的示例：
Rate: payload01."rate" as :number,
如何进行转换？
String -> Integer
String -> Decimal
String -> Boolean
String -> number
我使用的是Anypoint Studio 6.2和Mule 3.8.1
谢谢
浏览 16提问于2017-01-11得票数 1
回答已采纳
我想要一些精确形式的答案，但不是出于输入输出的目的。
float a = cos ( 90*(PI/180)) gives 1.794897E-09
正如我想要的，在我的变量中最多有8位小数的答案，它将给出
0.00000000
setprecision或其他方法无助于将值存储在变量中。如何存储它？基本上，它甚至可能不是8位或9位数。我所要的就是在我的答案中限制指数形式
浏览 0提问于2015-07-23得票数 0
我知道浮点精度在常规情况下是如何工作的，但我在C#代码中偶然发现了一个奇怪的情况。
为什么这里的result1和result2不是完全相同的浮点值？
const float A; // Arbitrary value
const float B; // Arbitrary value
float result1 = (A*B)*dt;
float result2 = (A*B);
result2 *= dt;
从我认为浮点运算是左结合的，这意味着值是以从左到右的方式进行计算和计算的。
完整的源代码涉及XNA的四元数。我不认为我的常量是什么和VectorHelper.AddPitc
浏览 3提问于2010-03-22得票数 5
回答已采纳
在我的Windows代码(OpenGL 4)中，我使用这个来计算片段着色器中的纹理位置：
vec2 pixel = "some equation"
vec2 textureSize = vec2(512.0, 512.0);
vec2 texel = floor(pixel + vec2(0.5)) + vec2(0.5);
texel /= textureSize
如果我在iOS (OpenGL ES 3.0)上运行这段代码，我的整个图像在x和y方向上会发生部分移位。我试着删除vec2(0.5)，只使用
vec2 texel = floor(pixel + vec2(0.5)
浏览 2提问于2017-10-29得票数 1
我的MySQL数据库中有一个customer invoice表，其中包含一个名为price的十进制(10，2)字段。
当在php中获取这些值并计算总和时，
例如:在脚本中
$totalAmount = 0; // initialised them to
while(records){
$amount = $inv_amount - ($pay_amount + $onamount); //float i guess. 2.22, 14.22
$totalAmount = $totalAmount + $amount; //fl
浏览 1提问于2012-06-20得票数 6
回答已采纳
4回答
定点乘法
、
我需要根据非常数将一个值从一个单位转换为另一个单位。输入值范围为0到1073676289，范围值范围为0到1155625。转换过程可以这样描述：
output = input * (range / 1073676289)
我自己最初的定点实现感觉有点笨拙：
// Input values (examples)
unsigned int input = 536838144; // min 0, max 1073676289
unsigned int range = 1155625; // min 0, max 1155625
// Conversion
unsigned int tmp
浏览 0提问于2012-12-04得票数 2
执行这样的简单减法：
Dim a, b As Double
a = 81.4
b = 76.0
MsgBox(a - b)
你会期望它的结果是5.4，但相反，你得到了5.4000000000000001，发生了什么？
浏览 0提问于2015-03-25得票数 0
回答已采纳
因此，正如标题所述：
Ubuntu15.10，如果我挂在工具栏上它是可以的，如果我关闭笔记本盖子，当我恢复它继续登录我/要锁定屏幕10-20秒后。
我有一台razer笔记本电脑，我尝试过其他一些建议(暴发户和systemd)，图形驱动等等，但是没有什么效果。
浏览 0提问于2015-12-13得票数 0
回答已采纳
我正在使用Achartengine来制作图形，到目前为止，当我使用浮点数据来制作线形图时，achartengine并没有那么令人困惑，而achartengine在小数点上切割了数字。但是，如果我使用PieGraph并计算所有部分的百分比，并将这个数字放入表示该部分的图形中，它会再次从小数点开始计算数字。例如，我得到三个数字: 28,51,20，和只有99 :) LineGraph也只接受整数，所以它将344.6减少到344。有没有可能使用achartengine使浮点数出现在图形上？
浏览 0提问于2012-03-20得票数 0
回答已采纳
我正在用Java 7 64位编写一个LibGDX程序。
当我使用junit测试一个接收浮点数作为参数的函数时，我得到了一个奇怪的结果。我使用123.123456f作为参数调用函数，该函数接收123.12346。这一切为什么要发生？
当我使用12.123456f作为参数时，它得到了正确的结果。123.12345f还在工作。
因此，我使用System.out.println(...)来检查输入。
这对我来说并不重要，但我只想知道原因。非常感谢!
你好，安东尼
浏览 0提问于2014-02-21得票数 1
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
实时音视频
即时通信 IM活动推荐
腾讯云开发者
