浮点数的十进制精度
是指浮点数在十进制表示中的精确度。浮点数是一种用科学计数法表示的实数，由两部分组成：尾数和指数。尾数表示数值的大小，指数表示数值的位移。
浮点数的十进制精度取决于尾数的位数。常见的浮点数精度有单精度（32位）和双精度（64位）。单精度浮点数可以表示大约7位有效数字，而双精度浮点数可以表示大约15位有效数字。
浮点数的十进制精度在科学计算、金融计算、图形处理等领域非常重要。在进行浮点数计算时，精度的损失可能会导致计算结果的不准确性。因此，在需要高精度计算的场景中，应该选择双精度浮点数来进行计算。
腾讯云提供了多种与浮点数计算相关的产品和服务，例如云服务器、云数据库、云函数等。这些产品和服务可以帮助用户进行高性能的浮点数计算，并提供稳定可靠的计算环境。
更多关于腾讯云相关产品和服务的信息，请访问腾讯云官方网站：https://cloud.tencent.com/
相关·内容
2回答
我有一个浮点值，我试图用以下代码插入Server表中：
SqlConnection connection = new SqlConnection(ConnectionString);
SqlCommand command = new SqlCommand("AddNewValue", connection);
command.CommandType = CommandType.StoredProcedure;
command.Parameters.Add("value", SqlDbType.Float).Value = value;
try
{
c
浏览 3提问于2016-04-13得票数 0
回答已采纳
简单问题：
Console.WriteLine("Double: " + 2.0151231E7);
双人: 20151231
Console.WriteLine("Single: " + 2.0151231E7F);
单曲: 2.015123E+07
为什么？
背景:我正在使用soap服务，其中声明了一个元素：
<xsd:element name="VALUE_FROM" type="xsd:float" />
在soap响应中，如下所示：
<VALUE_FROM>2.0151231E7</VAL
浏览 5提问于2012-07-18得票数 1
回答已采纳
2回答
我有这个c#代码。
double x = 5.8856571269513607
double result = Math.Exp(-x * x)
结果值为0.00000000000000090286393216423726。
我想把这个移植到，所以我就这么做了。
declare @x numeric(17,16),
@result numeric(32,31)
set @x = 5.8856571269513607
set @result = CAST(exp(-@x * @x) AS numeric(32,31))
@结果的值为0.000000000000090
浏览 2提问于2014-09-03得票数 2
回答已采纳
2回答
在本示例代码中
double number = 2646849856355434345;
Console.WriteLine( number % 5 );
如果我用Double来做这个手术，它不会给出一个精确的答案。在这里，它将输出"1“，其中应该输出"0”。
对于大双数，是否有提高精度的方法？
注意:我了解BigInteger，我可以使用它们，但是BigInteger需要很长的时间，我想知道我是否可以使用双精度。
浏览 1提问于2016-04-10得票数 2
回答已采纳
这是一个简单的例子，说明了对我不起作用的东西：
CREATE TABLE Vertex(
PointID CHARACTER(15) PRIMARY KEY,
Height FLOAT(6,3)
);
在这样的输入之后：
INSERT INTO Vertex values("Tryout 1",555.22689562);
我希望用值来保存身高: 555.227，但对我来说不是这样，我一直在寻找保存的全部数字。
您能告诉我如何定义列类型并包含格式xxxxxx.xxx的备选方案吗？
浏览 3提问于2013-11-12得票数 0
回答已采纳
2回答
我想打印出双精度值的字符串表示而不损失精度使用ToString()当我尝试将其格式化为字符串时得到以下结果：
double i = 101535479557522.5;
i.ToString(); //displays 101535479557523
我如何在C#中做到这一点？
浏览 1提问于2011-01-21得票数 2
1回答
我有一个使用数字类型表示的浮点值的表。如何使用libpq从该字段中获得浮点值？
postgres中有一种特殊的浮点类型格式，但我必须使用现有数据库中的数字字段。我还没有在Postgres文档中找到关于它的信息，所以非常感谢您的每一个信息。
浏览 1提问于2015-09-18得票数 2
回答已采纳
我想要一些精确形式的答案，但不是出于输入输出的目的。
float a = cos ( 90*(PI/180)) gives 1.794897E-09
正如我想要的，在我的变量中最多有8位小数的答案，它将给出
0.00000000
setprecision或其他方法无助于将值存储在变量中。如何存储它？基本上，它甚至可能不是8位或9位数。我所要的就是在我的答案中限制指数形式
浏览 0提问于2015-07-23得票数 0
当使用32位浮点数将数据转换到缓冲区或从缓冲区转换数据时，nodejs似乎使用一些使转换不可逆的条件将浮点数扩展为双精度：
> f=3.81357913e+32
3.81357913e+32
> b.Buffer.alloc(4)
<Buffer 00 00 00 00>
> b.writeFloatBE(f)
4
> b
<Buffer 75 96 6b 4f>
因此，原始值(3.81357913e+32)现在似乎表示为0x75966b4f (Big endian IEEE-754，单精度)，当您读取相同的值时，您会得到一个不同的值：
&
浏览 3提问于2019-11-26得票数 1
在我的c#控制台应用程序中，我希望将双精度变量转换为字符串类型。但是结果字符串变量应该至少有小数点左边的3位和小数点右边的1位。示例: 3.4569应转换为"003.4“
它对上面的例子有效，但对于后面的转换抛出错误的结果。
double Num = Math.Pow((3 + Math.Sqrt(5)), N); //6578336356630531.0 for N=22
string StringNum = Num .ToString("000.0");
它的结果..
StringNum ="6578336356630530.0";
但这将会是
浏览 2提问于2013-04-03得票数 3
回答已采纳
我正在使用3.x版本。对于何时应该使用十进制和浮点数类型，我感到有点困惑。
是否有任何具体的用例/差异，什么时候应该使用浮点数或避免十进制，反之亦然？
我已经通过了一些快速教程，没有涵盖这一差异。有人能帮我理解这个吗？
浏览 7提问于2019-10-18得票数 7
2回答
我有一个Active Record模型，它接受一个Float属性和相应的表：
# app/models/test.rb
class Test < ActiveRecord::Base
end
# db/schema.rb
ActiveRecord::Schema.define(version:20150208185300)
enable_extension "plpgsql"
create_table "tests", force: true do |t|
t.datetime "created_at"
t.d
浏览 3提问于2015-02-08得票数 1
回答已采纳
我已经搜索了一些这个，但是我还没有为我的请求找到正确的信息。在我的MySQL表中，我要存储一个double，其中一些例子是5.60或2.44。我想知道是否可以存储一个最大长度的双人，就像INT(9)一样。我是使用十进制(2，2)还是使用双(2)？
浏览 2提问于2017-08-30得票数 1
回答已采纳
3回答
我想打印比默认精度更高的浮点数。
例如，当我从一个浮点数中打印出PI的值时，我得到了6个小数。但是，如果我将相同的值从浮点数复制到双精度数中并打印出来，我会得到14个小数。
为什么当打印相同的值但作为双精度值时，我会获得更高的精度？
在打印浮点数时，如何让Console.WriteLine()输出更多小数，而不需要先将其复制到double中？
我也尝试了0.0000000000，但它并没有写得更精确，它只是添加了更多的零。:-/
我的测试代码：
float x = (float)Math.PI;
double xx = x;
Console.WriteLine(x);
Console.Writ
浏览 1提问于2017-03-07得票数 1
我的简单RubyMotion代码：
data = DataParser.parse(url)
error_ptr = Pointer.new(:object)
json = NSJSONSerialization.JSONObjectWithData(data, options: 0, error: error_ptr)
url是一个天气API，它提供了一个具有像{ "temp_c":22.4, ... }这样的浮动温度的JSON。奇怪的是，浮动22.4被转换为22.3999938964844.
如果我检查data.to_s，温度会读取22.4，所以我假设错误在NSJSONSe
浏览 2提问于2013-03-22得票数 3
回答已采纳
为什么
Console.WriteLine((1000000f + 0.10f).ToString("N2"));
打印
1 000 000新标准000.00
但没有1,000英镑000.10美元吗？
当我使用类型“双”或“浮动”减去1000000 -这个问题消失了！
浏览 7提问于2017-02-16得票数 0
回答已采纳
6回答
我是在上测试这段代码的
double d1 = 1.000001;
double d2 = 0.000001;
Console.WriteLine((d1 - d2) == 1.0);
结果是"False“。当我更改数据类型时：
decimal d1 = 1.000001M;
decimal d2 = 0.000001M;
decimal d3 = d1-d2;
Console.WriteLine(d3 == 1);
程序会写出正确的答案："True“。
这
浏览 0提问于2009-09-08得票数 5
回答已采纳
3回答
我曾经认为float可以在逗号之后使用最大6位数和double 15。但是如果我打印限制
typedef std::numeric_limits<float> fl;
typedef std::numeric_limits<double> dbl;
int main()
{
std::cout << fl::max_digits10 << std::endl;
std::cout << dbl::max_digits10 << std::endl;
}
它打印float 9和double 17？
浏览 2提问于2017-11-04得票数 1
回答已采纳
4回答
这感觉像是那种只会在现场失败的代码，但我会尝试将其改编为代表我所看到的代码片段。
float f = myFloat * myConstInt; /* Where myFloat==13.45, and myConstInt==20 */
int i = (int)f;
int i2 = (int)(myFloat * myConstInt);
在单步执行代码、i==269和i2==268之后。到底是什么原因造成了这种差异呢？
浏览 3提问于2010-03-25得票数 7
回答已采纳
所以我一直试图把浮点数中的有效数字数和精度的相对损失联系起来，但我似乎无法理解。我之前读过一篇文章，上面说要做以下事情：
将浮点数设置为2147483647。你会发现它的价值实际上是2147483648。
从浮点数中减去64，您将看到操作是正确的。
从浮点数减去65，你会看到你现在有2147483520，这意味着它实际上减去了128个。
那么，当有10个有效数字时，为什么是128呢？我理解如何存储浮点数(1位表示符号，8位表示指数，23位表示尾数)，并理解如果假设所有整数都会自动在浮动数据结构中找到精确的归属，那么将如何丢失精度，但我不知道128来自何处。我的直觉告诉我，我
浏览 3提问于2011-08-10得票数 5
回答已采纳
1回答
我在Django中进行数据分析，并试图创建一个数据库查询，该查询可以迭代模型并在间隔内打印出行数。
问题是，结果的总数各不相同。如果“间隔”被更改，“总计”也会发生变化。它为什么要这么做？
# Get the data
data = COPD6Model.objects.filter(patient=patients)
# Calculate the min and max value
max_min = data.aggregate(Max("fev1_procent"), Min("fev1_procent"))
max = float(max_min.ge
浏览 2提问于2015-12-12得票数 1
回答已采纳
#include <stdio.h>
int main(void) {
float score1;
float score2;
float score3;
float value;
printf("Please enter three exam score: ");
scanf("%f", &score1);
scanf("%f", &score2);
scanf("%f", &score3);
printf("
浏览 8提问于2022-03-29得票数 3
是否有任何标准函数可以帮助我比较两个浮点值之间的max()或min()？
我已经为这个min()和max()函数编写了不动点实现，从q0s32到q32s0类型(33种类型)。
但是我想用std:min()和std::max()函数来测试我的函数的精度损失，但是从std函数得到的.But结果并不好。
我试过这样做，但这对我没有用，因为结果不像预期的那样。
代码:
float num1 = 4.5000000054f;
float num2 = 4.5000000057f;
float resf = std::max(num1,num2);
printf("Result is :%20.
浏览 2提问于2020-01-29得票数 0
回答已采纳
2回答
在我的计算机体系结构CS作业中，我遇到了这个有趣的问题。我的教授希望我们找到一个单精度和双精度的数字，这样当你将它们中的任何一个加1时，数字都不会改变。为什么这是有意义的，我如何才能找到这些数字？
谢谢!
浏览 1提问于2012-04-17得票数 2
回答已采纳
1回答
这些是c语句。为什么10.12不显示预期的值？
int main(){
printf("10.10 =%.15\n“，1.10)；printf("10.12 =%.15\n”，10.12)；printf("10.15 =%.15\n“，10.15)；返回0}；
预期产出：-
10.10 =10.100000000000000
10.12 = 10.120000000000000
10.15 = 10.150000000000000
实际产出：-
10.10 =10.100000000000000
10.12 = 10.119999999999999
10.15
浏览 1提问于2021-06-05得票数 0
我试图用Python和这个维基百科页面来教自己Chudnovsky的算法：
关于wiki，我的重点是“高性能迭代实现，可以简化为”：
我试着用西格玛符号对最右边的方程式进行编码。我对Python很熟悉，但数学不太好。我为自己设定的目标是看我是否能准确地打印出至少100位的pi。
公式中有5组括号，所以我试着对这5个不同的组件进行编码。我还编写了一个执行阶乘的函数，因为在5个组件/括号中的3个中使用了阶乘。
这是我的23行代码，有人能帮我理解一下为什么它不能精确到100位吗？精确到28位数: 3.1415926535897932384626433832。第29位是8，但应该是7.
i
浏览 26提问于2022-05-28得票数 1
回答已采纳
4回答
当简单地分配一个只包含4个有效数字的浮点值时，我发现了一些错误。我写了一个简短的程序来调试，但我不明白问题出在哪里。在我的平台上验证了浮点数的限制后，似乎不应该有任何错误。这是什么原因造成的？
#include <stdlib.h>
#include <stdio.h>
#include <limits>
#include <iostream>
int main(){
printf("float size: %lu\n", sizeof(float));
printf("float max: %e\n"
浏览 2提问于2016-01-29得票数 1
Sever 2000
是具有以下有效值的浮点数数据：- 3.40E + 38至-1.18E-38、0和1.18E-38至3.40E+ 38。存储大小为4字节。在Server中，real的同义词是float(24)。
Server 2005
实的ISO同义词是浮动(24)。
编辑:根据我正在阅读的内容，它显示的精度为7，但我可以输入我的数据库( Server 2005)的最大值9，参见下面类似的问题7。
例子: 0.180000082
真实的真正精度是什么，是否有可能影响精度的配置选项(即:兼容性模式)？
浏览 3提问于2010-01-13得票数 1
回答已采纳
输入后
from decimal import *
getcontext().prec = 6
Decimal (1) / Decimal (7)
我知道它的价值
Decimal('0.142857')
但是，如果我进入Decimal (1.0/7)，我会得到
Decimal('0.142857142857142849212692681248881854116916656494140625')
浏览 0提问于2012-09-06得票数 6
回答已采纳
在我的代码中，我得到了这样一个数组：
array(['2.83100e+07', '2.74000e+07', '2.79400e+07'],dtype='|S11')
我如何“削减”我的价值观，比如：
2.83100e+07 --> 2.831 ?
诚挚的问候!
浏览 1提问于2015-11-24得票数 1
回答已采纳
很高兴在十多年后在这里再次提出一个问题(上一个问题是关于BASH脚本的，现在我在公司，猜猜.是关于excel的;)
这是我的问题/问题:我正在导入带powerquery的数据以进行进一步的分析
我发现导入的值包含未出现在原始表中的extradigits。
我在谷歌上搜索了这个问题，但我没有找到解释或解决方案(类似的问题是，这个问题已经有一年多了，但没有得到微软的反馈)。
(在屏幕截图中，列被格式化为文本，但即使格式化为数字，问题仍然存在)
我现在正在使用的解决方法，但我不满意的是以下几点：
我“增加了小数点”以确保捕获了我的所有数字(在我的源中，条目没有所有相同的有效数字)，
浏览 10提问于2022-11-29得票数 -1
在我的JS应用程序中，有大量来自后端服务的数据。我不想丢失小数点后的任何数字。
然而，当一个像999999999999999.99这样的数字被赋给JS中的一个变量时，它会将其舍入为1000000000000000，并将99999999999999.99转换为99999999999999.98。
这两个数字都在限制之内。即小于Number.MAX_SAFE_INTEGER
在下面的屏幕截图中可以看到上面的操作：
有人能解释一下吗？
浏览 8提问于2019-04-30得票数 0
1回答
我只是好奇，是否有人能向我解释，为什么在我的代码中，这些不同的数据类型是不同的？(注意:这不是变量的实际声明方式，而是它们的存储方式。为了清楚起见，我把它们展示成这样)
double amount = 15 ;
double taxPercentage = 0.015;
decimal itemTax;
首先，不四舍五入的结果：
itemTax = (decimal)(amount * taxPercentage);
// itemTax returns -0.225
如果我先舍入，然后加到十进制：
itemTax = (decimal)(Math.Round(amount * taxPe
浏览 0提问于2018-03-28得票数 0
回答已采纳
7回答
我创造的乐趣，但我仍然想认真对待它，一个网站，主办各种测试。通过这些测试，我希望收集统计数据。
一些数据将包括测试完成时间的百分比。我可以轻松地计算测试的百分比，但是我希望返回真实的数据，因为我在完成测试时存储各种不同的值。
大多数值都是PHP浮动的，所以我的问题是，如果我想要真正的统计数据，我应该将它们以浮动、双或十进制的形式存储在MYSQL中。
我想利用MYSQL的函数，如AVG()和LOG10()以及TRUNCATE()。对于MYSQL来说，根据我插入的值返回真正的数据，我应该使用什么作为数据库列的选择。
我之所以这样问，是因为有些数字可能是浮动的，也可能不是浮动的，例如，10、10.8
浏览 0提问于2013-10-26得票数 92
回答已采纳
1回答
#include <iostream>
#include <iomanip>
#include <vector>
using namespace std;
int(main){
std::vector<int> vObj;
float n = 0.59392;
int nCopy = n;
int temNum = 0;;
while (fmod(nCopy, 1) != 0) {
temNum = (nCopy * 10); cout <<
浏览 1提问于2022-08-27得票数 2
回答已采纳
3回答
下面是KN King的现代编程方法中摘录的解决方案代码。
#include<stdio.h>
int main(void)
{
int i;
float j,x;
scanf("%f%d%f",&x,&i,&j);
printf("i = %d",i);
printf("x = %f",x);
printf("j = %f",j);
}
输入：
12.3 45.6 789
预期结果:
i = 45
x = 12.3
j = 0.6
实际结果：
i
浏览 4提问于2013-11-24得票数 0
回答已采纳
为什么10000000000000.126.toString() 1000000000000.127和100000000000.126.toString()不同？
我认为这一定与Js中的数字的最大值有关(根据)，但这与浮点运算以及如何相关？
我之所以问这个问题，是因为我写了这个函数来格式化一个使用千位分隔符的数字，并想要防止这种情况发生。
function th(n,sep) {
sep = sep || '.';
var dec = n.toString().split(/[,.]/),
nArr = dec[0].split('
浏览 3提问于2011-07-03得票数 1
回答已采纳
我正在使用Arduino串行通信向Arduino程序中输入数字。
但每当我在arduino串行通讯中插入浮点数或双精度数时，
number的精度与字符串值不一致。
这里有一张图片来帮助解释到底发生了什么。
字符串是我在串行输入中输入的内容，double是我将数字转换为double时得到的内容。
String GPSNumCor1;
double GPSNumCor;
void setup() {
// put your setup code here, to run once:
Serial.begin (9600);
Serial.println("What
浏览 26提问于2019-11-19得票数 0
回答已采纳
1回答
对于我的GDX程序，我制作了一个带有两个按钮的选项菜单。其中一个增加音量，另一个降低音量。每当单击按钮时，它都会增加/减少0.1。代码如下：
soundMButton = new ImageButton(drawableSoundM);
soundMButton.addListener(new ClickListener(){
@Override
public void clicked(InputEvent event, float x, float y) {
if (Constants.soundLevel > 0.0) {
Co
浏览 0提问于2017-07-03得票数 0
我跑：
(double (float 3.14159))
我得到了：
3.141590118408203
如果我把它说到：
(double (float 3.141))
我得到: 3.1410000324249268
这种转换是用什么方法进行的？
浏览 1提问于2016-01-26得票数 1
回答已采纳
我正在建立一个电子商务应用程序，在那里我将存储由客户支付的金额，即高达2位的十进制数字。这笔金额将用于大量计算，如财务计算、报告等。
对于这类计算，我应该选择decimal还是float？
浏览 1提问于2014-08-07得票数 1
当我在Python中将float转换为decimal.Decimal，然后调用Decimal.shift时，可能会根据浮点数给出完全错误和意外的结果。为什么是这种情况？
转换123.5并移动它：
from decimal import Decimal
a = Decimal(123.5)
print(a.shift(1)) # Gives expected result
上面的代码输出1235.0的预期结果。
如果我转而转换和移动123.4：
from decimal import Decimal
a = Decimal(123.4)
print(a.shift(1)) # Gives
浏览 6提问于2021-05-31得票数 3
回答已采纳
我使用的是odoo 8，我导入了一个excel文件，在小数点之后引入了浮点数3位。在将odoo 8中的数据作为树视图导入后，我注意到odoo只在这些数字的逗号之后显示2位数，并且它执行舍入操作，但是我希望保持excel文件中的值(没有舍入，小数点之后有3位数字)。能帮我个忙吗？
浏览 1提问于2018-07-24得票数 1
回答已采纳
1回答
这里是第一个问题。已查看常见问题，但未找到答案。
我使用Kochan书学习Obj C，他将%i分类为整数，%f分类为浮点数，%d分类为双精度。
使用iOS，似乎是：%i和%d表示整数，%f表示浮点数
有没有人能证实并解释一下其中的原因。我已经看过苹果的字符串编程指南了。
提前谢谢你。
浏览 0提问于2011-03-17得票数 3
回答已采纳
4回答
为什么双倍和浮子存在？
、、、、
复制
。。还有更多.
我们在整个应用程序中使用C#和Server十进制数据类型，因为它们的准确性。从来没有任何这些恼人的问题，当总数不符合细节，等等。
我在想，为什么双倍和浮子是不准确的？
浏览 4提问于2009-05-14得票数 0
我是初学PG的，我想知道我是否需要额外做些什么来正确处理浮点数的数学。
例如，在ruby中使用BigDecimal，在Elixir中使用Decimal。
下面是我对PG的最佳解决方案吗？
SELECT
COALESCE(SUM(active_service_fees.service_fee * (1::decimal - active_service_fees.withdraw_percentage_discount)), 0)
FROM active_service_fees
数据类型：
service_fee integer NOT NULL
withdraw_percentage_d
浏览 2提问于2017-04-03得票数 1
回答已采纳
我将179.9输入到EditText中。当我检索它时，如果它被存储为一个float，它的值是不同的。
final EditText valueInput = mEntryDialogView.getValueInput();
final CharSequence input = valueInput.getText();
final String inputAsString = input.toString().trim();
final float asFloat = Float.valueOf(inputAsString); //179.899994
final double asDoub
浏览 3提问于2016-02-27得票数 1
回答已采纳
7回答
在使用eval(...)开发一些工程规则值引擎时，我遇到了以下问题实现。
Dim first As Double = 1.1
Dim second As Double = 2.2
Dim sum As Double = first + second
If (sum = 3.3) Then
Console.WriteLine("Matched")
Else
Console.WriteLine("Not Matched")
End If
‘'Above条件返回false，因为s
浏览 0提问于2011-05-06得票数 4
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
实时音视频
对象存储
即时通信 IM活动推荐
腾讯云开发者
