我试图以VRML2.0所使用的格式从c#输出藐视点数。
据称，这是
采用IEEE 1 1xxx浮点格式的双精度浮点数(见2.IEEE)。
IEEE: ISO/IEC 9899:1990编程语言-- C. (死区链接)
这种格式的正确字符串表示是什么？我找不到推荐信。我找到了一些关于二进制表示的解释，但没有找到关于字符串表示的解释。
如何根据这种格式配置NumberFormatInfo或CultureInfo？
澄清：
我想要生成一个vrml文件，我需要知道如何保证
var myCultureInfo = CultureInfo.InvariantCulture;
m
浏览 4提问于2012-08-20得票数 0
回答已采纳
在Fortran中打印常数0.8804418
program hello
print *, 0.8804418
end program hello
给出C版本时的0.880441785
#include <stdio.h>
int main() {
printf("%.10g", 0.8804418);
}
在同一个系统上打印0.8804418 (Linux86-64与gfortran和gcc一起使用)。为什么输出是不同的？请注意，在printf中提高精度并不会改变输出。
这不是或类似的复制。这个问题特别是关于Fortran和C表示(或
浏览 3提问于2016-04-28得票数 2
回答已采纳
1回答
这是一个著名的例子，在javascript控制台中，记录0.1 + 0.2会产生
0.1 + 0.2 = 0.30000000000000004
对此的典型解释是，发生这种情况是因为javascript表示数字的方式。在这方面，我有两个问题：
1)为什么javascript决定如何表示数字--不是“环境”吗？(不管它正在编译代码，不管是浏览器还是其他什么东西)？决定如何表示数字的任务？
2)为什么不可能将这种行为与大多数编程语言(java、c++等)相匹配。我的意思是--如果这种行为不是很好(大多数人也会同意不是这样)，那为什么不可能解决呢？(Douglas展示了其他javascript的缺陷
浏览 3提问于2013-11-03得票数 0
回答已采纳
我有一些代码，是在特斯拉和费米代芯片组上编译和测试的。
在所有特斯拉代芯片(260,280，c1060)中，输出是一致的。
在所有费米代芯片(460-580，c2080)中，输出是一致的。
然而，在特斯拉和费米两代之间，输出图像略有不同。
这是意料之中的吗？代码中有浮点数学，精度是我的第一个怀疑，但我在Nvidia的文档中找不到任何提到它的地方。
浏览 0提问于2011-06-08得票数 0
回答已采纳
我正在寻找一些C#源代码，可以将十进制/浮点值转换为符合IEEE754标准的十六进制值。
浏览 0提问于2015-05-19得票数 0
3回答
可能重复：
我有一些简单的C代码，输出似乎是出乎意料的，至少对我来说是这样：
#include <stdio.h>
int main(void) {
float f1 = 1.0;
double f2 = 1.0;
if (f1 == f2)
puts("equal");
else
puts("unequal");
return 0;
}
由于float和double具有不同的精度，所以我期望输出是unequal，但我得到的是equal。为什么是这种情况？
浏览 7提问于2011-10-12得票数 0
回答已采纳
下面的程序输出This No. is not same。当两个数字相同时，它为什么要这样做？
void main() {
float f = 2.7;
if(f == 2.7) {
printf("This No. is same");
} else {
printf("This No. is not same");
}
}
浏览 1提问于2014-08-01得票数 2
我有一个C语言的程序，像这样：
#include <stdio.h>
int main() {
float number = 0;
scanf("%f", &number);
printf("%f\n", number);
}
产出如下：
ururay@note:~/workspace/c/float-precision$ gcc float-precision.c -o float-precision
ururay@note:~/workspace/c/float-precision$ ./float-precis
浏览 3提问于2021-12-11得票数 2
回答已采纳
2回答
当我把用Python语言创建的csv文件中的浮点数导入到用C语言编写的程序中时，我遇到了一些精度问题。下面的代码是我的程序中发生的事情的一个例子: Python将一个float32值写入一个文件(在本例中是9.8431373e+00)，我将其读入一个字符串，并使用strtof将其转换回float32，但最后一个小数位的结果不同。 #include <stdio.h>
#include <stdlib.h>
int main(void) {
char* a;
char x[10] = "9.8431373";
prin
浏览 39提问于2021-10-19得票数 0
回答已采纳
1回答
C和C#之间浮点精度行为的差异
、、、、
这是一个学术问题，所以像“不要那样做”这样的回答没有切中要害。
我并不是在尝试解决问题--我是在尝试理解观察到的行为，即在比较C和C#时浮点数学的运行方式的不同
假设:C语言中的浮点精度
我假设在C语言中，floats是使用23位尾数和8位指数()实现的。
对于给定的数字，我们可以通过计算尾数的最后一位的值来计算最小精度-您可以将其添加到纯结构上不能再存储的数字的最小值。
如果浮点数的计算结果为：
[sign] * 1.[mantissa] * 2^[exponent]
然后，因为尾数中有23位，所以精度的值是2^(exponent-23)，其中给定数字的指数是：
floor(log2(num
浏览 20提问于2020-09-01得票数 2
1回答
我的C#项目正在从QML文件中读取一些配置。
问题是我对某些转换不是很确定。
QML C#
int <-> int
string <-> string
bool <-> bool
都没问题
我不确定QML中的real/double (在C#中为float/double )我查找了一些关于精度的信息，但没有找到任何非常清楚的信息。
QML中的double等同于C#中的double吗？QML中的real等同于C#中的float吗？
浏览 1提问于2011-11-29得票数 0
回答已采纳
INTEGER, PARAMETER :: SINGLE=SELECTED_REAL_KIND(7)
REAL(KIND=SINGLE) :: K
REAL::X
...
K=X
WRITE(*,*) K
当我在SELECTED_REAL_KIND中编写5或6时，它会输出6个有效数字，但当我尝试7时，它会输出超过7个数字。你能告诉我为什么吗？我哪里搞错了？分配是有问题的吗？
5和6个输出-> 1.39256
7个输出-> 1.3925623893
好的，我在问一个简单的问题。我怎么才能输出这个数字1.3925623893的7位有效数字呢？
浏览 0提问于2012-04-26得票数 0
回答已采纳
2回答
有些人刚开始通过阅读K&R来学习C，并在第一页上印出了华氏温度转换循环：
#include <stdio.h>
main ()
{
int fahr;
浏览 1提问于2011-07-23得票数 3
12回答
C++提供了三种浮点类型: float、double和long double。我不经常在代码中使用浮点，但是当我使用浮点时，我总是会被一些无关紧要的代码行的警告所困扰，比如
float PiForSquares = 4.0;
问题是，字面值4.0是一个双精度型，而不是浮点型--这令人恼火。
对于整数类型，我们有short int，int和long int，这是非常简单的。为什么C没有短浮点型，浮点型和长浮点型？那么“双倍”到底从何而来呢？
编辑:浮点类型之间的关系似乎类似于整数。double必须至少和float一样大，long double至少和double一样大。不作其他精度/范围的保证。
浏览 0提问于2008-12-29得票数 16
1回答
我正在尝试将MySQL数据库中的浮点数保存为小数(20，10)。但我不认为这是一个好方法，因为当我尝试节省2.14时，它将节省2.1400000000。
至少这个比float(20,10)更好，因为那个是舍入错误的。但是我应该使用哪种类型将其存储为2.14呢？我不能只说20,2，因为有时我有34.2222291作为值。
解决方案: double(20,10)修复。
浏览 1提问于2013-01-22得票数 0
回答已采纳
我试图在eps(x)中实现Matlab的C++函数
例如，在Matlab中：
>> eps(587.3888)
ans = 1.1369e-13
>> eps(single(587.3888))
ans = 6.1035e-05
然而，当我尝试在C++中这样做时，我无法得到正确的单一精确答案。
#include <limits>
#include <iostream>
#include <math.h>
#define DEBUG(x) do { std::cerr << x << std::endl; }
浏览 0提问于2013-11-23得票数 7
回答已采纳
下面的代码简单地尝试使用cblas_ccopy将值从一个指针复制到另一个指针，但是它会导致大约三分之一的malloc: *** error ... incorrect checksum for freed object错误。为什么它总是不起作用？
import Accelerate
func testCopy() {
// set capacity
let capacity: Int = 1000
// destination array
let destinationArray = UnsafeMutablePointer<Float>.al
浏览 1提问于2018-05-21得票数 0
回答已采纳
PowerPC的浮点寄存器只支持双精度格式，因此加载和存储单精度值需要转换.从单到双加载的转换是有意义的，但是从双到单的存储转换会产生一些令人困惑的事情。它似乎正确地截断了在单精度范围内的数字，以及NaNs、无穷大和零，但对其他一切都做了一些奇怪的移动，而不是像我所期望的那样舍入为零或无穷大。
来自PPC750 CPU的示例。给出了我所期望的结果的例子。
double-precision input decimal approximation single-precision output decimal approximation
0x 400f ffff ffff ff
浏览 3提问于2019-11-08得票数 1
回答已采纳
我对两个浮点数的加法有个问题。代码如下：
float a = 30000.0f;
float b = 4499722832.0f;
printf("%f\n", a+b);
为什么输出结果是450002816.000000？(正确的应该是450002832。)
浏览 3提问于2011-09-07得票数 4
回答已采纳
考虑下面这段C++代码： #include <iostream>
#include <cmath>
using namespace std;
int main()
{
cout.precision(1000000000);
float a,b,c;
a = 1;
b = -1;
c = pow(2, -50);
cout << "a = " << a << endl;
cout << "b = " &
浏览 60提问于2021-10-29得票数 0
回答已采纳
我编写了一个简单的C程序，使用scanf()函数从用户获取一个浮点数作为输入，并使用printf()函数显示它。但当输入数很大时，输出会略有偏差。为什么会发生这种情况呢？例如:如果输入为2345，则输出将与预期的一样。但是，如果我将输出设为1234567898，则输出将是意外的。
#include <stdio.h>
int main()
{
float number;
scanf("%f", &number);
printf("The number %f", number);
return 0;
}
浏览 0提问于2021-06-08得票数 0
2回答
解析长双从字符串
、、、
我需要使用OCaml解析C代码中的浮点文本。
OCaml的浮点类型是64位。我有文字的字符串，它的数值四舍五入为64位，它的类型(浮动，双倍或长双)。
问题是数值大于64位的文字：
长双字
带有‘f’-后缀的浮点数，如果没有后缀，就会出现双重舍入错误。
OCaml的可以解析像"123/123“这样的字符串中的有理数，但不能像在C中那样解析"123.123”、"123e123“、"0x1.23p-1”。
背景:我使用对C程序进行了价值分析。
任何大小的双字面值和具有适合64位的数值的浮点数总是正确表示的。通过从双精度到单精度的四舍五入，我也可以复制
浏览 8提问于2011-11-12得票数 2
回答已采纳
4回答
我从服务器发送了一个字符串: 61146009
但是当我打印它的浮点值时
[string floatValue];
输出为61146008.000000。我也尝试过将字符串作为61146009.0发送，但结果仍然相同。
知道为什么吗？
字符串需要通过使用显示为61,146,009
NSString *formattedScore = [numberFormatter stringFromNumber: [NSNumber numberWithFloat: [scoreString floatValue]]];
这是其他人写的一行代码，他们似乎错误地使用了float而不是int
我知道使用str
浏览 5提问于2012-08-11得票数 0
回答已采纳
如果你打印一个比存储在内存中的精度更高的浮点数，额外的位置不是应该有零吗？我的代码是这样的：
double z[2*N]="0";
...
for( n=1; n<=2*N; n++) {
fprintf( u1, "%.25g", z[n-1]);
fputc( n<2*N ? ',' : '\n', u1);
}
它创建的输出如下：
0,0.7071067811865474617150085,....
一个浮点数应该只有17位小数(对吗？不是53位到了17位小数)。如果是这样，那么18号，19号...第25
浏览 0提问于2012-12-07得票数 3
回答已采纳
1回答
，但我目前的问题不仅仅是用labview编写驱动程序。我有一个风速计，它使用USB UART网桥与计算机连接。我要求Extech提供任何类型的文档，但只收到了下面的通信协议。
我在使用它时遇到了几个问题，所以我使用风速计附带的软件，并使用portmon来嗅探进出的命令，这就是问题变得更糟的地方。为了尽可能简化问题，我只采集了环境温度读数。以下是我使用制造商的软件连接到设备时portmon捕获的内容：
(这是上述协议文档中的“上传协议”)
AA 61 64 6A 67 08 40 00 40 00 01 00 00 C6 41 00 00 00 00 00 3C 1C C6 9A 19 99
浏览 0提问于2012-04-25得票数 1
回答已采纳
1回答
当我尝试将一个整数转换为浮点数并打印出来时，存储在该寄存器中的值变成了0.000000。 outI: .string "%d\n"
outF: .string "%f\n"
mov x20, 160
mov x1, x20
ldr x0, =outI
bl printf
scvtf s20, x20 //cast x20 to
浏览 41提问于2020-12-09得票数 1
3回答
编译器之间的浮点二进制布局
、、、、
我正在清理我们的一些网络代码，同时替换各种整数类型(int，unsigned short，...)对于更多的显式类型定义，比如int32_t和uint16_t，我想知道double和float在不同编译器之间的可移植性如何。我们正在发送类似如下的结构：
struct foo
{
uint32_t id;
double dbl;
};
...
// copy_packed() copies packed bytes of integral type and adheres
// to network byte-ordering
copy_packed(int32_t data,
浏览 4提问于2011-10-31得票数 3
回答已采纳
为了检查fortran中iso_c_binding的一些属性，我编写了一个小程序
program double
use iso_c_binding, only : C_DOUBLE, C_INT32_T, C_FLOAT
implicit none
integer, parameter :: rk = C_DOUBLE
integer, parameter :: rk4 = C_FLOAT
integer, parameter :: ik = C_INT32_T
integer(kind=ik) :: i, j
integer(kin
浏览 1提问于2016-08-31得票数 0
回答已采纳
2回答
将浮点数转换为双精度时的精度损失
、、、、
我想我的c++程序遇到了精度问题。我不明白为什么我的价值观会得到不同的结果。
如果我这样写，res等于1321.0000001192093：
float sy = -0.207010582f;
double res = -1512.*((double)sy - (2. / 3.));
但是如果我这样写，res2等于1320.9999999839999：
double res2 = -1512.*(-0.207010582 - (2. / 3.));
为什么在我写这篇文章的时候，甚至syd和syd2都不一样：
double syd = -0.207010582f;
double syd2 =
浏览 1提问于2021-03-30得票数 0
我注意到C#/.NET中有以下不一致之处，我想知道为什么会这样。
Console.WriteLine("{0,-4:#.0} | {1,-4:#.0}", 1.04, Math.Round(1.04, 1));
Console.WriteLine("{0,-4:#.0} | {1,-4:#.0}", 1.05, Math.Round(1.05, 1));
Console.WriteLine("{0,-4:#.0} | {1,-4:#.0}", 1.06, Math.Round(1.06, 1));
Console.WriteLine("{
浏览 1提问于2010-02-09得票数 28
回答已采纳
2回答
Ruby单精度数
、、
我正在尝试在Ruby中使用Windows上的COM组件，它要求数字以单精度表示。
在C#中，我可以将数字从双精度转换为单精度，如下所示。
float mynumber = (float)2.0
如何在Ruby中创建单精度浮点数？
浏览 2提问于2011-11-17得票数 3
回答已采纳
4回答
我有以下几行代码
double formId=2013519115027601;
txtEditFormID.Text = formid.ToString();
它会给我输出
2.0135191150276E+15
如果我写
txtEditFormID.Text = formId.ToString("0.0", CultureInfo.InvariantCulture);
它给了我
2013519115027600.0
但是我想要标签文本
2013519115027601
该怎么做呢？
浏览 0提问于2013-06-01得票数 0
回答已采纳
我正在用纯C重写一些Matlab文件处理代码，我已经实现了以下函数，它将从一个二进制大端编码文件中读取4个字节，该文件应该表示一个ieee-754单精度浮点值。我验证了我能够用下面的代码将相关的32位数据作为一个无符号整数从文件中提取出来。
int fread_uint32_be(uint32_t *result, FILE ** fp)
{
uint8_t data[sizeof(uint32_t)];
if (!result || !*fp || sizeof(uint32_t) != fread((void *) data, 1, sizeof(uint32_t), *f
浏览 17提问于2020-06-07得票数 1
回答已采纳
1回答
我使用下面的代码打印出一个浮点数的“二进制表示”： template<class F>
void printBinary(F value)
{
std::cout <<
std::bitset<sizeof(F) * 8>(*reinterpret_cast<unsigned long*>(&value)).to_string()
<< std::endl;
}
int main()
{
float f = 1;
printBinary(f);
f = 2;
浏览 19提问于2019-06-06得票数 2
回答已采纳
2回答
根据以下网站:精确度与精确度。精度=规格的紧密性。准确性=正确性。不要混淆精确度和精确度。
有没有人能给出一个定义，然后解释一下与java浮点数相关的is精度和准确性之间的区别？
浏览 0提问于2017-01-22得票数 2
3回答
我正在寻找一个HTML语法高亮笔，将我的C#代码，并将其转换为独立的C#，这是整齐的标签。我发现一些网站提供此功能，但只输出与CSS样式表相结合的HTML。如果有人知道我描述的东西是否存在，请给我一个链接！
浏览 4提问于2010-08-21得票数 5
回答已采纳
下面是我编写的在一段时间内找到正弦(X)的DFT的代码。
program fftw_test
implicit none
INTEGER FFTW_MEASURE
PARAMETER (FFTW_MEASURE=0)
INTEGER FFTW_ESTIMATE
PARAMETER (FFTW_ESTIMATE=64)
INTEGER FFTW_FORWARD
PARAMETER (FFTW_FORWARD=-1)
integer, parameter :: n = 8
integer :: i
double complex, dimension(0:n-1) ::
浏览 3提问于2015-02-12得票数 0
回答已采纳
1回答
假设我有以下程序：
program derp
implicit none
integer, parameter :: ikind = selected_real_kind(18)
real (kind = ikind) :: a = 2.0 / 3.0
print*, a
end program derp
程序derp输出0.6666666865348815917，这显然不是18位数字的精度。但是，如果使用相同的方法定义a=2.0和b=3.0，然后定义c=a/b，则会得到0.666666666666666666685的输出，这是很好的。我如何将变量定义为整数的商
浏览 1提问于2013-05-10得票数 5
回答已采纳
3回答
可能重复：
#include <stdio.h>
#include <conio.h>
main()
{
float a = 0.7;
if(a < 0.7)
printf("C");
else
printf("C++");
}
在上面的代码中，输出是C。我在code：：Block和Pelles C中尝试了这段代码，但是得到了相同的答案。我想知道这件事的原因。
浏览 6提问于2011-07-30得票数 4
回答已采纳
例如，如果我有一个64位变量，并在其中存储了两个32位数据项，可能是为了SIMD处理，那么是否有一个名称来描述这两个数据项的逻辑耦合？
我的一个同事建议“混合耦合”，这是一个广泛使用的术语吗？
需要澄清的是:我们追求的是比具体实现更高层次的概念。例如，在类C语言中，我们有这两个结构：
struct CoupledData
{
uint64 x_and_y; // x is stored in the top 4 bytes, y in the bottom 4
}
struct UncoupledData
{
uint32 x;
uint32 y;
}
不管这样做的原
浏览 2提问于2009-07-29得票数 2
回答已采纳
我正在尝试将二进制格式的数字转换为整数。我使用了以下循环：
for(i=22;i>=0;i=i-1)
begin
a1=in1[i]*(2**(i-23));
end
a1=a1+1;
a1=a1*(2**(in1[30:23]-8'b01111111));
a1=((-1)**(in1[32]))*a1;
在我的程序中，我还需要这样做7次。我的问题是，如果有一个库可以做到这一点，它接受32位输入并提供整数输出？如果是，我如何在我的程序中包含该函数？谢谢。
更新:上面的代码片段能正常工作吗？
浏览 12提问于2011-04-23得票数 2
回答已采纳
试图导出matlab中的“4D数据”。当我将此变量导出到文本文件时，如下所示：
save ('file.txt','var')
我得到以下输出：
错误
或
save('file.txt', 'var', '-ascii' )
Warning: Attempt to write an unsupported data type to an ASCII file.
浏览 7提问于2014-03-23得票数 0
回答已采纳
4回答
我有以下代码，
float a = 0.7;
if(0.7 > a)
printf("Hi\n");
else
printf("Hello\n"); //Line1
和
float a = 0.98;
if(0.98 > a)
printf("Hi\n");
else
printf("Hello\n"); //Line2
这里line1输出Hi，而Line2输出Hello。我假设有一个关于双常量和浮点数的特定标准，即它们中的任何一个在计算时都会变得更大。但这两个代码让我明白了，当
浏览 1提问于2012-07-11得票数 0
回答已采纳
2回答
VHDL中单精度浮点数的三角函数
、、、、
如何计算三角函数：arctangent，或至少正弦和余弦？我有一个值IEEE 754单精度浮点格式(t.e. )。符号，尾数，指数(下图)。据我所知，它可以作为一个查找表或通过CORDIC算法实现.这两种实现都适合我。精度可达Pi/1000。实现应该是可综合的。设备- Artix-7 FPGA。
C中的类似代码：
yaw = atan2(2.0f * (q[1] * q[2] + q[0] * q[3]), q[0] * q[0] + q[1] * q[1] - q[2] * q[2] - q[3] * q[3]);
pitch = -asin(2.0f * (q[1] * q[3]
浏览 7提问于2019-12-11得票数 0
回答已采纳
2回答
我正在写一个简单的程序来计算圆柱体的表面积和体积。我没有在main()中编写所有的代码，而是使用了3个函数。
第一个函数读取高度和半径的输入数据，并将这些值传回主程序。
第二个函数使用高度和半径参数来计算面积和体积的值，并将每个值传递回主程序。
第三个函数在print语句中使用参数area和volume。
#include<stdio.h>
#define PI 3.14159
static void inputData(double *ph, double *pr);
static void computeResults(double h, double r, double
浏览 0提问于2017-10-13得票数 0
1回答
使用散列函数验证浮点计算
、、、
像SHA-2这样的散列函数被广泛用于验证数据传输或验证加密整数计算。
是否可以使用散列函数来验证浮点计算，例如物理模拟。换句话说，让浮点计算在多个平台上保持一致是可能的，也是可行的吗？
如果前一个问题的答案是“否”，考虑到计算是精心设计的，那么可能会以较低的精度对数据进行散列，同时仍然可以在验证中获得很高的置信度。有没有任何正在进行的项目试图实现这一点？
浏览 33提问于2021-11-28得票数 0
1回答
假设我使用一个32位的浮点数来存储一个位串(不要问)。进一步假设我想将这个浮点数序列化为一个文件(作为一个浮点数)，并在序列化之前对该浮点数的十进制表示进行四舍五入。当我将浮点数读回程序中时，系统会(自然地)将其存储在一个尽可能接近序列化数字的32位浮点数中。
就数字而言，在四舍五入之后，序列化的浮点数必须有多精确，才能确保序列化的浮点数在二进制中与回读的浮点数相等？
浏览 4提问于2012-09-07得票数 1
回答已采纳
2回答
我正在寻找一个多语言源代码改良剂/美化/漂亮打印机。为每种语言安装和管理一个单独的工具是相当浪费时间的。
它必须支持
C/C++
Java
JavaScript
HTML
PHP
Python
Lua
希望将来我还需要其他的语言
它必须在Linux上工作，我想避免在线解决方案和封闭源代码软件。
到目前为止，我找到的最不懂语言的解决方案是支持C/C++、Java、JavaScript、Objective和Protobuf的clang格式。。
或者，GNU源-突出显示和俾格蒂声称支持很多语言，但我不清楚它们是否也能重新格式化它们处理的源代码并将其打印到stdout。
例如，我试过：
source-
浏览 0提问于2016-07-04得票数 5
1回答
我很确定我找不到合适的地方，因为关于这个话题的信息非常难以获得。
我在C++中有一个小函数，它将被Python调用，并创建一个小的浮点数数组并将它们返回到Python。
首先，您似乎不能使用Py_BuildValue()将C++中任意大小的数组作为Python中的列表返回(我不清楚这是为什么)。一个老的但仍然相关的帖子建议实例化一个PyList对象，用数组中的元素填充它，然后返回它。
这是一个可以接受的解决方案。然而，我的数字是C++风格的浮动。虽然Python库提供了大量的转换操作(C字符串-> Python字符串、C双-> Python浮点数等)，但我无法找到一种方法来简单地将
浏览 3提问于2014-07-14得票数 0
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
实时音视频活动推荐
腾讯云开发者
