4回答
C#易失性双精度
、、
因为只有引用类型和一些基本类型(包括浮点型，但不是双精度型，我不确定为什么，我很高兴听到为什么)可以被声明为易失性，如果我在一个类中包装一个双精度，然后将它声明为易失性(如下所示)，双精度属性是否像其他易失性一样是
浏览 0提问于2009-02-10得票数 10
回答已采纳
在MySQL数据库中，以下字段fee和rate(百分比)为DECIMAL类型，小数精度为2。SELECT ROUND(fee * (1- rate/100))),2 ) as profit既然query只是返回值，而不是将它们保存在变量中，那么精度问题*是否仍然存在( PHP或JS附带的)？如果是这样，最好在PHP或JS中对浮点数进行舍入？
*是的，我指的是保存双精度时出现的精度问题，例如1.5可能会保存为1.49999999
浏览 3提问于2015-07-28得票数 5
我想在JavaScript (JS)中创建程序，它可以任意精确地绘制曼德尔布罗特集 (缩放)。在JS中有一个整数类型的BigInt，它支持像+，*，/这样的简单操作，支持任意精确整数的幂。JS不支持对任意精度浮点数的计算。
问:是否有一种方法来执行Mandelbrot集的计算，只使用基于整数的计算(任意精度)--如果是，如何做？
浏览 0提问于2019-11-29得票数 3
回答已采纳
2回答
A.)当在Java中将浮点数转换为双精度时，会发生精度损失吗？
B.)如果我将浮点数输入到浮点数中，那么会导致精度损失吗?还是Java仅仅智能地忽略/跳过这类类型的类型呢？
浏览 0提问于2014-05-01得票数 0
回答已采纳
为此，我创建了自己的C++类fp16，其中包含与此类型相关的所有运算符(算术逻辑运算符、关系运算符)，同时使用带有半精度浮点数的数字。半精度浮点=1个符号位、5个指数位、10个有效位数= 16位因此，我要做的是将单精度浮点数转换为半精度浮点数：
对于有效位数-我使用截断，即从32位中松散13位，以获得10位有效数的半精度浮点数。
浏览 10提问于2011-09-15得票数 3
回答已采纳
我有一些非常奇怪的行为，在Google Firestore中使用Google Cloud函数来减去数字。exports.testCounter = functions.https.onCall((data, context) => { count: admin.firestore.FieldValue.increment(-0.0005)});firebas
浏览 44提问于2020-03-13得票数 0
回答已采纳
3回答
所有的directX都使用浮点数，但是System.Math使用双精度数。这意味着不断地在浮点数和双精度数之间转换。因此，理想情况下，我希望所有的代码都使用浮点数，因为我不会得到任何额外的精度转换为浮点数从双精度始终…
然而，我一直无法为.net找到一组使用浮点数的数学函数。
浏览 2提问于2008-10-13得票数 5
为此，我使用与此类型相关的所有操作符(算术、逻辑、关系)创建了自己的C++类fp16，这些运算符重载了自定义函数，同时使用了一个带有半精度浮点数的单精度浮点数字。半精度浮点=1位，5指数位，10位= 16位因此，我如何从一个精确浮点数转换为一个半精度浮点数：-
对于有意义和比特-我使用截断，即从32位松散的13位得到10位意义和半精度浮点数。
浏览 0提问于2011-09-15得票数 4
JavaScript为所有数字文本提供64位浮点数，存储布局和范围由规范。ITEE 754解释了浮点数的行为，但我对JS中的整数感到困惑。64位数据格式产生的精度范围如何？
求解了，该值被存储在分数位置。
浏览 9提问于2011-10-06得票数 2
回答已采纳
为此，我使用与此类型相关的所有操作符(算术、逻辑、关系)创建了自己的C++类fp16，这些运算符重载了自定义函数，同时使用了一个带有半精度浮点数的单精度浮点数字。半精度浮点=1位，5指数位，10位= 16位因此，我如何从一个精确浮点数转换为一个半精度浮点数：-
对于有意义和比特-我使用截断，即从32位松散的13位得到10位意义和半精度浮点数。
浏览 0提问于2011-09-15得票数 0
当使用32位浮点数将数据转换到缓冲区或从缓冲区转换数据时，nodejs似乎使用一些使转换不可逆的条件将浮点数扩展为双精度：3.81357913e+32
4
<Buffer 75 96 6b 4f>
因此，原始值(3.81357913e+32)现在似乎表示为0x75966b4f (Big endian IEEE-754，单精度看起来readFloatBE()产生了一个64位的双
浏览 3提问于2019-11-26得票数 1
1回答
将数学常量定义为双精度值是有意义的，但是当需要浮点值而不是双精度值时会发生什么呢？编译器是否在编译时自动将双精度浮点数解释为浮点数(因此它们实际上被视为常量浮点数)，或者此转换是在运行时进行的？
浏览 2提问于2012-02-02得票数 1
回答已采纳
1回答
是否有可能在英特尔芯片上执行半精度浮点算法？
我知道如何加载/存储/转换半精度浮点数1，但我不知道如何在不转换为单精度浮点数的情况下添加/乘它们。
浏览 0提问于2018-04-24得票数 16
回答已采纳
是否有宏或函数可以从给定的符号、尾数和指数(都是二进制或十进制)构造浮点(双精度)，如果输入指定的数字不能表示为浮点数(双精度)，则返回有效的浮点数(双精度)或返回NaN？
浏览 2提问于2012-03-10得票数 9
回答已采纳
我想把很多浮点数转换成像‘0x4049000000’这样的多精度FPU，执行计算，更改精度，然后再执行计算等等.我知道这个理论是，但我想要一个软件、在线工具或Matlab解决方案，在0.0 ~ 51.0的范围内将6000+数字转换成FPU格式(如IEEE精度)。编辑：它也称为基独立浮点，如和所描述的。
2编辑：和就是例子。输入任何浮点数，例如3.1454，就会得到二进制/十六进制中的IEEE
浏览 0提问于2015-04-02得票数 0
标准的Haskell's 使用
data Double双精度浮点数.希望这种类型在范围和精度上至少与IEEE双精度类型相同。GHC/Haskell是否也提供了 (80位)浮点数，也许使用了一些外部库？
浏览 4提问于2013-05-28得票数 15
有没有可能在Javascript中以某种方式模拟单精度浮点？根据Doug Crockford的博客“数字是64位浮点数”，但我不得不使用单个浮点数来移植C++算法，它计算单精度浮点数的误差。
浏览 11提问于2010-10-31得票数 9
回答已采纳
2回答
通过套接字跨网络传输浮点
、、、、
这些浮标的精度为点后的四位数。最近，我们开始使用char数组来表示数据结构/协议中的浮点数，或者使用 int 来表示浮点数(浮点数乘以时间10000，然后在接收端除以10000 )。有人告诉我，如果直接在数据结构/协议中使用浮点数，就很难保持精度。发送方很难准确地将浮点数放入套接字中，而接收方很难接收/转换回确切的浮动号。
这给出了6到9个有效十进
浏览 1提问于2013-05-21得票数 1
2回答
前几天我意识到大多数常见的lisp都有128位的“长浮点数”。因此，最正的长浮点数是：而最积极的双精度浮点数是1.7976931348623157 * 10^308，它已经相当大了。在某些情况下，64位双精度浮点数的精度是否不够？我很乐意听到用例。
浏览 0提问于2011-07-25得票数 7
回答已采纳
我正在尝试将从iPhone传感器检索到的双精度值转换为浮点数。不幸的是，我似乎找不到任何关于内置功能的资源来做到这一点。如果我将一个浮点数或一个类型转换从一个双精度数初始化为一个浮点数，如下所示：原始的双精度值仍然不能正确转换。例如，9.436222和27.895268分别变为0.486864和0.164693。有没有一种合适的方法来从双精度数转换为浮点数，从而保留较大的小数值
浏览 0提问于2016-06-02得票数 14
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
实时音视频
对象存储
即时通信 IM活动推荐
腾讯云开发者
