2回答
据我所知，单精度浮点数有1位表示符号，8位表示指数，23位表示尾数。我可以理解7位整数适合23位尾数，并且不会降低精度，但我不能理解像1234567000000000这样的数字如果没有松散的"1,2,3,4,5,6,7“数字是如何拟合的，这背后的数学原理是什么？
浏览 3提问于2018-05-23得票数 0
#include<stdio.h>
{ return(-1*a); return a;{ float g1, g2; g2 = x1/g1; int sr; {
g2 = (g1
浏览 0提问于2018-08-10得票数 2
回答已采纳
3回答
我想知道我是否发现了PHP中的舍入问题，特别是5.2.3 (目前还不确定其他版本)：$t += $taxAmount;
var_dump(round($t, 2)); // float(0.03)对我来说0.035应该转到0.04还是我只是疯了？对于，我想我应该这样做：
$taxAmount = bc
浏览 3提问于2010-02-02得票数 7
回答已采纳
我理解量化的基本原理(将32位浮点数更改为16位或8位中的其他数据类型)，但我不知道这两种方法有何不同或选择了什么。有谁能解释一下不同之处和申请吗？
浏览 4提问于2021-12-28得票数 2
回答已采纳
在Linq中，我正在将数量转换为浮点数？
是什么导致了这种情况的发生？它只发生在大数字上(例如，我在数据库中放了1.5个，在网格视图中放了1.5个)。
浏览 4提问于2010-12-07得票数 0
回答已采纳
但是 else System.out.printf("false");将浮点数转换为双精度进行比较是否与有没有人能详细解释一下它的具体工作原理？
浏览 0提问于2013-05-23得票数 1
回答已采纳
如果我重新缩放输入，我可以消除溢出，所以这似乎是CPU和GPU之间内部范围/精度不同的问题。我的印象是CPU和GPU都默认使用32位浮点数，因此结果应该是相同的。有没有人足够了解TFLite的内部原理来提供一些见解？
浏览 23提问于2020-05-27得票数 1
回答已采纳
在MySQL数据库中，以下字段fee和rate(百分比)为DECIMAL类型，小数精度为2。SELECT ROUND(fee * (1- rate/100))),2 ) as profit既然query只是返回值，而不是将它们保存在变量中，那么精度问题*是否仍然存在( PHP或JS附带的)？如果是这样，最好在PHP或JS中对浮点数进行舍入？
*是的，我指的是保存双精度时出现的精度问题，例如1.5可能会保存为1.49999999
浏览 3提问于2015-07-28得票数 5
2回答
我知道Lua的默认实现只使用浮点数，从而避免了在选择要使用的数学函数变体之前动态确定数字的子类型的问题。我的问题是--如果我试图在标准C99中将整数模拟为双精度(或浮点数)，有没有一种可靠(且简单)的方法来精确地确定可以精确表示的最大值是多少？我的意思是，如果我使用64位浮点数来表示整数，我当然不能表示所有的64位整数(这里适用鸽洞原理)。如何判断可表示的最大整数？
浏览 3提问于2011-05-19得票数 5
回答已采纳
2回答
假设我在一个环境中，其唯一的浮点类型是(比方说) 32位宽，并且我想用64位浮点数进行一些计算。有没有任何合理/有效/可行的方法来使用float32数据类型来实现像float64这样更广泛的浮点数据类型？(或者甚至是float63，或者float48，或者任何比我拥有的32位更宽的东西？)或者我最好是使用整数实现更长的浮点数据类型？
我猜比特位置的特定含义将使这基本上是不可能的，但我不是数值专家，我不知道如何搜索，所以也许有一个聪明的方法。
浏览 0提问于2010-11-28得票数 0
我想在JavaScript (JS)中创建程序，它可以任意精确地绘制曼德尔布罗特集 (缩放)。在JS中有一个整数类型的BigInt，它支持像+，*，/这样的简单操作，支持任意精确整数的幂。JS不支持对任意精度浮点数的计算。
问:是否有一种方法来执行Mandelbrot集的计算，只使用基于整数的计算(任意精度)--如果是，如何做？
浏览 0提问于2019-11-29得票数 3
回答已采纳
1回答
问题语句：编写一个Python来确定在中最小的正双数。您的脚本应该以系统的方式确定此值。您可以不简单地调用返回此值的内置函数或访问包含此信息的内置变量。这包括np.finfo()和其他内置函数或变量。您的代码片段应该定义以下变量：smallest_num浮点-- Python中最小的数字import numpy as np machine_epsil
浏览 3提问于2018-09-24得票数 3
回答已采纳
2回答
A.)当在Java中将浮点数转换为双精度时，会发生精度损失吗？
B.)如果我将浮点数输入到浮点数中，那么会导致精度损失吗?还是Java仅仅智能地忽略/跳过这类类型的类型呢？
浏览 0提问于2014-05-01得票数 0
回答已采纳
1回答
我确信这是一件愚蠢的事情，但我不明白为什么当查询时： from django.db.models import Max
max = Bid.objects.filter(listed=listing_id).all().aggregate(Max('bid')) 我获得了max = {'max_bid':Decimal('3')} 我想要一个有最大值的KeyError，但是如果我这样做了: var，我有一个var。 如果我这样做，我就会得到Decimal('3')。 我只想要三个...我怎么才能得到这个呢？ 谢谢
浏览 13提问于2020-09-25得票数 0
回答已采纳
为此，我创建了自己的C++类fp16，其中包含与此类型相关的所有运算符(算术逻辑运算符、关系运算符)，同时使用带有半精度浮点数的数字。半精度浮点=1个符号位、5个指数位、10个有效位数= 16位因此，我要做的是将单精度浮点数转换为半精度浮点数：
对于有效位数-我使用截断，即从32位中松散13位，以获得10位有效数的半精度浮点数。
浏览 10提问于2011-09-15得票数 3
回答已采纳
我有一些非常奇怪的行为，在Google Firestore中使用Google Cloud函数来减去数字。exports.testCounter = functions.https.onCall((data, context) => { count: admin.firestore.FieldValue.increment(-0.0005)});firebas
浏览 44提问于2020-03-13得票数 0
回答已采纳
为此，我使用与此类型相关的所有操作符(算术、逻辑、关系)创建了自己的C++类fp16，这些运算符重载了自定义函数，同时使用了一个带有半精度浮点数的单精度浮点数字。半精度浮点=1位，5指数位，10位= 16位因此，我如何从一个精确浮点数转换为一个半精度浮点数：-
对于有意义和比特-我使用截断，即从32位松散的13位得到10位意义和半精度浮点数。
浏览 0提问于2011-09-15得票数 4
3回答
所有的directX都使用浮点数，但是System.Math使用双精度数。这意味着不断地在浮点数和双精度数之间转换。因此，理想情况下，我希望所有的代码都使用浮点数，因为我不会得到任何额外的精度转换为浮点数从双精度始终…
然而，我一直无法为.net找到一组使用浮点数的数学函数。
浏览 2提问于2008-10-13得票数 5
1回答
我试图用整数类型的坐标绘制，但失败了。然后我试着画一个简单的三角形，就像从教程中画出来的一样。结果，屏幕的一半是三角形的颜色，另一半是glClearColor I set。我开始改变值，当坐标小于0.00000000000000000005f时，角开始显示出来(我怀疑坐标比float更精确)，虽然应该已经比1.0f小了。试图搜索没有任何结果，也许是因为我不知道正确的词。包括和函数我很快移到这里：#inclu
浏览 2提问于2020-08-09得票数 2
回答已采纳
JavaScript为所有数字文本提供64位浮点数，存储布局和范围由规范。ITEE 754解释了浮点数的行为，但我对JS中的整数感到困惑。64位数据格式产生的精度范围如何？
求解了，该值被存储在分数位置。
浏览 9提问于2011-10-06得票数 2
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
云直播活动推荐
腾讯云开发者
