腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
2
回答
如何用toFixed方法动态修剪十进制后的小数位而不舍入
、
、
、
、
我正试图找到解决这一问题的方法,但似乎在堆栈
溢出
的情况下,小数点的
精度
需要是动态的。因此,我正在创建一个react项目,并试图得到它,在小数位之后我可以动态删除数字。这就是我的意思。我目前正在动态地呈现
精度
,如下所示: Number(assetObj.freeTotal).to
浏览 13
提问于2022-10-14
得票数 0
回答已采纳
5
回答
一个等于整数的双
精度
数是否总是转换为该整数?
、
、
是否会将一个等于整数的双
精度
数转换为该整数(假设该双
精度
数不会导致
溢出
)。示例:将返回一个等于整数的双
精度
数。假设没有
溢出
,它是否总是转换为与其假设相等的整数?
浏览 0
提问于2012-02-17
得票数 13
回答已采纳
2
回答
固定
精度
与任意
精度
、
、
对于任意
精度
,是否有特别的理由使用固定
精度
的数字?如果我不得不猜测这将是因为固定
精度
在某种程度上与组装指令相对应,所以它更优化,运行更快,如果您不必担心
溢出
,因为您事先知道数值范围,那么这将是一个值得进行的权衡。是否有固定
精度
优于任意
精度
的特殊用例?
浏览 1
提问于2014-05-02
得票数 3
回答已采纳
1
回答
为什么ARM芯片有一个名称中带有Javascript的指令(FJCVTZS)?
、
、
说:“它作为一条指令存在,是因为
JS
缺少整数类型,这意味着某些用例经常因为没有好的算法原因而需要这种操作。”这似乎是合理的,但我想要更详细的理解。
浏览 1
提问于2018-06-21
得票数 160
回答已采纳
1
回答
在UInt64上做数学运算就是打开它
、
、
我有一个var blah = ctypes.UInt64('65'),65真的是任何东西。我需要做数学,但当我这么做的时候:
浏览 5
提问于2014-06-23
得票数 0
回答已采纳
1
回答
计算平均值时没有
溢出
,
精度
达到一半。
、
、
、
我知道集合先前计算的大小,但是朴素的平均计算容易出现整数
溢出
,而重复添加除以大小的每个元素则容易丢失
精度
。为了减少
溢出
和
精度
损失(速度不是问题),我提出了以下算法:#include <iterator>在
精度
浏览 0
提问于2017-07-21
得票数 11
1
回答
神经网络实现中的
溢出
误差
、
、
我已经初始化了0到0.01之间的权重,并且将输入数据缩放为单位方差和零均值,而代码仍然抛出
溢出
警告,从而导致'a‘,即激活值为NaN。我不明白问题出在哪里。 每个样品有120个元素。
浏览 1
提问于2014-04-17
得票数 11
回答已采纳
1
回答
在GMP发生前后,如何检测尾数
精度
溢出
?
、
、
、
考虑到尾数具有可变的
精度
,如何判断尾数是否超出了尾数当前的
精度
设置?或者,从积极的一面来看,如何判断尾数
精度
溢出
的可能性? 好样的,布鲁斯。
浏览 2
提问于2009-01-23
得票数 1
回答已采纳
3
回答
在转换“十进制或数字”数据类型时丢失
精度
/
溢出
的原因
、
、
将十进制或数字转换为浮点数或实值可能会导致
精度
下降。从int、smallint、tinyint、float、real、money或smallmoney转换为十进制或数字都会导致
溢出
。在转换“十进制或数字”数据类型时,我并不真正理解丢失
精度
/
溢出
的原因。有人能给我解释一下吗?
浏览 2
提问于2017-03-08
得票数 1
2
回答
由于算术
溢出
,Server强制转换失败
、
根据Server 2008联机丛书中小数和数字数据类型的条目,
精度
为: p(
精度
)小数点左边和右边可以存储的十进制数字的最大总数。
精度
必须是从1到最大
精度
38之间的值。默认
精度
为18。然而,下面的第二个选择由于“算术
溢出
错误将int转换为数据类型数值”而失败。
浏览 1
提问于2010-05-21
得票数 2
回答已采纳
3
回答
BigDecimal操作
精度
溢出
、
、
import java.math.BigDecimal; BigDecimal bd = new BigDecimal(0); System.out.println(bd.doubleValue() + " - \t " + bd);} 我有多个BidDecimals字段和算术运算/比较,问题是算术结果
浏览 5
提问于2014-11-05
得票数 1
回答已采纳
1
回答
新类型由十进制和双
精度
组成
、
、
、
在我的应用程序中,我的计算需要
精度
为十进制,数据范围为双
精度
。如果我使用decimal,计算会导致
溢出
,如果我使用double,计算会导致精确丢失。解决方案是什么?
浏览 0
提问于2012-03-06
得票数 1
回答已采纳
1
回答
在C++中计算曲面拟合应用的测量极限
、
、
如何计算物理度量有多小和多大,以便应用程序在将度量表示为双
精度
时不会导致
溢出
/下溢?不知道从哪里开始。。。 编辑:我不是在尝试捕获
溢出
;我是在尝试分析应用程序的限制。
浏览 1
提问于2017-01-02
得票数 0
1
回答
numpy幂函数输出2到63
、
、
我正在运行一些测试代码并观察到一些奇怪的东西。numpy幂函数给出奇怪的输出后2到电源62np.power(2,p)array([ 2, 4, 8, -9223372036854775808, 0,
浏览 0
提问于2022-12-10
得票数 0
1
回答
如何将任意
精度
(dtype=object)的浮点数数组转换为整数数组
、
我有一个任意
精度
的浮点数(dtype=object)。如何将这个具有任意
精度
的浮点数数组转换为整数数组?,dtype=对象)b= a*821627.1218279279222972 a= b.astype(int)如何舍入b以得到整数数组而不失去
精度
?np.astype给出了以下错误:非常感谢你的帮助!
浏览 9
提问于2022-10-16
得票数 0
2
回答
为什么C# Math.Floor()返回Double而不是Int
可能重复: 从MSDN文档: 它说它返回一个整数。
浏览 48
提问于2010-11-09
得票数 18
回答已采纳
4
回答
从double转换为float时检测
精度
损失
、
、
、
、
我正在写一段代码,在其中我必须将双
精度
值转换为浮点值。我正在使用boost::numeric_cast进行此转换,它会在出现任何
溢出
/下溢时发出警报。然而,我也想知道转换是否会导致一些
精度
损失。double source = 1988.1012;生成值为1988.1的dest 有什么方法可以检测这种
精度
损失
浏览 2
提问于2010-07-14
得票数 10
回答已采纳
3
回答
验证数字
精度
/小数位数
、
、
、
、
如何验证从表单过帐的数字的
精度
/小数位数,以确保它可以存储在Oracle number列中?dynamic...where我希望能够在不尝试在Oracle中插入/更新它的情况下验证数字,并处理任何精确
溢出
错误我还没能想出一种方法来准确地验证所有不同的边缘情况(Oracle不会产生刻度
溢出
的误差-它只是舍入到最大值,但这种舍入可能会导致
精度
溢出
,从而产生误差,等等)。
浏览 3
提问于2011-09-10
得票数 0
回答已采纳
1
回答
将具有大量小数的.Net小数映射到SQL Server
、
、
如果我有一个像32.59317073170731707329023999999999这样的小数,我应该使用什么SQL数据类型,以及
精度
和小数位数? 我的整数部分很小(1-10000),小数部分很大。我尝试过使用不同
精度
和小数位数变化的decimal,但在.Net中得到了
溢出
异常。
浏览 3
提问于2009-11-05
得票数 0
1
回答
数据类型
精度
对性能的影响
、
在c++时库(或)中,使用这些库的高
精度
类型会降低性能(内存使用量、速度)还是与
精度
类型无关? 高
精度
类型:纳秒,微秒,毫秒,.
浏览 0
提问于2018-12-06
得票数 2
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
js浮点数精度计算问题解决
溢出的精妙
CSS-单行文本溢出和多行文本溢出
栈溢出学习笔记
栈溢出原理浅析
热门
标签
更多标签
云服务器
ICP备案
对象存储
实时音视频
即时通信 IM
活动推荐
运营活动
广告
关闭
领券