腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
2
回答
printf()中大浮点数的奇怪行为,并将其赋给一个int
、
、
、
根据我的
计算
,将浮点值转换为
计算
机存储的二进制值(符号、指数、尾数格式),在32
位
中,1
位
保留
给符号,8
位
保留
给指数。 所以只剩下23
位
来表示这个
数字
。
浏览 0
提问于2019-08-12
得票数 1
1
回答
小数-
数字
数据类型中的VB.net 300
位
、
、
、
我正在寻找一种可以
保留
300
位
数字
的
数字
数据类型。和我尝试了double-single,但它们不起作用,我不知道为什么,但它以digit n25结束。谢谢 例:当我在
计算
机的
计算
器上
计算
时,我得到了0,65857864376269049511983112757903,但当我自己使用double进行
计算
时,我得到了065857864376269。
浏览 0
提问于2014-07-14
得票数 0
1
回答
如何在java中
计算
大数?
+n^n,我知道怎么做,但是问题是我只想要和的最后十个
数字
,但是我只需要使用原始数据。如何仅使用原始数据
计算
大数。
浏览 0
提问于2018-11-08
得票数 1
回答已采纳
2
回答
如何在Javascript中精确地浮动
数字
?
、
、
、
大家好,我正在处理关于javascript天文
计算
的文件,所以我需要更高的精度。我对每一行都有很多操作,我希望结果更精确(逗号后面的小数点也是10或20)。在JavaScript中,如果我不声明十进制数(例如使用.ToFixed(n)),那么在
计算
过程中,语言在逗号之后有多少位置?在其他问题中,为什么用户建议使用decimal.
js
或其他库?对不起我的英语!
浏览 1
提问于2019-03-30
得票数 1
1
回答
Excel更改整数值
Microsoft office professional Plus 2010 - Excel版本14.0.7165.5000 (32
位
)。OS: Win7 提前谢谢。
浏览 4
提问于2016-05-25
得票数 1
回答已采纳
3
回答
Javascript -这个噪声函数会起作用吗?
、
、
您可以看到它在C# 中正常工作,并且同一个输入的
JS
结果不正确。 我怀疑这与
JS
变量不是严格的整数有关,但有人能解释得更清楚吗?有没有人有一个类似的简单的确定性函数,如果它不起作用,我可以在
JS
中使用?
浏览 3
提问于2019-04-16
得票数 1
1
回答
如何在mongoDb中存储大于最大64
位
int的
数字
?
、
、
、
、
这个
数字
大于9223372036854775807,对于NumberLong来说太大了,因为它是mongo的原生64
位
长类型。做这个/最好的字段类型的最好方法是什么?是否可以
保留
较小整数(如{$lt})的任何查询功能? 庞大的
数字
是由bignumber.
js
生成的,我用猫鼬与mongoDb进行交互。
浏览 0
提问于2017-03-30
得票数 5
1
回答
我使用什么BigQuery数据类型来支持许多十进制
数字
?
如果我将其转换为
数字
,这是对财务数据的推荐,我只
保留
9个小数位数。如果我把它转换成FLOAT64,我会得到12
位
小数。 有没有办法让我
保留
所有的原始信息而不失去精确性?我知道,FLOAT64不被推荐用于财务
计算
,但我仍然希望
保留
更多的小数。
浏览 1
提问于2020-04-01
得票数 0
回答已采纳
2
回答
包含浮点数的QtGui QTreeWidgetItem setData
、
、
当我尝试使用setData(0,0,number)记录
数字
时,它将精度向上舍入为6
位
数,这对我来说是不够的。我想要
保留
精确的浮点值,以便进一步
计算
。
浏览 5
提问于2012-08-17
得票数 2
回答已采纳
3
回答
指数算法分析
本文提供了关于指数的如下内容 关
浏览 2
提问于2011-08-29
得票数 2
1
回答
有没有办法将任何
数字
编码成一系列8
位
数字
,包括一个终止字符?
、
、
、
所以我想编码的
数字
小到0,高到很高(32
位
,64
位
,其他8
位
倍数)。简单的方法是只使用
计算
机体系结构内置的支持"word“大小或其他东西的方法,例如32
位
或64
位
是常见的情况,所以整数仅限于这个大小。但是我想做一件理论上的事情,看看是否有办法用8
位
数的序列来编码任意大的
数字
。nbbbbbbbbbbbb
浏览 4
提问于2019-11-27
得票数 0
回答已采纳
1
回答
php按
位
异或和
js
按
位
异或产生不同的结果
、
、
当我尝试在php和
js
中执行逐
位
XOR运算时,它们在某些情况下会产生不同的结果,例如2166136261^ 101 = 2166136224(php) 我的理解是因为php运行的是64
位
,而不是32
位
的
js
。
浏览 32
提问于2016-08-31
得票数 1
1
回答
字节是否可以安全地从UUID中删除,并仍然期望它保持其唯一性?
、
、
我编写了以下模块,将UUID编码为任意基数: 现在,这使得它在
保留
唯一性的同时,使用默认字母表减少到22个符号,但我想知道在最大化
保留
唯一性的同时,我可以截取多少(/which)
数字
。UUID的所有
数字
是否都是随机/唯一的,或者某些
数字
比其他
数字
更随机?例如,如果前几个
数字
是
计算
机/应用程序特定的标识符,那么很明显,它们的随机性比后几个
数字
要小。将其截断为,比方说,8
位
数字</
浏览 1
提问于2011-01-10
得票数 4
回答已采纳
1
回答
将C#中的函数转换为NodeJS函数
、
我有一个isue,我想把一个函数从C#转换成nodejs。但我仍然有一些错误。我找不到解决办法。我尝试在nodejs中使用一些框架,但它仍然不起作用。顺便说一句,我使用了用于stringbuilder.thanks的node-stringbuilder来帮助您public static string ByteArrayToBase36String(byte[] bytes) string ValidChars = "QAZ2WSX3" + "EDC4RFV5" + "TG
浏览 36
提问于2020-11-15
得票数 0
回答已采纳
2
回答
捕捉浮点数的精度损失
、
、
我正在为我的考试准备用C语言编写一个小
计算
器。我知道double比float更精确,因为它为指数
保留
了11
位
,为有效数
保留
了53
位
。当涉及到整数时,我可以执行以下操作来捕获上溢/下溢。return UNDERFLOW_ERROR; *res = a + b; } 当
数字
加倍时,如果
数字
太高,控制台会给你"inf“或"-inf&quo
浏览 12
提问于2021-02-05
得票数 0
5
回答
在位溢出的情况下,为什么要丢弃MSB?
、
、
、
所以我想知道为什么只有左大部分
位
被删除了?
浏览 8
提问于2014-02-23
得票数 0
回答已采纳
1
回答
项目Euler问题的Python解决方案
、
我基本上, 保存了1000
位
数字
,因为文本文件将其转换为string,创建了一个名为window的数组,该数组存储的值为,该数组通过1000
位
数字
数组并存储相邻
数字
,乘以这些
数字
,只
保留
最大值。该代码适用于给出的示例答案(对于4个
数字
,它实际上
计算
了5832)。问题是代码错误地
计算
了13
位
数的答案,我似乎找不到问题。
浏览 7
提问于2022-11-28
得票数 0
回答已采纳
2
回答
数据类型转换的令人困惑的部分
、
、
、
问题是,为什么这个见鬼的浮点数丢失了int值中的
数字
"1“??浮点数不是有更大的量级吗?
浏览 0
提问于2015-11-27
得票数 1
4
回答
js
jQuery,始终有一个
数字
显示至少两位数00
、
我使用以下代码将
数字
加1:<div id="count">03</div><div id="count">12</div> $('#count').text(function(i,txt) { return parseInt(txt, 10
浏览 1
提问于2010-11-24
得票数 5
回答已采纳
2
回答
保持浮点&在javascript中添加按
位
操作
、
、
在我的JavaScript程序中进行一些优化是很有必要的,因为在一个事件发生后运行了很多
计算
。这里是我的问题。) (n1 & n2)<<1 1是做什么的?这样做的目的是什么?与XOr一样,显然不需要对这些
位
做任何其他操作,因为它们的十进制值是可以的,因为它们在求和变量中。在我的脑海中,我无法想象& shift操作正在实现什么。
浏览 1
提问于2012-05-06
得票数 5
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
2位图灵奖得主,7位院士,超千位计算机顶级专家,共话计算赋能数字化转型
Javascript每日一学-如何使用Javascript格式化数字,金额
JavaScript零基础保姆级教程-2
javaScript 基础入门(一)
第二章 JavaScript基本语法
热门
标签
更多标签
云服务器
ICP备案
实时音视频
云直播
对象存储
活动推荐
运营活动
广告
关闭
领券