腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
2
回答
Python -如何提高
小数
的准确性?
、
、
、
我正在写一个程序,我需要传入
小数
的非常
精确
的十进制表示(即
精确
到
小数
点后200位)。然而,简单地告诉python包含更多的
小数
位(例如,使用%.50f )通常只是在某些
小数
的末尾添加一堆0。有没有办法让python
精确
地显示
小数
的任意位数?我需要安装一个包/模块吗?
浏览 0
提问于2016-06-09
得票数 1
2
回答
小数
到
精确
小数
、
、
、
如果a/b是整数,只需输出值,不带
小数
点或前导零:81 / 3
浏览 0
提问于2016-08-09
得票数 24
回答已采纳
1
回答
渲染后更改decimaPrecision字段的numberfield值
我有货币下拉列表和金额数字field.on选择货币,金额字段的值应该格式化为
小数
精确
值,这个决定精度应该在货币选择值中更改。例如:币种:“AED”,则金额值应由12.00(2个
小数
精度)币种:“USD”组成,然后金额值应由12.000(3个
小数
精度)组成,因此,我希望
小数
精确
值动态更改
浏览 3
提问于2011-11-23
得票数 1
2
回答
窗口上的卷曲精度
、
、
、
在windows pycurl中,可以
精确
到
小数
点后3位的时间,有没有办法提高到更
精确
的精度?> print c.getinfo(pycurl.CONNECT_TIME)例如,Linux给了它大约7位
小数
点。
浏览 2
提问于2012-11-16
得票数 0
回答已采纳
1
回答
非
小数
位对双精度数字的影响
、
double v2 = 0.36... v2可能更
精确
(
小数
点后更
精确
的数字),这是因为较少的数字用于编码
小数
点的左边部分吗?
浏览 5
提问于2012-10-27
得票数 0
回答已采纳
1
回答
纬度/经度精度
以下情况的纬度和经度组合有多
精确
: 我正在寻找的是,一个纬度/经度需要有多
精确
才能隔离一个特定的家庭地址(例如:它需要到达多少
小数
位?)这似乎不适用于公寓(多层仍是同一层/长层)、可能的共管公寓等;但对于家庭而言,这可能在一定程度上提供<em
浏览 0
提问于2015-06-15
得票数 0
1
回答
用asm.
js
进行高精度的计算实用吗?
、
、
、
、
由于这个限制,我不能让我的程序像我希望的那样
精确
地绘制。互联网上有一些图像和视频表示分形图像,它们非常
精确
,以至于在
小数
点后使用数百位数字。请看这里的示例:有没有一种使用asm.
js
进行高精度计算的实用方法?有多高?如果我不得不试试,我猜既然asm.
js
确实支持整数运算,我可以通过使用整数数组来表示
小数
点后的大量数字来实现它。我可以将数字表示为字符串,并使用一个小
浏览 7
提问于2014-02-28
得票数 4
1
回答
Go
精确
小数
、
、
当我为了在gRPC上传输这些值而编写protobuf文件时,我可以使用: 有点像来自的
浏览 2
提问于2018-05-30
得票数 11
3
回答
返回长十进制值的Javascript (node.
js
) Math.floor
、
注意:这是用node.
js
编写的
浏览 0
提问于2013-05-11
得票数 0
回答已采纳
1
回答
Python MySQLdb游标截断值
、
、
、
我有一个MySQL数据库,其中包含一些具有非常
精确
的
小数
值的双精度数(例如,0.00895406607247756,17位
小数
)。这是科学数据,所以高精度是非常重要的。for n in range(cursor.rowcount): print row有没有办法在不截断的情况下从MyS
浏览 1
提问于2010-07-29
得票数 1
回答已采纳
2
回答
Mysql插入/更新不同的十进制值
、
、
、
我有一个非常奇怪的情况,mariaDB (mysql)插入(或更新)一个不同的十进制值。在下面的示例中,我想插入值'387507.65‘,但在mysql中它被注册为'387507.66’。如果我使用一个不同的数量,比如没有'3',那么它就被注册为罚款。CREATE TABLE IF NOT EXISTS tbltest ( admin_id int(11) NOT NULL DEFAULT '0', opening_balance float(11,
浏览 0
提问于2018-02-28
得票数 0
1
回答
SqlTruncateException:数字算法导致截断
、
、
、
我们有一个存储过程,它将余额保存到db。 我们通过一组余额:{ public decimal? Balance { get; set; }}create type Settlement.LoroBalanceType as table
浏览 4
提问于2017-02-01
得票数 0
18
回答
如何将一个
小数
值显示到两个
小数
位?
、
、
、
在使用.ToString()显示当前
小数
的值时,
精确
到15位
小数
,而且由于我使用它来表示美元和美分,所以我只希望输出是2位
小数
。 我是不是应该使用.ToString()的变种呢?
浏览 6
提问于2008-10-03
得票数 735
回答已采纳
3
回答
哪种编程语言具有任意精度的浮点文字?
、
、
、
这个问题要求编程语言接受数字常量,以便分配给任意
精确
变量,或者用于任意
精确
表达式,而无需在赋值或表达式中的应用程序之前执行对IEEE浮点表示的转换。从上的网站上可以看出,、和为任意
精确
的浮点数提供了文字语法。还有其他更广泛使用的语言提供了与我上面提供的伪示例相同或类似的东西吗?尽管如此,我发现有时整数是不够的,浮点数在其他
精确
的计算中会引入不必要的问题。因此,有理数和任意
精确
库符合要求。太棒了。然而,我仍然想知道是否有任何语言支持在语言本身中直接表达
浏览 0
提问于2014-01-15
得票数 6
回答已采纳
3
回答
在C#中'decimal‘和'float’的区别是什么?
、
、
我知道float用于更
精确
的
小数
,而decimal用于货币或价格等少数
小数
,但当它用于少数
小数
时,为什么使用decimal比使用float更好
浏览 0
提问于2015-10-27
得票数 3
7
回答
向用户显示一个带有两个
小数
的数字,而不改变原始的
精确
值[javascript]
、
、
、
例如,我使用以下十进制值:这在Javascript中是可行的吗?
浏览 1
提问于2021-11-02
得票数 1
1
回答
价格和总数的不同
小数
、
我使用Drupal商业,我对价格中的
小数
有问题。在西班牙(我想在其他国家也是如此),我的产品价格可以超过两个
小数
位数,但最后,总数被四舍五入为两个
小数
位数。使用货币设置模块,我可以设置
小数
,但它是为所有人(价格和总计)。无论如何,我可以有四个
小数
位数的价格和两个
小数
位数的总和? 提前谢谢。
浏览 0
提问于2017-03-30
得票数 0
3
回答
模糊乘2
、
帮我想出一种模糊的方法,把一个数字乘以2,
精确
到
小数
点第二位。使用俄罗斯的乘法技术trig/其他数学的 carlo方法,但当然,CS诡计的加分是加分的。编辑: 我想起来了,也许用重要的数字,而不是
精确
的
小数
位来考虑这个问题更合适。因此,选择4个匹配的前导数字。
浏览 6
提问于2011-10-18
得票数 1
回答已采纳
1
回答
识别浮标的实际精度
、
、
、
我试图计算API创建这些浮点数的
小数
位数。我怎样才能确定浮点数实际上
精确
到
小数
点8位呢?一旦我这样做了,我就可以用"true“值而不是不准确的浮点数初始化decimal.Decimal实例。编辑: API返回的
精确
小数
位数各不相同,并不总是8位!
浏览 0
提问于2018-03-14
得票数 2
回答已采纳
2
回答
在财务之外使用
小数
、
、
、
他们是否只考虑金钱,而金、铜、铁、蜂蜜、木头、毛料、谷类等仍须以实数计算,抑或任何物质资产均须以
小数
计算?
浏览 2
提问于2013-11-07
得票数 0
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
这个数已精确到小数点后105万亿位
Excel单元格数字设置小数点位数,让数据更精确
腐团儿公布自己的身体数据,精确到小数点后,难怪拍照这么好看
相比依赖于小数据和精确性,大数据更调数据的完整性和混杂性
关注小数据
热门
标签
更多标签
云服务器
ICP备案
对象存储
实时音视频
即时通信 IM
活动推荐
运营活动
广告
关闭
领券