腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
1
回答
如何
控制
reportlab
表
中
的
浮点数
精度
?
、
、
、
我正在使用
reportlab
和Python 3.7创建一个
表
。我想知道是否有一种方法可以更改
浮点数
的
小数
精度
。 例如,现在一个单元格
中
的
浮点数
是4.33333333。将
浮点数
改为具有2位数
的
字符串不是一个选项,因为我需要用这些数字进行计算。
浏览 9
提问于2019-04-05
得票数 0
2
回答
Python -除法结果
中
的
有效位数
、
、
、
、
:VoltsPerADC = 0.0196078myVolts = 2.5098我一直在寻找关于有效位数是
如何
在默认情况下确定
的
解释,但我很难找到对我有意义
的
解释。这个链接建议在默认情况下"print“语句将数字打印到10个有效数字,但在我
的
结果
中
似乎不是这样。有人能帮我解释一下吗。 提前感谢您
的</
浏览 0
提问于2010-04-01
得票数 3
1
回答
将数字从单
精度
浮点表示转换为半
精度
浮点
、
为此,我创建了自己
的
C++类fp16,其中包含与此类型相关
的
所有运算符(算术逻辑运算符、关系运算符),同时使用带有半
精度
浮点数
的
数字。半
精度
浮点=1个符号位、5个指数位、10个有效位数= 16位因此,我要做
的
是将单
精度
浮点数
转换为半
精度
浮点数
: 对于有效位数-我使用截断,即从32位
中</em
浏览 10
提问于2011-09-15
得票数 3
回答已采纳
3
回答
浮点值
的
额外
精度
值
、
下面是KN King
的
现代编程方法
中
摘录
的
解决方案代码。);输入:预期结果:x = 12.3实际结果:x = 12.300000问题: 为什么
浮点数
会有额外
的
十进制值是否设置了
浮点数
的
默认
精度
,以及
如何
更改它(只有默认设置--我知道可以使用格式化字符串来
控制
printf
中
的</e
浏览 4
提问于2013-11-24
得票数 0
回答已采纳
1
回答
如何
在cassandra
中
存储6位
精度
的
双
精度
/
浮点数
/十进制数?
、
、
我正在尝试在cassandra
表
中
存储数据帧
的
一些字符串。我尝试使用cassandra表列,将其定义为
浮点数
/双
精度
/小数。但是每种类型只存储2
精度
,即8.00005存储为8.00 69.345到69.34时,cassandra
表
有什么问题?为什么它不能保持所有的
精度
数字。
如何
解决此问题?如果需要更多关于这个问题
的
信息,请告诉我。
浏览 12
提问于2018-12-21
得票数 0
4
回答
C# -
如何
在数据库
中
存储双
精度
数组?
、
、
、
、
我有一个很大
的
双
精度
数组,它是对象
的
一部分。这些对象将存储在数据库
中
。我已经创建了一个
表
,其中包含每个字段。我被卡住了,试图弄清楚
如何
在
表
中
存储这个巨大
的
双
精度
数组。我不能在每一列中使用这些双
精度
值来创建另一个
表
,因为数组
的
大小对于每个对象来说是可变
的
,而且它们非常大。因此,在设置数据库时,遍历
表
并添加数千个
浮点数</e
浏览 2
提问于2013-07-19
得票数 0
回答已采纳
1
回答
有没有办法把“最佳类型”
的
浮点常量从一个微处理器移植到另一个微处理器?
、
、
、
、
在我
的
具体案例
中
,我首先开发了一个在德州仪器微
控制
器(TMS320F28335)上运行
的
程序。它是一个实时同步发电机模拟器,因此需要执行大量
的
浮点运算。我没有为浮点常量指定任何后缀,所以它们被视为双
精度
型(我猜C标准是这么说
的
),但是德州仪器提供
的
编译器将双
精度
浮点数
实现为32位
浮点数
,所以微
控制
器
的
浮点数
被高效地使用(参见
中
<
浏览 15
提问于2019-11-14
得票数 0
回答已采纳
2
回答
如何
在python
中
向列表添加方法返回值?
、
我正在使用
reportlab
和django创建一个pdf报告。我有一个简单
的
表
数据,定义如下: for xin page])
如何
强制计算列表
浏览 0
提问于2014-04-27
得票数 0
回答已采纳
1
回答
将double转换为
精度
超过5位小数
的
字符串
、
、
、
、
一开始,我使用boost
的
lexical_cast来做这件事。但由于C++表示双
精度
/
浮点数
的
方式,当我将5.1转换为字符串时,它会提供5.0999999或某种程度上
的
东西。因此,我将其转换为:ss << 3.14159265359;但这只会给我3.14159,我想要更高
的
精度
。我想我看到了printf()能够做到这一点,但我实际上是在开发一个Windows GU
浏览 3
提问于2012-10-04
得票数 0
回答已采纳
3
回答
读取excel数据时
的
OleDB Jet - Float问题
、
、
、
当我使用OleDbDataReader将一个工作
表
读入DataTable时,
浮点数
失去了它们
的
精度
。我尝试强制OleDb将excel数据作为字符串读取,但是尽管数据现在包含在一个DataRow
中
,并且每个列都定义为System.String,但它失去了
精度
(18.125 -> 18.124962832你知道
如何
避免这种行为吗?
浏览 4
提问于2010-04-11
得票数 4
1
回答
生成具有受控
精度
级别的随机
浮点数
这将在Ruby中生成一个具有一定
精度
级别的随机
浮点数
: number = rand * (max - min) + minendvar = rand(100) * 1.0 这会生成一个从0.0到10.0
的
随机
浮点数
这听起来不错,但我不确定
如何
用这种方法
控制
<
浏览 0
提问于2013-12-31
得票数 1
1
回答
MySQL浮子类型范围与
精度
混淆
、
我正在学习MySQL,对float
的
范围和
精度
有问题。 对于
浮点数
,SQL标准允许在括号
中
关键字FLOAT后面以位为单位
的
精度
(但不是指数
的
范围)
的
可选规范。MySQL也支持这个可选
的
精度
规范,但
精度
值仅用于确定存储大小。从0到23
的
精度
将导致4字节
的
单
精度
浮点数
列.从24到53
的
<e
浏览 5
提问于2017-06-03
得票数 4
回答已采纳
1
回答
在SQL server
中
创建类型为"float“列
的
表列被创建为"real”类型
、
、
、
我创建了一个简单
的
表
如下所示:(col2 float当我使用sp_help或脚本
表
作为create检查表定义时,我将
浮点数
[table1]([col2] [float] NULL根据我从和引用
中
的
理解,浮动
的
精度
n可以从1到53不等。为什么它在默认情况下会被转换为real (当
浮点数
具有指定
的</em
浏览 1
提问于2016-11-03
得票数 2
4
回答
将数字从单
精度
浮点表示转换为半
精度
浮点
希望它在这里是相关
的
。单
精度
浮点=1位,8指数位,23位= 32位 因此,我
如何
从一个精确
浮点数
转换为一个半
精度</
浏览 0
提问于2011-09-15
得票数 4
1
回答
将数字从单
精度
浮点表示转换为半
精度
浮点
、
为此,我使用与此类型相关
的
所有操作符(算术、逻辑、关系)创建了自己
的
C++类fp16,这些运算符重载了自定义函数,同时使用了一个带有半
精度
浮点数
的
单
精度
浮点数
字。半
精度
浮点=1位,5指数位,10位= 16位因此,我
如何
从一个精确
浮点数
转换为一个半
精度
浮点数
:- 对于有意义和比特-我使用截断,即从32位松散
的<
浏览 0
提问于2011-09-15
得票数 0
10
回答
把钱存进十进制
、
、
、
我使用十进制列将货币值存储在数据库
中
,今天我想知道使用什么样
的
精度
和比例。我应该使用什么样
的
精度
和比例?我在想24小时24小时
的
精确性。这是不是过分了,还不够吗? 将货币存储在帐户
表
中
。交易金额将为DECIM
浏览 14
提问于2008-10-22
得票数 192
回答已采纳
1
回答
关于x87 FPU
的
精度
、
、
在Intel IA-32软件开发人员手册
中
。x87
控制
字
的
8位和9位决定了浮点计算
的
精度
.默认
的
精度
是双扩展
精度
。在执行指令"FINIT“后,
精度
被设置为双
浮点数
。问题是,在执行"FINIT“之后,x87 FPU只使用80位数据寄存器
中
的
64位来计算。并且FPU不能接受(输出)双扩展
精度
浮动值(从(到)内存).是这样
的
吗?
浏览 0
提问于2013-12-22
得票数 0
回答已采纳
1
回答
同时从
浮点数
和双
精度
中
读取文件?
、
、
我
如何
才能同时对
浮点数
和双
精度
进行fscanf,因为我声明了一个全局
精度
,一次是单
精度
(
浮点数
),一次是双
精度
(双
精度
)……因此,当我运行它时,每次转换为不同
的
类型时,我都必须更改它fscanf(fp1,"%lf", &a[i][j]); 那么,有没有一种方法可以同时适用于两种情况,而不需要每次都进行更改呢?
浏览 0
提问于2012-04-04
得票数 3
回答已采纳
1
回答
基于Intel芯片
的
半
精度
浮点算法
、
、
、
、
是否有可能在英特尔芯片上执行半
精度
浮点算法? 我知道
如何
加载/存储/转换半
精度
浮点数
1,但我不知道
如何
在不转换为单
精度
浮点数
的
情况下添加/乘它们。
浏览 0
提问于2018-04-24
得票数 16
回答已采纳
3
回答
需要从
控制
台读取双倍内容
、
、
我不确定我做错了什么,但我无法从
控制
台读取double。出于某些原因,阅读它可以很好地工作。我使用
的
是Xcode。
浏览 4
提问于2012-03-25
得票数 6
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
如何修改Excel工作表中的批注形状
在控制面板中添加“编辑注册表”的小技巧
如何在Excel表格中隐藏工资表中的工资?
石油行业中如何选择精度较好的流量仪表
如何锁定Excel表中的公式,防止被修改?
热门
标签
更多标签
云服务器
ICP备案
实时音视频
对象存储
云直播
活动推荐
运营活动
广告
关闭
领券