腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
2
回答
浮点
乘
零保证产生零吗?
、
、
我知道浮点有四舍五入的
错误
,但我想知道是否存在
错误
不适用的某些情况,例如零
乘
。 对于所有
浮点数
,零乘以任何数字=零吗?
浏览 3
提问于2015-05-14
得票数 22
回答已采纳
3
回答
如果
浮点数
的计算范围是高值而不是低值,那么浮点是否具有更高的精度?
、
对于
乘
/除/加/减,较大的
浮点数
范围是否比较低的
浮点数
范围更精确? 例如,567.56 / 345.54会比.00097854 / .00021297更准确吗?
浏览 1
提问于2012-08-07
得票数 1
回答已采纳
1
回答
不支持的操作数类型为*:“实例”和“浮点”
、
、
我尝试为我正在创建的GUI创建一个类,但是遇到了一个我无法修复的
错误
。我已经通过其他论坛,尝试了不同的方法来修正
错误
,但没有运气。####other code not needed yposition = (r * sinValue) 我得到的
错误
是
浏览 5
提问于2017-01-05
得票数 3
回答已采纳
2
回答
巨蟒什么时候引发FloatingPointError?
Python说,当
浮点数
计算失败时会引发FloatingPointError。但是,这里所谓的“浮点计算”究竟是什么意思呢?我试着用
浮点数
进行加法、
乘
和除法,但从未设法提高这个特定的
错误
。
浏览 7
提问于2016-12-19
得票数 10
3
回答
TypeError:不支持输入类型的ufunc 'isfinite‘,并且不能安全地强制输入。
、
输入:输出: B:二进制掩蔽矩阵,形状为m
乘
n的
浮点数
矩阵。
浏览 4
提问于2019-09-23
得票数 0
1
回答
基于Intel芯片的半精度浮点算法
、
、
、
、
我知道如何加载/存储/转换半精度
浮点数
1,但我不知道如何在不转换为单精度
浮点数
的情况下添加/
乘
它们。
浏览 0
提问于2018-04-24
得票数 16
回答已采纳
1
回答
MIPS将int乘上
浮点数
,得到
错误
的答案
当我运行我的程序并输入20度时,火星的输出是8.8E-44,QtSpim是0.000000。应该是62.8.datac: .word 180.globl main mul $t5, $t2, $t6addi $t5, $t5, 4add $t4,
浏览 7
提问于2014-04-23
得票数 0
回答已采纳
1
回答
为什么双到int可能会给出不同的结果?
、
、
99.850000 reInt1: 9984在0到10000 (不动点表示)之间的所有值中,大约47%可见此
错误
浏览 2
提问于2019-05-16
得票数 1
4
回答
如何将向量
乘
成双倍?
、
currentTime += timestep; { }我一直收到
错误
浏览 4
提问于2014-07-03
得票数 0
回答已采纳
1
回答
C#中的GF(256)有限域乘法函数
、
、
、
、
使用查找表 对于自定义函数,我找到了一段C代码,我试图为C#重写它,但它不起作用(我得到了
错误
的结果)。
浏览 10
提问于2012-11-05
得票数 2
回答已采纳
1
回答
当我用multu乘以
浮点数
时,我应该忽略LO寄存器中的结果吗?
、
、
在我们的项目中,我们从用户那里获取两个
浮点数
,将它们存储在整数寄存器中,并将它们视为IEEE 754单精度
浮点数
,通过掩码操作位。因此,在我将小数值的23位相
乘
后,如果我想返回一个单精度
浮点数
(32位)作为乘积,我是否应该考虑放在LO寄存器中的结果?
浏览 1
提问于2009-09-01
得票数 0
2
回答
如何用etherjs输入大数
、
由于
浮点数
据类型不受solidity支持,而且函数输入默认为18个零尾,所以我使用timeAmount来
乘
10^18。* timesAmount && temperature < 50 * timesAmount) { }当我用
js
await nft.connect(deployer).setUriToUpdate(15 * 10 ** 18)
错误
:溢出https:/
浏览 0
提问于2022-12-30
得票数 1
回答已采纳
1
回答
TypeError:在机器学习非线性回归中不能用'numpy.float64‘型非整数
乘
序列
、
、
、
我试着在两个输入x,y上进行机器学习非线性回归,我得到了拟合。问题是对给定输入是否合适的问题进行了评估。x,y = [0,1,2,3,3.8],[0,0,2,6,10]ym1 = ydef EvaluateEqu(t,c0,c1,c2,c3): # Evaluate c0 + c1*t - c2*e^(-c3*t)# find optimal parameters p01 = [10,1,10,0.01]# ini
浏览 11
提问于2020-08-02
得票数 0
回答已采纳
1
回答
错误
:二进制操作数无效*(有'double‘和'double *')
我在这个代码中有一个
错误
: mat c = c = mat_new(n); { } return c;
错误
浏览 1
提问于2018-05-15
得票数 0
回答已采纳
2
回答
为什么我的乘法函数在haskell不让我
乘
一个浮子?
、
、
这是我的乘法函数:multiplicacion n m = n + (multiplicacion n (m - 1)) *Main> multiplicacion 4.1 4这是可行的,但如果第二个参数也是
浮点数
,则会发生这样的情况:功能中断了
浏览 6
提问于2020-08-28
得票数 0
回答已采纳
1
回答
如何访问python中包含浮动变量的数组
现在,当运行一个代码(如果您感兴趣的话,它是由一个用户分发的),作为values参数的makeRandomList函数会抛出一个
错误
:不能将序列
乘
成非整数类型的
浮点数
。我不知道是什么
错误
--在我看来,v似乎是一个包含浮点值的数组。这应该是很好的,因为
错误
发生在这一行:new_list.append(values[random_num]*1.0)中,random_num,一些整数值,只是给出了我想要访问的v数组的索引。
浏览 0
提问于2018-05-18
得票数 0
2
回答
手动更改matplotlib中的xticks
、
'black', linewidth=0.5, label="Soil Moisture - 4 layers") 如何将xticks修改如下: 我试过这样的答案: 但是它不起作用,并提供了以下
错误
: TypeError: arange:标量参数,而不是元组。
浏览 0
提问于2018-10-24
得票数 0
回答已采纳
1
回答
RobertSedwick书中的散列溢出和下溢
、
、
<1>If键是w位整数,我们可以把它们转换成
浮点数
,除以w的<2>power,得到0到1之间的
浮点数
,然后乘以M。<3>If浮点运算是昂贵的,而且数字并不大到导致<4>overflow,我们可以用整数运算实现相同的结果:
乘
键<5>by M,然后将右w位除以w的幂(或者,如果乘法会溢出,则<6>shift再
乘
)。要变换什么,要
乘
什么 谢谢
浏览 4
提问于2014-02-21
得票数 0
回答已采纳
1
回答
给定两个
浮点数
,我如何才能检测出在计算中何时会丢失精度?
、
我使用
JS
并拥有。关于
浮点数
是否正确: 在分母为2的二进制
浮点数
中,只能表示精确的十进制数。
浏览 1
提问于2017-11-28
得票数 1
2
回答
浮点乘法
、
、
、
、
我有这个问题,我要解决的问题,我必须
乘
成
浮点数
(16位),但我没有办法再次检查它。任何帮助都是非常感谢的。
浮点数
A: 0 11000 0111000000浮点B: 0 11010 1011000000A: 24-15=9 B: 26-15=11(2^9然后我
乘
去得到尾数。
浏览 4
提问于2014-01-23
得票数 2
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
js浮点数精度计算问题解决
JS错误和异常处理
Django分离JS代码,处理AJax错误请求
RSLint:使用Rust开发的JS Linter,可以解析错误代码
Python变量与数据类型(一)
热门
标签
更多标签
云服务器
ICP备案
实时音视频
对象存储
即时通信 IM
活动推荐
运营活动
广告
关闭
领券