腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
2
回答
对于`a / a`不为NaN的`a`,是否保证`Math.floor(a / a) == 1`?
、
、
考虑到浮点
运算
的
不精确
性,对于除法
运算
a / a返回数值的a的任意数值,这个等式是否都能保证为真? Math.floor(a / a) == 1
浏览 4
提问于2018-10-28
得票数 1
2
回答
术语问题&&
运算
符
、
、
嗯,我读了很多资料,但他们的定义不同: &&是逻辑连接的逻辑
运算
符//我猜这是正确的,&& is
运算
符的逻辑和//我认为从技术角度来看这是
不精确
的,&是执行逻辑的条件
运算
符,//我认为这也是正确的。
浏览 0
提问于2011-04-15
得票数 1
回答已采纳
1
回答
在MySQL中,货币的最佳数据类型是什么?
、
、
我想用一堆货币来存储价值,我不太热衷于浮点数的
不精确
性质。能够在查询中直接对它们进行数学
运算
也是一个要求。 Decimal是这里的方式吗?
浏览 1
提问于2008-10-29
得票数 12
回答已采纳
1
回答
为什么(max (sin (/ 5 3)) (sqr 12))在“计划”/“开始学生语言”中被评定为不准确?
、
、
、
、
我正在阅读如何设计程序,在练习2.1.1中,我要: 找出DrScheme是否有对一个数的平方
运算
;计算一个角度的正弦值;以及确定两个数的最大值。
浏览 5
提问于2014-08-01
得票数 2
回答已采纳
1
回答
红宝石在数值精确性方面的行为(方案比较)
、
、
但是,对一个精确数进行
不精确
的数学
运算
的结果可能会产生一个方案实现所知道的
不精确
的数字(由于浮点精度)。=> #fComplex("0.33333") / 2 这是准确还是不准确?
浏览 4
提问于2011-12-01
得票数 3
回答已采纳
2
回答
代码可以在stk中工作-简单但不能在mit-scheme中工作
、
、
、
我一直在阅读的和的课程。一个使用 (称为stk-simply),另一个使用mit-scheme作为讲座的编程语言。;; setting an accuracy or tolerance to deviation between the actual and the expected values(define (average x y) ;; gives the absolut
浏览 3
提问于2013-05-25
得票数 2
回答已采纳
1
回答
python中的分数返回可笑的大数字
、
、
我有Python代码来解决一些递归,我希望它返回一些分数。这是我的密码:import sysdef t(n): return 0 return 1/(4-t(n-1)) 如果您使用python fraction
浏览 2
提问于2017-02-03
得票数 0
回答已采纳
2
回答
乘法在
不精确
的浮点
运算
中总是可交换的吗?
、
、
、
我认为乘法即使在
不精确
的浮点
运算
中也是可交换的。
浏览 6
提问于2011-02-16
得票数 4
回答已采纳
2
回答
对于Google App Engine数据存储中的
不精确
查询,哪种模式是好的?
、
、
Google App Engine Datastore查询语言(gql)不提供
不精确
的
运算
符,如" like“,甚至不区分大小写。可以通过存储字段的小写版本来解决区分大小写的问题。
浏览 2
提问于2009-02-03
得票数 3
回答已采纳
2
回答
为什么在浮点型上调用to_i会从值中减去1?
、
我有一个例子,我在一个Float对象上做一些数学
运算
,当我在它上面调用to_i时,它会被减一。value = 0.29 * 100=> 28 我知道浮点数是
不精确
的表示,但这比我预期的要差得多。这是怎么回事,我怎样才能防止这种情况?
浏览 2
提问于2011-12-07
得票数 0
2
回答
浮子上的c#模算子
、
、
、
n.ToString("D2")));(注意:解析字符串中的双倍是有意的,这样浮点数上唯一的数学
运算
就是模数我知道浮点的数学是
不精确
的,并引入舍入误差,但是这里的0.1甚至不接近0。
浏览 1
提问于2020-11-08
得票数 1
回答已采纳
1
回答
linux上的pytohn与使用相同python包的windows上的python得到了不同的结果。
、
、
我试图在集群上运行计算代码。但是,从计算机和集群中得到的结果是不同的,在那里,集群有崩溃的倾向。我认为这是因为软件的问题,并因此在集群中安装了微型计算机的版本与计算机相同的版本。然而,同样的问题出现了。附了一个例子。import numpy as np return np.sin(t/2)*np.
浏览 1
提问于2022-08-31
得票数 1
2
回答
如何检测浮点数是否丢失舍入精度并在JavaScript中修复
、
、
当使用分数进行数学
运算
时,您可以得到数字精度问题(在这里,您得到的答案类似于:5.0000000001或17.9999999999999)。--我想检测一个数字是否说过
不精确
,如果是的话,使用JavaScript修复它。我在任何地方都找不到答案,所以我希望有人能帮我。提前谢谢你!
浏览 11
提问于2022-10-07
得票数 0
2
回答
由于方程和浮点数的重新排序而导致的输出不一致
这个问题与代数
运算
顺序无关,因为两个左手表达式在理论上都会给出相同的结果。在第一个等式中,两个c将只是抵消,而不实际在(e - c)部分进行算术
运算
。而在第二个方程中,必须计算内部的算术(e - c),因此计算机必须计算.3 - .1,这导致
不精确
的误差。
浏览 0
提问于2018-12-20
得票数 0
1
回答
精确浮点数的编译器解析
、
、
例如,如果我在C程序中使用0.75作为double文字,编译器是否会保证编译后的代码包含3/4的精确表示,或者会有风险产生一些
不精确
的表示0.7和
不精确
的表示0.05的总和?或者,同样地,如果我使用3e4作为double文字,是否可以将精确的3乘以2^(4*ln(10)/ln(2))的
不精确
表示或一些类似的数学
运算
?
浏览 1
提问于2013-01-15
得票数 4
回答已采纳
2
回答
估计MySQL中的文本所需的大小
、
、
、
估计用户将输入多少文本似乎非常
不精确
。使用各种文本数据类型有什么缺点吗?是否可以使用"LIKE“
运算
符和通配符进行搜索?
浏览 0
提问于2009-06-26
得票数 0
4
回答
C#中纬度/经度值的双精度或十进制
、
、
我会使用十进制的精确度,但对十进制浮点数的
运算
比二进制浮点数(双精度)要慢。 据我了解,大多数情况下,纬度或经度的精度不需要超过6位或7位。那么,doubles的
不精确
度还重要吗,或者可以忽略它?
浏览 4
提问于2015-01-21
得票数 110
1
回答
处理双精度
不精确
,而不是使用小数
、
、
在常见的数学
运算
中,我遇到了双精度问题。它是一个简单的加法就可以在我的double后面附加一个00000000x。但我使用的应用程序是统计相关的,性能是一个问题。在不使用Decimal数据类型的情况下,是否有合理的替代/方法可以避免
不精确
?
浏览 0
提问于2010-09-29
得票数 2
回答已采纳
2
回答
在scala中,x到y产生的数组由z生成,导致长小数。
、
我试图通过val arrayOfDoubles = (0.0 to 1.0 by 0.1).toArray生成一个数字范围为Double,但结果不是我所期望的那样。其结果类似于Array(0.0, 0.1, 0.2, 0.30000000000000004, 0.4, 0.5, 0.6, 0.7, 0.7999999999999999, 0.8999999999999999, 0.9999999999999999)。为什么是这样。我可以使用这段代码来获得我期望的结果: val roundedArray = for (x <- arrayOfDoubles) yield BigDecim
浏览 3
提问于2017-03-28
得票数 0
回答已采纳
2
回答
如何用Python编写这个方程式?
、
、
我真的不知道如何正确地写这篇文章。这是我尝试的方法: f = lambda x: x ** 1. / 2 return g(a + b*f(c)) + g(a - b*f(c)) == 1 我应该为2, 1, 5获取True,但我没有。我的函数有什么问题?
浏览 0
提问于2016-04-20
得票数 6
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
JS运算符-2
JS运算符-1
JS中最容易忽视的运算符in
大数据允许不精确
C语言位运算(按位与运算、或运算、异或运算、左移运算、右移运算)
热门
标签
更多标签
云服务器
ICP备案
对象存储
实时音视频
即时通信 IM
活动推荐
运营活动
广告
关闭
领券