腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
2
回答
在objective c中添加两个双
精度
值
的
问题
、
、
、
我正在为iphone和ipad编写一个应用程序,我
的
程序需要将两个双
精度
值
相加
才能得到一个双
精度
值。问题是,当其中一个双
精度
值相当大(例如: 2^100)而另一个很小(如1或2 )时,将这两个双
精度
值
相加
的
结果是错误
的
,或者它甚至不执行加法。有没有人知道为什么会这样,有没有办法绕过它。谢谢。
浏览 0
提问于2011-09-23
得票数 1
3
回答
我如何将一个双倍到一定数量
的
小数集合起来?
、
、
我想调用一个具有double参数和int
精度
的
函数。例如:function(1.23432, 4)必须用4个小数(1.2343)对这个数字进行四舍五入。
浏览 0
提问于2018-03-21
得票数 0
回答已采纳
3
回答
将文本字段值强制转换为双
精度
、
、
我想把从textfiel得到
的
值
相加
。如何将文本字段值转换为双
精度
值? 致敬Caglar
浏览 1
提问于2010-09-17
得票数 1
回答已采纳
1
回答
C#向列表添加双
精度
型和整型
我仍然很难读到微软
的
指南。
浏览 14
提问于2020-05-16
得票数 0
回答已采纳
8
回答
添加两种数据类型时出现C++模板问题
、
我有一个带有重载+运算符
的
模板类。当我将两个整型数或两个双
精度
数
相加
时,这是正常工作
的
。我如何让它将and、int和一个双
精度
数
相加
并返回双
精度
数?
浏览 3
提问于2010-06-13
得票数 15
1
回答
OpenCL:在内核中手动抛出异常
我
的
代码中有一个非常奇怪
的
错误:当我计算两个双
精度
值并将它们
相加
时,主机报告"CL_OUT_OF_RESOURCE“。但是,如果我不将这两个值
相加
,主机就不会报告任何错误。
浏览 2
提问于2012-09-03
得票数 4
回答已采纳
1
回答
g++ SSE内部困境-来自内部“饱和”
的
价值
、
、
我编写了一个简单
的
程序来实现SSE内部函数,用于计算两个大
的
(100000个或更多元素)向量
的
内积。该程序比较了两者
的
执行时间,内积计算
的
传统方法和使用内积。一切都很好,直到我在计算内积
的
语句前插入了一个内循环(只是为了好玩)。但是,假设arr1和arr2 (两个浮点向量)
的
加载值为2.5,数组
的
长度为100,000,则两种情况下
的
结果都应该为6.25e+10。似乎从使用内部函数
的
函数返回
的
值在上面
浏览 3
提问于2010-06-01
得票数 5
回答已采纳
1
回答
如何将JavaScript中
的
数字除以10以外
的
基数进行舍入?
、
、
例如,假设我有基数8中
的
数字12.24 (基数10中
的
10.3125),我希望将这个数字
相加
到1
的
精度
点,从而得到12.3。
浏览 1
提问于2021-07-21
得票数 7
回答已采纳
1
回答
开普勒K20Xm上
的
双
精度
单元
、
、
根据,SMX有192 CUDA核和64双
精度
单元(DPU)。对于一个K20Xm,在2688核上总共有14 SMX,这意味着只有CUDA核被计算。那么DPU到底是用于什么用途
的
,它们
的
使用与核心有什么关系呢?a) CUDA核心不能进行双
精度
操作,只有DPU才能做到。因此,在DPU忙
的
时候,CUDA核心是免费
的
。( b) CUDA核心在某种程度上需要一个双
精度
单元来进行双
精度
操作,因此只有128
的
192 C
浏览 2
提问于2013-12-09
得票数 0
回答已采纳
1
回答
GMP ..binary执行
、
如何在内部执行对整数
的
操作?就像6=0110,4=0100..and 6+4= 0110+0100..在乘法、除法和其他运算
的
情况下会发生什么!??它如何控制溢出位和其他东西..。
浏览 1
提问于2010-01-28
得票数 1
回答已采纳
3
回答
双
精度
值打印为整型
、
、
、
我尝试使用加法函数来获取双
精度
值,并将其与另一个双
精度
值
相加
,以获得答案。我使用get方法/函数来获取answer值。答案
的
值只以整型显示,而不是双
精度
型。这是我正在编写
的
代码……void addValue(double value) x = value + x;{}{ addValue(10.0); cout <
浏览 2
提问于2017-09-27
得票数 2
3
回答
如何在Objective-C中添加数字字符串
、
我试图在Objective-C中将字符串中
的
所有数字
相加
,但我无法计算出它。NSString *number = @"234454875657"; 如何一次提取一个数字,然后将它们
相加
?此外,如果字符串很短,您可以获取intValue并使用% 10,然后除以10来将所有数字
相加
,但如果它是一个长字符串,并且只有Double可以容纳它,该怎么办?%不适用于双
精度
值。
浏览 2
提问于2011-12-04
得票数 0
回答已采纳
1
回答
添加两个浮点值,最多可得到2个
精度
值。
、
、
当我们在不改变类型为
的
情况下,将包含0作为第二
精度
的
浮点值
相加
,我们能达到2个
精度
值吗?我有个片段print a 2.40我试过这样做,getcontext().prec = 3Decimal('2.40') 但是每次我都需要改变
精度
值!我们能在
浏览 2
提问于2017-11-01
得票数 1
3
回答
非常奇怪
的
行为:乘法给出错误
的
答案
我有非常奇怪
的
问题。我有一个应用程序,其中客户将输入质量和价格,然后程序将自动计算。问题是,有时它给出
的
数字是错误
的
,我举了一个例子。这真的是非常奇怪
的
行为。有什么可以帮上忙
的
吗! 诚挚
的
问候。
浏览 4
提问于2013-06-09
得票数 0
3
回答
如何在php中获得双倍价值
实际上,我想把两个数字
相加
,结果应该是双
精度
的
。 $b=4; ?> 期望
的
输出是8.0,但它给出
的
结果是8。
浏览 0
提问于2017-06-18
得票数 1
回答已采纳
1
回答
为什么在python中求解Xc=y
的
不同方法给出了不同
的
解决方案,而它们不应该这样做?
、
、
、
、
我试图解一个线性系统Xc=y,它是正方形
的
。我所知道
的
解决这个问题
的
方法是: 然后,我检查上述三种方法是否符合事实。这是机器精密
的
东西吗?还是因为当度大(大于1)时,误差会累积(很多)?老实说,我不知道,但所有这些假设对我来说都是愚蠢
的<
浏览 7
提问于2017-10-21
得票数 1
1
回答
使用MMX指令添加压缩字节/字
、
、
因此,假设我们有两个包含以下十六进制值
的
寄存器:AB0890C2、4598EE50。根据我
的
理解,如果你正常地将两个十六进制值
相加
,你会得到F0A17F12,但是我如何对压缩
的
字节和字使用MMX指令来
相加
呢?
浏览 7
提问于2015-11-11
得票数 0
2
回答
浮点,它什么时候出现
的
,它是如何工作
的
、
564214623154我们将这个c=a*b相乘,它应该是30609771735350808,但当编译它时,它显示3.0609771735351E+16,所以据我所知,它应该会失去一些
精度
,但当我用c除以c/a时,我得到了564214623154
的
准确结果,而没有任何
精度
损失c = 30609771735350808 那么,只有
浏览 1
提问于2011-07-13
得票数 2
回答已采纳
2
回答
如何将一个非常小
的
数字和一个非常大
的
数字
相加
、
、
如何将一个非常小
的
数和一个非常大
的
数
相加
和相乘,比如$10^{-20}$和$10^{20}$
的
任意
精度
。
浏览 1
提问于2015-07-14
得票数 0
2
回答
将大量浮点数
相加
我正在学习数值分析,我不明白这一点:当添加大量浮点数时,最好
的
方法是从最低到最高将数字
相加
。为什么这比从高到低
的
数字
相加
更精确?
浏览 0
提问于2018-02-26
得票数 0
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
js浮点数精度计算问题解决
Three.js和Babylon.js的比较
工业机器人精度的含义,位置精度、轨迹精度、超调状态详细讲解
0.0001的精度!
js this的几种情况
热门
标签
更多标签
云服务器
ICP备案
对象存储
实时音视频
即时通信 IM
活动推荐
运营活动
广告
关闭
领券