5回答
是否有任何地方的Java库可以对数字执行计算，或者将它们转换成双精度？
编辑：转换需要100%的准确性--输入文件中有大量的NaNs、无穷大和异常。
浏览 1提问于2011-05-28得票数 36
回答已采纳
在上一代带有标志的i7处理器上使用GCC 4.8.1：(例如所有的“哼哼！”).cpp:31:note: not vectorized: relevant stmt not supported: D.56044_367 = __builtin_logf (D.55726
浏览 4提问于2014-03-27得票数 5
回答已采纳
1回答
CPU-GPU触发器率
、、、、
我需要计算每一个代码应该提供多少个失败值，这样在GPU上运行代码就足以提高性能。1。PCIe 16xv3.0总线能够以15.75GB/s的速度将数据从CPU传输到GPU。3。CPU能够执行400单精度GFLOPs/秒。5。计算可能与数据传输重叠。
6。数据最初放在CPU中。
浏览 2提问于2016-02-25得票数 1
3回答
我想知道在单精度MCU上被要求做双精度计算会发生什么？对于这样的计算，是否有一个已知的性能负载？集成的单精度单元(FPU)是否提高了性能？我有一个大的嵌入式软件，有一些双精度的计算，我想决定一个CPU基于更高的速度或内置的双精度FPU
浏览 6提问于2014-07-12得票数 1
我更改了单精度和双精度的代码，结果如下：双精度:26/s printf("Effective Bandwidth (GB/s): %fn", N*);printf("Effective Bandwidth (GB/s): %fn", N*8*3/milliseconds/1e6);
双精度的rezult比单精度大
浏览 0提问于2016-11-11得票数 0
1回答
我有一些使用双精度数组的例程，但对于我的一些计算，似乎不需要双精度算术，单精度算术就足够了。因此，我需要将双精度数组分配给单精度数组：real*4 :: A_aux(100,100)
A_aux(i,1:100在执行单精度计算后，我需要将单精度数组分配回双精度数组。谢谢。
浏览 108提问于2016-08-30得票数 1
2回答
我正在尝试将它转换为Java，我如何才能做到这一点？根据MATLAB手册：语法描述
B = single(A)将矩阵A转换为单精度，在B.A中返回该值可以是任何数字对象(例如double)。如果A已经是单精度，则单精度没有影响。单精度量比双精度量所需的存储量少，但精度低，量程小。
浏览 14提问于2011-05-25得票数 3
回答已采纳
有没有可能在Javascript中以某种方式模拟单精度浮点？根据Doug Crockford的博客“数字是64位浮点数”，但我不得不使用单个浮点数来移植C++算法，它计算单精度浮点数的误差。
浏览 11提问于2010-10-31得票数 9
回答已采纳
1回答
是否有一种快速的方法来清除具有双精度数据类型的OpenGL缓冲区，或者使用API调用设置默认值以避免使用计算着色器？对于半精度和单精度类型，可以使用glClearBufferData/glClearNamedBufferData，但它似乎没有64位类型的内部格式枚举，这使得科学计算应用中从单精度数据到双精度数据的转换变得更加麻烦
浏览 4提问于2019-11-04得票数 1
回答已采纳
我有一些代码，是在特斯拉和费米代芯片组上编译和测试的。在所有费米代芯片(460-580，c2080)中，输出是一致的。这是意料之中的吗？代码中有浮点数学，精度是我的第一个怀疑，但我在Nvidia的文档中找不到任何提到它的地方。
浏览 0提问于2011-06-08得票数 0
回答已采纳
如果我有一个具有1 1PFlop/s单精度浮点功率的GPU服务器，我能做双精度计算吗？如果是的话，计算能力相当于双精度计算吗？
浏览 6提问于2022-10-23得票数 -2
我听说现代的Intel和AMD CPU可以用双精度运算比用浮点数计算快。
那么标准的数学函数(sqrt、pow、log、sin、cos等)呢？在单精度下计算它们应该会快得多，因为它需要的浮点运算应该更少。例如，与双精度sqrt相比，单精度sqrt可以使用更简单的数学公式。
浏览 10提问于2011-04-21得票数 15
回答已采纳
为了检查fortran中iso_c_binding的一些属性，我编写了一个小程序 use iso_c_binding, only : C_DOUBLE, C_INT32_T, C_FLOAT integer, parameter :: rk = C_DOUBLE integer, parameter :: ik = C_INT32_T integer(kin
浏览 1提问于2016-08-31得票数 0
回答已采纳
2回答
.NET框架的数学函数主要操作双精度浮点数，没有单精度(浮点数)重载。当在高性能场景中使用单精度数据时，这会导致不必要的强制转换，还会计算比所需精度更高的函数，因此性能会受到一定程度的影响。实际上，我不确定现代CPU是否有单精度指令。
这个问题在一定程度上受到了关于优化sigmoid函数的问题的启发：
浏览 1提问于2009-08-18得票数 6
回答已采纳
1回答
对于一个K20Xm，在2688核上总共有14 SMX，这意味着只有CUDA核被计算。那么DPU到底是用于什么用途的，它们的使用与核心有什么关系呢？
浏览 2提问于2013-12-09得票数 0
回答已采纳
1回答
我的问题是：SFU在计算中是否引入了任何准确性的损失？
SFU是否与使用诸如__sin()__、__cos()__等本质相关？
浏览 0提问于2013-02-15得票数 1
1回答
在LAPACK文档中，它指出DSGESV (或复数的ZCGESV )是：
如果单精度性能与双精度性能之比太小，迭代精化并不是一种获胜策略。一个合理的策略应该考虑到右手边
浏览 1提问于2016-03-26得票数 2
1回答
我使用的是牛顿-拉夫森平方根算法，它计算输入值的单精度平方根。但是，通过使用我输入的测试平台，我发现某些输入值不会收敛到最接近实际平方根的答案。在计算单精度IEEE-754 32位值0x3f7fffff的平方根时，什么是正确的结果?为什么？
此外，在计算0x7F7FFFFF的平方根时，什么是正确的结果？
浏览 1提问于2013-07-12得票数 2
回答已采纳
1回答
Server编号舍入问题
、、、、
这是[ ]的后续问题.这是相同的代码： DROP FUNCTION dbo.rounding_testing;CREATE FUNCTION dbo.rounding_testing @value FLOAT,)BEGIN @factor FLOAT, SELECT @factor = POWER(
浏览 1提问于2016-12-21得票数 5
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
云直播
对象存储
腾讯会议活动推荐
腾讯云开发者
