10回答
单精度浮点运算和双精度浮点运算有什么区别？
我特别感兴趣的是与视频游戏机相关的实用术语。例如，任天堂64是否有64位处理器，如果有，这是否意味着它能够进行双精度浮点运算？PS3和Xbox360可以实现双精度浮点运算，还是只能实现单精度浮点运算，并且通常使用双精度功能(如果它们存在的话？)。
浏览 3提问于2009-04-29得票数 186
回答已采纳
如果图形处理器每秒可以执行N1单精度运算，而N2每秒可以执行双精度运算。有没有可能，通过混合(独立的)单精度和双精度运算来实现每秒N1+N2总运算，或者至少比N1和N2更大的运算？在英特尔/amd CPU上，我非常确定这是不可能的，因为双精度和单精度至少共享一些执行资源。但我不知道这是否适用于现代的nvidia或amd GPUs。
浏览 5提问于2021-05-01得票数 2
为此，我创建了自己的C++类fp16，其中包含与此类型相关的所有运算符(算术逻辑运算符、关系运算符)，同时使用带有半精度浮点数的数字。半精度浮点=1个符号位、5个指数位、10个有效位数= 16位因此，我要做的是将单精度浮点数转换为半精度浮点数：
对于有效位数-我使用截断，即从32位中松散13位，以获得10位有效数的半精度浮点数。
浏览 10提问于2011-09-15得票数 3
回答已采纳
1回答
Python有限域矩阵求幂
、、、、
有没有一种简单的方法来计算(特别是幂/幂)元素是有限域的整数的矩阵，或者至少有%运算符支持的任意整数精度矩阵？我试过numpy，但问题是它使用固定精度的数据类型，所以它很快就溢出了……然后我尝试了渐近，因为它支持任意整数精度，但它似乎不支持有限域运算(除了逆运算)……
浏览 2提问于2017-04-17得票数 1
1回答
向量双双浮点运算
、、、、
存在双精度浮点数不足以处理的工作负载，因此需要四精度浮点数。这很少在硬件中提供，因此一种解决方法是使用双精度，其中128位数字由一对64位数字表示。这不是真正的IEEE-754四精度--首先，你不会得到任何额外的指数位--但对于许多目的来说，它已经足够接近了，而且比纯软件实现要快得多。 许多计算机都提供向量浮点运算，最好将这些运算用于双精度运算。
浏览 16提问于2019-04-19得票数 1
回答已采纳
9回答
双精度值存储的精度更高，并且大小是浮点数的两倍，但是Intel CPU是否针对浮点数进行了优化？对于64位架构，答案会改变吗？
浏览 9提问于2010-08-07得票数 74
回答已采纳
2回答
x86/x64使用SIMD寄存器进行高精度浮点运算还是使用专用FP寄存器？
我指的是高精度版本，而不是常规的double精度。
浏览 3提问于2013-08-09得票数 1
我听说现代的Intel和AMD CPU可以用双精度运算比用浮点数计算快。
那么标准的数学函数(sqrt、pow、log、sin、cos等)呢？在单精度下计算它们应该会快得多，因为它需要的浮点运算应该更少。例如，与双精度sqrt相比，单精度sqrt可以使用更简单的数学公式。
浏览 10提问于2011-04-21得票数 15
回答已采纳
3回答
在java中，乘法运算符对于双精度值的保证精度是多少？
例如，2.2x100是220.00000000000003，但220是一个双精度数字。
浏览 3提问于2011-06-24得票数 7
回答已采纳
1回答
我正在寻找一种简单的方法来阻止我们的项目使用双精度浮点操作。目前，我正在努力使用正则表达式来筛选双倍(长双，等等)。项目中的变量和常量。但是整个软件中的变量/常量/定义流很难理解。我们的单片机通过硬件支持单精度浮点运算，但不支持双精度浮点运算.我们希望通过通知用户(例如，失败的构建过程)，严格禁止非预期地使用双精度浮点操作。有谁有检查双精度操作的一般方法吗？在“链接者”里？非常感谢!
浏览 8提问于2022-06-14得票数 0
在这些算法中，必须执行算术运算(如加法和乘法)。这些“内部”操作也必须在固定时间内执行，对吗？那么我猜所有中间变量的精度都是一样的。但是这里需要什么精度(例如，如果我把两个256位数相乘，我想结果需要512位)。
在恒定时间内执行这些“内部”算术运算的好算法是什么？
浏览 0提问于2016-08-30得票数 3
回答已采纳
我知道⎕PP的值设置了精度，但我不能将其增加到18以上，因此我无法获得超过18位的精度，并且我需要对大数字进行运算。有什么方法可以提高精度吗？
浏览 0提问于2009-06-09得票数 2
回答已采纳
5回答
根据优先级表，一元后缀增量和递减运算符比关系运算符具有更高的精度，那么为什么在这样的表达式(x++ >=10)中，关系运算符先求值，然后变量增加？
浏览 5提问于2017-07-11得票数 3
回答已采纳
针对Cortex M4和M7微处理器的单精度浮点运算单元代码，GCC系列程序提供了扩展的内联汇编器约束，因此编写浮点运算单元性能检查代码是很简单的。但是，此功能不适用于双精度FPU(与Cortex M7一样)，并且需要额外的编码。有没有人知道GNU是否正在努力提供这样的设施？
浏览 18提问于2021-07-31得票数 0
回答已采纳
1回答
我有中型C99程序，它使用long double类型(80位)进行浮点计算.我想提高精度与新GCC 4.6扩展__float128。据我所知，这是一个软件模拟128位精度的数学.我应该如何转换我的程序从经典的长双80位到四浮动128位与软件仿真的全精度？我需要换什么？编译器标志，源？我的程序使用strtod读取完整的精度值，对它们执行许多不同的操作(比如+-*/ sin、cos、exp和其他来自<math.h>的操作)和printf-ing。对其他类型的支持包括算术运算符：加、减、乘
浏览 0提问于2011-06-23得票数 17
回答已采纳
2回答
乘浮精度
、、
在浮点数和双数上执行运算(如乘法、除法、加法和减法)是否保持其精度？
例如，如果我乘以(或除以，加，减) 1000浮动在一起，我还能保持7位数的精度吗？我在这个网站上读到，精度是维持的()，但我想再检查一遍。
浏览 1提问于2016-05-07得票数 4
回答已采纳
我想在Windows软件的gcc/Linux移植版本中实现完全相同的浮点运算结果。出于这个原因，我希望所有的双精度运算都是64位精度的。文档说他们内部期望(我想也是使用)长的双精度，不管我做什么，他们产生的结果都不同于Windows对应的结果。
这些函数如何使用64位浮点精度计算结果？更新:我错了，是printf("%.17f")错误地舍入了正确的双精度结果，gdb中的"print x“显示数字本身是正确的。
浏览 0提问于2013-02-25得票数 0
对于任何浮点运算，是否有可能确定该操作会造成精度损失。例如，如果我计算z= x/y，我想确定z是否有确切的值，或者在操作过程中是否丢失了一些精度。
为什么我需要这个：，我正在用区间算法做一些数学运算。目前，对于每一个操作，我假设一个精度损失。如果结果为x，则返回previousClosestFPNumber(x)、nextClosestFPNumber(x)。这是完美无缺的。如果我能确定精度已经丢失了，我只能在这种情况下扩大范围。
浏览 3提问于2015-10-13得票数 3
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
腾讯会议
云直播
对象存储活动推荐
腾讯云开发者
