尝试添加两个浮点数时可能出现有损转换错误？
在计算机中，浮点数是一种用于表示实数的数据类型，其中包含小数部分和指数部分。在进行浮点数的运算时，由于计算机的有限精度，可能会出现有损转换错误。
当两个浮点数进行加法运算时，如果它们的小数位数不同或指数差别较大，就有可能出现有损转换错误。这是因为计算机在进行浮点数运算时，会对参与运算的两个浮点数进行规范化，使它们的小数位数和指数部分对齐。然而，由于计算机表示实数的精度有限，可能会导致某些小数位的丢失，从而引发错误。
例如，考虑两个浮点数1.23和0.001，它们的小数位数不同。当进行加法运算时，计算机会将它们的小数位数对齐，得到结果1.231。然而，实际上，正确的结果应该是1.231。由于计算机的精度有限，可能会出现小数位数被截断的情况，导致结果不准确。
为了避免这种有损转换错误，可以采取以下策略：
- 尽量避免使用浮点数进行精确计算，尤其是涉及货币、金融等领域。可以考虑使用定点数或者使用整数进行计算，并在最后的结果中进行转换。
- 在进行浮点数运算时，尽量选择精度更高的浮点数类型，例如双精度（double）类型。双精度可以提供更多的有效数字，降低精度损失的可能性。
- 注意避免多次进行浮点数运算，尽量在必要的时候将多个运算合并为一个，以降低精度损失的累积效应。
腾讯云相关产品和产品介绍链接地址：
相关·内容
1回答
我收到了一份CSV文件形式的报告。它包含联系人姓名和联系人号码。当我尝试在Excel中打开该文件时，它显示的联系电话号码类似于"912224308876“。但是，如果我尝试在记事本中打开该文件，或者尝试在PHP中读取，我会得到不同格式的联系电话，即"9.12224E+11“。
有没有人有办法解决这个问题？
提前谢谢。
浏览 1提问于2013-05-06得票数 0
当我尝试denormalize一个具有float属性但具有int值的对象时，我会得到一个错误。
Symfony\Component\Serializer\Exception\NotNormalizableValueException
类"Wallet“的"solde”属性的类型必须是"float“("int”给定)之一。
我的序列化器配置：
class SerializerService implements SerializerInterface, NormalizerInterface, DenormalizerInterface
{
public
浏览 9提问于2022-09-14得票数 1
2回答
我正在为我的软件开发讲座编写一份作业，并被要求编写一个for循环，其中要求用户输入两个数字，这将是要显示的表的上、下界。
这是用BlueJ编码的，如果有帮助的话(？)
这是我到目前为止所使用的循环，我要求使用这个循环输出两个数字，并将除i变量之外的所有变量设置为浮动，i设置为双；
for (i = lowNum; i <= highNum; i++) {
//find square of number
squareNum = i * i;
//find cube of number
cubeNum =
浏览 1提问于2013-11-01得票数 0
回答已采纳
2回答
浮点值不匹配
、、
我很难得到两个相同的浮点值来匹配。脚本背后的基础是，我查询一个API以获取收益，如果记录在我的MySQL数据库中不存在，则创建它，但是如果它确实存在，则查找更改，然后更新或跳过记录。
让我们以一张唱片为例。收入数字是51.02，这是被迫成为一个浮动，然后保存在数据库中。数据库列类型为浮动。
当我第二次查询API时，该记录已经存在，所以我现在检查收入数字的变化。收入数字再次是51.02 (没有变化)，并且仍然是浮动的。然后，我将提取存储的图形(也是一个浮点数)，并且值是相同的。但是，PHP告诉我，浮点数不匹配，因此应该更新记录。这是为什么？！
审查的守则：
// The placeholder
浏览 5提问于2013-10-11得票数 0
回答已采纳
我不明白为什么代码片段1工作得很好，但是代码片段2给出了编译时错误incompatible types: java.lang.Long cannot be converted to int。
与java中的浇铸优先级有关吗？我读过这个，但没什么用。
请详细解释在这两个片段的幕后发生了什么，以及为什么在代码片段1中没有出现错误。
代码片段1:
package com.company;
public class Main
{
public static void main(String[] args)
{
double dbl = 10.25;
i
浏览 0提问于2017-11-18得票数 0
回答已采纳
1回答
我正在尝试使用jpg将一个png图像无损地转换为一个mogrify映像。为了得到这个结果，我使用以下命令：
mogrify -format png test.jpeg
但是，检查这两个图像是否相同的测试失败。为了执行测试，我使用了以下python脚本：
import cv2
jpg_image = cv2.imread("test.jpeg")
png_image = cv2.imread("test.png")
diff = jpg_image - png_image
cv2.imshow("diff", diff)
cv2.waitK
浏览 0提问于2019-03-20得票数 2
3回答
我显式地指定了float类型。此代码产生了一个错误。为什么？
目前，我正在使用Scalav2.12.8
scala> val f: Float = 3.0
<console>:11: error: type mismatch;
found : Double(3.0)
required: Float
val f: Float = 3.0
浏览 4提问于2020-03-01得票数 2
回答已采纳
当分子和分母有许多数字时，boost cpp_rational似乎将错误转换为int。
#include <iostream>
#include <boost/multiprecision/cpp_int.hpp>
using namespace boost::multiprecision;
using namespace std;
int main() {
cpp_rational a("4561231231235/123123123123");
std::cout << "bad convert: " <
浏览 2提问于2014-01-15得票数 1
目前，我正在尝试完成这个挑战()，并且在C#中完成任务时遇到了一些困难。我似乎不能把这个数字解析成一个大整数。
代码如下所示：
string output = "";
BigInteger hexValue = BigInteger.Parse("49276d206b696c6c696e6720796f757220627261696e206c696b65206120706f69736f6e6f7573206d757368726f6f6");
output = Convert.ToBase64String(hexV
浏览 1提问于2018-04-08得票数 4
回答已采纳
4回答
尝试使用从浮点型转换而来的整型创建矩形时的小问题。
CafBar.Position = new Vector2(30, 10);
int CafLvlRound = (int)Math.Round(Player.CafLvl);
CafRectangle = new Rectangle(CafBar.Position.X, CafBar.Position.Y, CafLvlRound, CafBar.Size.Height);
我的问题是，当我使用"CafLvlRound“作为第三个参数时，我得到两个错误，说CafBar.Position.X和CafBar.Position.Y是
浏览 2提问于2013-05-31得票数 0
回答已采纳
1回答
我拥有粒子生命周期的属性(我在模拟粒子系统)，这是一个浮点值，因为我也将它用于透明性(alpha是浮点数)。我读过关于将浮点数转换成双倍的问题，并意识到这是一个相当大的问题，所以我可能无法将浮点数转换成双倍。问题是，我想从生命变量中计算粒子的路径，例如：
particle.x += particle.xi;
particle.xi = Math.Sin(life);
注意:生命值在1.0f开始，并且下降到0(如果它的<0.0fi重新初始化粒子并将寿命设置为1.0f)。
但罪人想要双倍价值..。我们又回到了起点。因此，一种解决方案可以是将生命属性的类型改为双倍，当我将其用于透明性时，我将只
浏览 0提问于2012-05-30得票数 0
回答已采纳
1回答
我使用swscale + x264将一系列RGB图像编码为h264流。当输入图像中的RGB值(以红色表示)全部为(255, 0, 0)时，通过swscale + x264输出的YUV为(81, 90, 240)。通过使用swscale，可以将此YUV值转换回原始RGB值。然而，当我使用PotPlayer播放流时，出现了颜色偏移。
我捕获了第一帧并将其保存为bmp文件。bmp文件中的RGB值为(255, 24, 0)，其中绿色通道不为零。
如何解决这个变色问题？
我通过使用sws_setColorspaceDetails将ITU-601颜色空间更改为ITU-709解决了这个问题。
浏览 15提问于2017-03-15得票数 0
我想知道当我将一个非常大的浮点数转换为一个整数时会发生什么。这就是我写的一个例子：
fn main() {
let x = 82747650246702476024762_f32;//-1_i16;
let y = x as u8;
let z = x as i32;
println!("{} {} {}", x, y, z);
}
产出如下：
$ ./casts
82747650000000000000000 0 -2147483648
显然浮点数不适合于任何整数，但由于
浏览 3提问于2020-04-10得票数 7
回答已采纳
1回答
我为我的新应用程序创建了一个设计。我决定创建一个自动布局的启动屏幕，一半的屏幕有一个图像，其余的是纯色的。
当我复制实色(与图像相同)的HEX和RGB值时，它在Xcode上呈现不同的值。为什么？我要把它当作密码吗？
图片:最上面的颜色是真实的，底部是它出现的颜色。
如果我比较这两种颜色的sRGB值
Xcode上的新颜色=实色+(实色渲染颜色)
它工作和看起来很好，但我不知道为什么会发生这种情况，以及它是否正确的我的解决方案？
最好的
浏览 6提问于2014-09-26得票数 0
回答已采纳
2回答
是否有像len()这样的命令来测量浮点数的长度？
当我尝试：len(a[k]) (ak是数组，它提供随机浮点数)
出现了如下错误：
object of type 'float' has no len()
我的代码：
import random
a=[random.uniform(10,100) for i in range (1000)]
c= open("dosya.txt","w")
c.write('X DEGER: Y DEGER:\n')
c.write('--------------\n')
c
浏览 3提问于2013-07-17得票数 0
2回答
if语句中浮点数的奇怪错误
、、、、
因此，在我的C++代码中，我有下面一行用于调试的代码：
if(float1 != float2)
{
std::cout<<float1<<" "<<float2<<std::endl;
}
发生的情况是，程序进入if-语句...但是当我打印出两个浮点值时，它们是相同的。但是如果它们是相同的，那么它应该完全绕过这个if语句。所以我真的很困惑为什么会发生这样的事情。
浏览 1提问于2013-05-21得票数 0
阅读Django源代码时，我遇到了函数。它是标记的实现。
我感兴趣的是，他们正在从__loaded_blocks类实例之外设置一个带有两个前导下划线( parser )的变量(解析器是的一个实例)。Django源代码中的快速grep显示，字符串loaded_blocks只出现在这里。
现在，我从未考虑过使用python mangling特性，但这实际上会隐藏parser的parser属性！要从parser方法中读取该属性，您必须求助于getattr(self, "__loaded_blocks")。
我是否正确地认为这只是所选属性名的意外和未使用的副作用？还是有更深层次的目的？
浏览 2提问于2012-12-03得票数 6
可能重复：
我正在处理解析xlsx文件，并发现了这种行为。我不知道如何在不描述重现问题的步骤的情况下解释它。
1. Create new blank Excel file (xlsx)
2. Type '8.8' into cell A1
3. Save file
4. Close Excel, rename file with .zip extension and open
5. Find sheet1.xml and open
6. Value for 8.8 in A1 will be saved as '8.8000000000
浏览 3提问于2012-10-12得票数 1
回答已采纳
我目前使用的是蟒蛇4.3.27，Python3.6.2和OpenCV 3.3.0
当我尝试的时候
img1 = cv2.imread('D:\Images\3D-Matplotlib.png')
img2 = cv2.imread('D:\Images\mainsvmimage.png')
我得到了libpng error: Read Error，然后弹出一个窗口，指示Python停止工作。我已经尝试将“\”替换为“\”和“/”，但在这些情况下也会出现相同的错误。当我尝试读取jpg而不是png时，我没有得到错误。有没有人知道问题出在哪里？
提前感谢！
编辑：
同
浏览 11提问于2017-10-11得票数 3
回答已采纳
嗨，我的Access用户伙伴。我正在使用Access进行对账，通过链接两个Excel工作表。这个数字是两个小数。
但是，当我尝试对两个小数都是两个小数的数字进行减法时，结果如下：
如果有人知道这是如何发生的，以及我需要采取什么步骤来解决它，我将不胜感激。
谢谢田
浏览 2提问于2017-06-20得票数 0
我正在做一个简单的程序，用开尔文，摄氏度和华氏度来转换温度，但当我用开尔文做任何事情时，我都会得到这个错误：
Cannon implicitly convert type 'double' to 'float'
出现错误的代码行：
public static float FahrenheitToKelvin(float fahrenheit)
{
return ((fahrenheit - 32) * 5) / 9 + 273.15;
}
该按钮单击：
private void button1_Click(object sender, EventArgs
浏览 0提问于2013-10-30得票数 10
回答已采纳
在使用SSIS时，我遇到了一个非常奇怪的问题(我也尝试过在中编写一个查询，并得到了相同的结果)。
我有一个查询，它应该显示某些值从上次增加的行。为此，我有两个表-- Old和New，它们(如果简单的话)包含ID和值(以及其他一些对本例不重要的列)。我在ID上加入了这两个表，并比较了旧值和新值。这两个列(旧的和新的)都是浮动的(SSIS认为它们都是DT_R8)。
让我给您一个查询外观的视图。
SELECT n.ID, n.Val, o.Val
FROM New as n INNER JOIN Old as o ON n.ID = o.ID
WHERE n.Val > o.Val
这两个表中
浏览 5提问于2016-04-21得票数 0
回答已采纳
一开始我以为这是个bug，但从源代码看，这显然是故意的。有人知道为什么要这么做吗？它与Clojure不一致，并且是一个细微的bug来源。
(hash 1) ; => 1
(hash 1.5) ; => 1
(defn hash
"Returns the hash code of its argument. Note this is the hash code
consistent with =."
[o]
(cond
(implements? IHash o)
(bit-xor (-hash ^not-native o) 0)
浏览 16提问于2017-08-11得票数 0
回答已采纳
1回答
我正在编写一个MIPS程序，它将把两个浮点整数加到第一个浮点整数中，第一个浮点整数是两个浮点整数的-8.0的补充。
第二个是浮动点2.0
所以，首先我把-8改为2的恭维词是1000，然后我把它转换成十六进制，所以我的十六进制是0x00000008。
到目前为止，我的MIPS程序如下所示
l.s $f1, 0x00000008
l.s $f2, 15.0
add.s $f0, $f1, $f2
我在这个问题上犯了个错误，显然有什么帮助吗？
另外，当在$f2中加载浮动整数时，我也很困惑，15.0我知道这是不对的。如何将15作为浮点加载到注册表中？我的最后一个问题是如何使用MIPS将两者相加。谢谢,
浏览 5提问于2011-06-12得票数 0
所以我在做一个颤振项目，一切都很好，它在我的设备上运行得很好，但是我的电脑出现了短缺，我的电脑重新启动，从此这个项目就无法运行。
以下是错误消息：
失败:生成失败，出现异常。
哪里出了问题:任务执行失败':app:packageDebug‘。
执行com.android.build.gradle.internal.tasks.Workers$ActionFacade java.io.FileNotFoundException: C：\Users\阿曼Hosanna\Desktop_\FLUTTER\complete guide\budgetizer\build\app\interm
浏览 2提问于2019-11-16得票数 0
回答已采纳
我正在尝试写两个函数来将RDD格式的字符串数据转换为float格式，然后找出虹膜数据集的平均花瓣长度。在两个函数中，一个运行正常，但第二个出现错误。有人能帮我弄明白我到底犯了什么错吗？ is_float = lambda x: x.replace('.','',1).isdigit() and "." in x
def getSapellen(str2):
if isinstance(str2, float):
return str2
浏览 28提问于2021-05-09得票数 0
新手问题。我正在读一本非常好的书。当我尝试使用Marshal一节中的magic_copy示例时，我更接近浏览器而不是终端，所以我在ocsigen的中尝试了一下，我很惊讶地得到了结果：
(* js_of_ocaml *)
# let ora_magic_copy a =
let s = Marshal.to_string a [Marshal.Closures] in
Marshal.from_string s 0;;
val ora_magic_copy : 'a -> 'b = <fun>
# (ora_magic_copy 2 : fl
浏览 5提问于2012-09-10得票数 7
回答已采纳
我将var1，var2定义为以下数组：
N = 2e5
var1 = np.array(50 * np.random.normal(size=N) + 0.1)
var2 = np.array(0.01 * np.random.normal(size=N) - 300)
在python中运行这3条语句时，我会得到以下两个警告：
__main__:7: VisibleDeprecationWarning:使用非整数数字代替整数将导致将来出现错误。
__main__:8: VisibleDeprecationWarning:使用非整数数字代替整数将导致将来出现错误。
我该怎么纠正呢？
浏览 4提问于2017-05-15得票数 2
回答已采纳
1回答
我正在尝试记录对表所做的任何更改，但在尝试遍历列名时被卡住了。我收到“数组值必须以"{”...第6行FOR over SELECT rows“错误开始。我不明白为什么会发生这种事..该函数编译正常，但运行更新时会出现该错误。
CREATE TABLE test(x varchar(50))
CREATE OR REPLACE FUNCTION testF()
RETURNS trigger
AS $$
DECLARE
col varchar[255]; //don't know if this is the right variable type to use
BEGIN
浏览 0提问于2015-01-24得票数 1
我正在尝试学习如何使用渐近，所以我选择了一个简单的问题来尝试。当我尝试使用Sympy的求解器来求解e^(-(ln(2)/8) * t) - 10^-6时，最终我的repl崩溃了，并出现内存不足错误。这似乎与它解释exp()方法的方式有关，我不太确定我做错了什么。 from math import log as ln
from sympy import exp as e, symbols as sym, solve
t = sym('t')
hl = 8.0197
k = ln(2)/hl #lambda
expression = e(-k * t) -10**-6
#
浏览 18提问于2019-05-01得票数 2
回答已采纳
3回答
我在寻找一种用榆树中的两个元素解码元组的方法。
[弦，布]
外部列表很容易用Json.list进行解析，但是如何将数组解码为元组呢？我尝试了的解决方案，但我所得到的只是关于解码器类型的错误，也许，我假设在elm中有什么变化，因为这个答案。或者我错过了一个重要的东西，我不知道。
谢谢
浏览 6提问于2017-10-31得票数 5
回答已采纳
当我试图使用int()函数将浮点数转换为整数时，为什么会出现错误？
>>> int('99.99')
Traceback (most recent call last):
File "<pyshell#27>", line 1, in <module>
int('99.99')
ValueError: invalid literal for int() with base 10: '99.99'
我预计结果是99
浏览 1提问于2019-06-21得票数 0
回答已采纳
2回答
我正在尝试使用CSSCAN将数据库从US7ASCII迁移到AL32UTF8。在使用CSSCAN进行初始扫描时，我们发现数据字典()和应用程序data.Can中都存在有损数据，请帮助我们在将数据库从US7ASCII转换为AL32UTF8之前如何处理有损数据。
**USER.TABLE|COLUMN LOSSY**
SYS.SOURCE$|SOURCE 143
浏览 0提问于2015-08-20得票数 0
回答已采纳
当我试图将包含在引号中的浮点数据类型转换为整数数据类型时，有人能解释为什么会出现ValueError吗？
发生ValueError的例子：
print(int("7.3"))
但是，当我试图转换一个值时，例如：
print(int(7.3))
当尝试将7.3不包含在引号中的7.3转换为整数数据类型时，没有发生错误
浏览 14提问于2022-03-13得票数 0
我正在尝试做一个基于json的API请求，我提供的一个参数(10)应该是一个有两个小数位的整数，但我得到的是一个整数。当我作为"amount" => 10.00,直接执行api调用时，它成功了，但是当我将整数作为$amount = $received_amount."00";时，其中$received_amount = 10;为Received error response: The request content was malformed: Expected BigDecimal as JsNumber, but got "10.00"
浏览 0提问于2016-12-21得票数 0
我正经历着围绕图像的非常奇怪的问题。我有一个设置窗口，在左侧有一个ListView，其中有各种图像图标，当点击时，更新面板到右侧显示相关的东西-没有什么特别的。
然而，我最近添加了两个额外的图标，但他们的图像不能正确显示，我无法找出原因。我尝试了各种不同的图像格式(png、jpg、gif、bmp)，但它们都不能正确显示。我已经在另一台计算机上尝试过，看看这是否是我安装的.NET，但错误仍然存在。
如果每张图片都显示不正确，我会很高兴，但不幸的是，只有这两张图片，也许还有我现在添加的任何其他图片。
有没有人有什么想法-我都没有了.
下面是它运行时的样子...
这是与visual stu
浏览 7提问于2010-11-10得票数 1
回答已采纳
Maya命令库似乎不喜欢使用python中内置的十进制模块。我试图通过一个任意大的浮动来缩放一个物体，以保证精度。只要理解你不能用小数点的“对象”进行缩放，那就很清楚了。
我一直在解决数学问题，当我输入长浮子时，它工作得很好。只要它是十进制物体，玛雅就不会拥有它。
因此，也许有一种方法可以欺骗maya.cmds模块，即将长浮点数输入到缩放函数中。在那里吗
下面是一个脚本，用于根据对象上两个顶点之间的距离来缩放对象。
以下是守则：
## ((Ax - Bx)**2 + (Ay - By)**2 + (Az - Bz)**2)**0.5
import maya.cmds as mc
impor
浏览 0提问于2015-03-15得票数 1
回答已采纳
我有一个Java类定义了我的JSON，这个类包含一些Integer属性。Spark能够读取这个JSON并使用上面的Java类编码器解析它。我还能够执行普通的Spark操作。
但是，当我试图将这个星火数据集转换为JavaRDD，或者尝试使用collectAsList或collectAsList在驱动程序上收集数据时，它会失败，并出现编译时错误。
如果我将这些整数属性转换为Long，就会开始工作.
所以，关于“星火-爪哇-整数”，我在这里遗漏了什么？
像这样的链接只是告诉解决方案，但并没有给出实际问题的理由。
1)
2)
下面是我尝试过的代码。它包含3个文件。第一个是主要的火花驱动程序代码。第
浏览 0提问于2019-10-18得票数 1
Below is the code, when I am executing. No output in the console. Not sure why.
I am testing one example of function overloading in C++.
功能超载。用不同的参数创建了两个同名函数。在函数调用期间尝试在main中传递整数值。效果很好。但是，当作为浮点数传递时，错误和输出都不会出现。
#include <iostream>
using namespace std;
int max(int x,int y)
{
cout<<
浏览 2提问于2021-01-28得票数 0
回答已采纳
1回答
数字格式/打印f错误
、、、、
我正在为课堂做作业，由于某种原因，当我试图把两个小数位加到一个双数上时，我得到了一个“非法格式异常”。我假设这与for循环中的情况有关，因为当我在print语句中对其他数组使用数字格式时，不会出现错误。无论如何，下面是我得到错误的代码和我正在接收的错误。
谢谢你的建议！
，这是我得到错误的地方。下面是输入代码，以防万一.
//Output Line 6 (the 4 doubles in reverse order separated by a space)
for(int r = 3; r >= 0; r--) {
System.out.printf("%.2f"
浏览 3提问于2015-09-02得票数 1
回答已采纳
我有NSDictionary *results
当我这么做时：
self.tValue.text = [NSString stringWithFormat:@"%@", [results objectForKey:@"temperature"] + 273.15f];
我知道错误：
Invalid operands for binary expression ('id _Nullable' and 'float')
我哪里错了？
浏览 4提问于2016-03-14得票数 0
回答已采纳
你好，我在内存中有heightData，有时(当我编辑它时)我想将它保存为jpg。这是我的代码：
float multi = 0.2f;
float[,] heightData = quadTree.HeightData;
Color[] heightMapColors = new Color[heightData.Length];
for (int x = 0; x < heightData.GetLength(0); x++)
{
for (int y = 0; y < heightData.GetLength(1); y++)
{
byte
浏览 0提问于2012-05-03得票数 0
回答已采纳
我正在编写一个基于距离的预测旅行时间的模型。我得到了
ValueError:未知标签类型:运行以下代码时出现“连续”错误：
import pandas as pd
from sklearn.tree import DecisionTreeClassifier
times = pd.read_csv('SC.csv')
X = times.drop(columns=['Time'])
y = times.drop(columns=['distance'])
model = DecisionTreeClassifier()
model.fit
浏览 0提问于2020-07-09得票数 0
回答已采纳
我正在尝试使用Apache Ignite .NET进行计算，但是当我尝试对一个十进制字段进行求和时，我得到了以下错误： Decimal magnitude overflow (must be less than 96 bits): 112 我试图运行的查询非常简单。 SELECT SUM(MYFIELD) FROM MYTABLE 并在插入时将其映射到C# decimal类型。该查询在DBeaver中运行良好，并返回一个大约为600亿的数字。它还将该字段显示为DBeaver中的DECIMAL。 如果我将C#中的字段类型更改为double，我就不会再收到错误消息，一切似乎都很顺利。然而，我不想
浏览 7提问于2020-04-08得票数 1
我用pygame制作了一个platformer游戏，当角色跳跃时，我得到了这个错误：
DeprecationWarning: an integer is required (got type float). Implicit conversion to integers using __int__ is deprecated and may be removed in a future version of Python.
下面是出现错误的代码行：
win.blit(char, (x,y))
谁来帮我解决这个问题！
浏览 2提问于2020-05-28得票数 0
所以我在一个名为Rational的类中有一个方法，它传入了两个整数，我想返回一个浮点数，但是这个方法返回0，我不知道为什么！
public static float DisplayFloat(int numer, int denom)
{
float result = numer / denom;
return result;
}
在我的main中它是这样被调用的：
Console.WriteLine(Rational.DisplayFloat(12, 36));
有什么想法吗？我在Visual Studio中没
浏览 0提问于2011-11-07得票数 1
回答已采纳
1回答
复数操作
、、
我正在做建模和变分推理，由Edward(1.3.5)和Tensorflow(1.6.0，-gpu版本)完成。然而，当尝试使用复数进行一些操作时，出现了一个错误"ValueError:张量转换请求dtype complex64 for float32类型float32“。下面是一个简化的示例，但也会导致相同的错误：
import tensorflow as tf
tf.complex(1., 1.) * tf.sqrt(1.)**2
似乎复杂结果和sqrt之间的dtype是相互冲突的吗？此外，我还尝试将sqrt的结果转换为float64，但是收到了一些错误：
tf.complex(1.,
浏览 2提问于2018-07-23得票数 1
回答已采纳
2回答
我尝试下载并运行示例项目。
但是，当试图安装吊舱时，会出现如下错误
Unable to find a specification for `GVRSDK`
我正面临着同样的错误与其他一些吊舱也请帮助。
浏览 0提问于2016-07-03得票数 0
回答已采纳
当转换为浮点类型时，numpy似乎正在失去对numpy.int64值的精度。
我的numpy版本是1.15.4哪个。
下面是一个示例：
>>> value = 734625324872288246
>>> value_plus_1 = 734625324872288246 + 1
>>> items = [value, value_plus_1]
>>> value.bit_length()
60
>>> value_plus_1.bit_length()
60
>>> import n
浏览 0提问于2018-11-14得票数 1
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
实时音视频活动推荐
腾讯云开发者
