js long 精度丢失 - 腾讯云开发者社区

文章/答案/技术大牛

发布

1回答

安卓: long => SQLiteDatabase => long，精度丢失

android、sqlite、precision、long-integer、sqliteopenhelper

', '#FFFFFF', '#F23341', '0', '231451', '0', '0', ''); return result; cursor.moveToFirst(); d

浏览 2提问于2013-03-25得票数 1

2回答

在Java中将整数文本赋值给双精度变量

java、double、int、variable-assignment、literals

如果我执行以下操作由于0是使用32位的整数字面量，而d是使用64位的双精度变量，那么剩余的32位是否会被随机垃圾填充，或者Java是否正确地提升了字面量？

浏览 4提问于2012-02-09得票数 5

回答已采纳

1回答

我正在研究Java语言中的Math.pow()函数，但是下面的代码给出了不同的结果，分别如下所示。BigDecimal divisor = new BigDecimal(Math.pow(10,9)+7);System.out.println(dividend.remainder(divisor)); // 543543558System.out.println((1000000000543543509L%((int)Math.pow(10,9)+7

浏览 0提问于2017-09-29得票数 1

2回答

DECIMAL_DIG和LDBL_DIG在<float.h>中有什么区别？

c、floating-point

宏常量DECIMAL_DIG是这两种定义有什么区别？是否存在这样的情况，即使用一个而另一个可能导致不正确的结果？

浏览 7提问于2016-09-26得票数 6

1回答

GWT Long type from API用于日期解析？

gwt

我的覆盖层看起来是这样的： public final native Long getTimestamp

浏览 2提问于2016-02-23得票数 0

回答已采纳

4回答

为什么Java隐式地(不强制转换)将` `long` `转换为` `float` `？

java、casting

long l = 123456789L;System.out.println(f); // outputs 1.23456792E8 鉴于long比float具有更大的位深度

浏览 5提问于2009-08-18得票数 45

回答已采纳

1回答

使用long时可能会丢失精度

java、variables

我已经将所有的数据类型更改为long，但是我得到了这个错误。请帮帮忙。,k=1,temp=0; long[] scores = new long[n]; scores[scores_i] =

浏览 2提问于2017-12-24得票数 2

4回答

Visual Studio不允许我使用sqrt或floor，对重载函数的调用不明确

c++、sqrt

我有个电话a和n都是long long的，但它不让我编译，因为它说我对sqrt()的使用是一个模棱两可的调用。我看不出这里怎么可能是模棱两可的。

浏览 0提问于2012-06-11得票数 6

回答已采纳

1回答

Elasticsearch painless返回错误的长值

elasticsearch、elasticsearch-painless

我还尝试在映射中使用long类型： { "properties": { "type": "long" ... } } 查询： {

浏览 21提问于2021-03-22得票数 0

回答已采纳

1回答

编译代码时出现xcode5 ios7错误

iphone、ios、macos

我正在使用xcode5和ios7，编译器向我显示了这个错误:隐式转换将整数精度long long丢失为NSInteger if (statusCode == 200 && !

浏览 1提问于2013-09-26得票数 1

4回答

将long或BigInteger与double相乘而不损失精度

java、double、precision、long-integer、biginteger

我想将一个高精度的整数(long或BigInteger)乘以一个小的double (想想大于0和<1的值)，并得到运算的精确算术值的算术四舍五入的整数(long或BigInteger)作为结果。将双精度数转换为整数不起作用，因为它的小数部分值丢失了。将整数转换为双精度，然后乘以并将结果转换回整数也不起作用，因为双精度不够精确。将长整型转换为双精度，然后乘以再转换回来，似乎比转换为BigDecimal快500倍(尽管会损失精度)

浏览 2提问于2013-05-14得票数 1

回答已采纳

1回答

隐式转换丢失整数精度

objective-c

我正在设置um pushwoosh，我得到了这个错误 /PushNotificationManager.m:43:111:隐式转换丢失整数精度：'NSInteger‘(也称为'long')到'int’

浏览 1提问于2014-02-03得票数 0

2回答

当从MPZ转换到long时，我会不会失去精度？

python、gmpy

但是我不确定当我从MPZ类型转换到long时是否会丢失精度。= gmpy.mpz(power) result = pow(base, power, modulus) return long

浏览 5提问于2015-02-15得票数 0

回答已采纳

1回答

隐式转换丢失整数精度：'long‘到'int’

c++、implicit

}Implicit conversion loses integer precision: 'long

浏览 12提问于2018-01-20得票数 0

3回答

用浮点数进行除法时如何保持小数的精度

math、floating-point、division

我正在处理一个项目，我需要划分一个非常大的64位long值。我绝对不关心整数的结果，而只关心十进制的值。问题是，当用小64位long浮点值除以一个大的double浮点值时，由于它需要存储整数，所以浮点值的精度不高。基本上，我想做的是：但在不降低精度的情况下，long_value就更大了。是否有一种书写这个表达式的方法，使整数被丢弃，浮点精度不会丢失？谢谢。

浏览 7提问于2022-07-08得票数 2

回答已采纳

1回答

我正在尝试得到两个数字的组合(概率)

c、combinations

unsigned long long int first( int b , int c){//int k; b=b*k;

浏览 8提问于2017-12-14得票数 0

回答已采纳

1回答

C++提高文本文件中字符串向量的精度

c++、file-io、vector、text-files、precision

下面是我将vector<long double> new_times转换成字符串的代码，这样我就可以将它写到文本文件中了：vector<stringstring> output_iterator(output_file, "\n");我知道向量的精度高于小数点

浏览 1提问于2015-09-11得票数 0

回答已采纳

1回答

为什么编译器在将long赋值给float时不会给出错误？

java

当我执行下面的代码时，我预计它会得到警告"can't convert from long to float“，因为浮点数是32位，long的大小是64位。但看起来没有警告，谁能解释一下是怎么回事？public static void main(String[] args) float a=1; a=b; System.out.println

浏览 0提问于2015-10-05得票数 0

4回答