js 精度丢失 - 腾讯云开发者社区

文章/答案/技术大牛

发布

1回答

如何在Tensorflow中获得运行日志丢失

python、tensorflow

培训的目标是尽量减少批处理日志丢失。当我测试模型时，也会使用批处理。为了提高精度和准确度，我可以使用tf.metrics.auc和tf.matrics.accuracy来获得运行精度和运行精度。但是，如何获得测试数据的日志丢失？

浏览 0提问于2018-05-15得票数 0

回答已采纳

1回答

将数值列更改为较低的精度

sql、postgresql

我的postgres数据库模式的表中有一个数值列，它的精度为n。所以m < n。TABLE my_tableTYPE numeric(m, 2)我理解这是因为我在表中存储的值的精度大于m (我希望新精度达到的值)。有没有什么方法可以告诉postgres更改精度并忽略丢失的精度？例如。如果n= 20和m= 15

浏览 12提问于2020-03-07得票数 1

2回答

从字符串到数字的Javascript类型转换

javascript、reactjs、type-conversion

在20个字符串转换JS新数字方法时，我遇到了一个问题。

浏览 5提问于2017-09-12得票数 0

回答已采纳

2回答

双精度vs浮点精度问题

c++、double、precision

double answer = a/b; std::cout << std::to_string(answer);浮点型或双精度型: 0.666667；编辑:不能因为使用to_string而丢失精度；

浏览 1提问于2020-07-14得票数 0

3回答

Perl:哪些浮点操作是无损的？

perl、floating-point-precision

有一些很好的文档描述了浮点数字的性质，以及为什么在某些浮点操作中必须丢失精度。例如：：人们可以用什么一般的经验法则来知道什么时候精度会丢失，什么时候会保持？

浏览 7提问于2014-07-14得票数 2

回答已采纳

2回答

双精度丢失

ios、objective-c、sqlite、double

因此，数据是以字符串的形式从文本字段中收集的，然后转换为双精度并持久化。answer;如果使用6532.002作为数据，它将失去其精度

浏览 1提问于2013-03-05得票数 1

2回答

浮点，它什么时候出现的，它是如何工作的

php、floating-point

564214623154我们将这个c=a*b相乘，它应该是30609771735350808，但当编译它时，它显示3.0609771735351E+16，所以据我所知，它应该会失去一些精度，但当我用c除以c/a时，我得到了564214623154的准确结果，而没有任何精度损失c = 30609771735350808 那么，只有

浏览 1提问于2011-07-13得票数 2

回答已采纳

1回答

在UInt64上做数学运算就是打开它

javascript、firefox-addon、jsctypes

我有一个var blah = ctypes.UInt64('65')，65真的是任何东西。我需要做数学，但当我这么做的时候：

浏览 5提问于2014-06-23得票数 0

回答已采纳

1回答

解析UTC日期会产生不同的时间

typescript、date、validation、parsing

我正在开发一个日期解析器。 const isDate = (d: Date) => !isNaN(d.getDate()); Object.prototype.toString.call(data) === '[object Date]' && ) else if (typeof data === 'string') {

浏览 2提问于2020-01-13得票数 0

回答已采纳

2回答

在Java中将整数文本赋值给双精度变量

java、double、int、variable-assignment、literals

如果我执行以下操作由于0是使用32位的整数字面量，而d是使用64位的双精度变量，那么剩余的32位是否会被随机垃圾填充，或者Java是否正确地提升了字面量？

浏览 4提问于2012-02-09得票数 5

回答已采纳

1回答

在Oracle pro*c中将double转换为字符串

sql、c、oracle

在Oracle pro*c中，有没有办法将双精度值转换为字符串而不丢失任何数字？精度随从中获取值的列的数字(10，8)而变化

浏览 0提问于2021-07-16得票数 0

1回答

为什么5726718050568503296在JS中被截断

javascript、floating-point、ieee-754

而且，按照和其他编程语言，看起来5726718050568503296值可以精确地表示，而不会失去精度。为什么它在JS中丢失了3位重要数字(转载在最新稳定的google chrome和firefox中) 这个问题最初是从触发的。

浏览 5提问于2021-04-22得票数 9

回答已采纳

4回答

在C++中编写全精度的浮点数

c++、io、floating-point

在C++中，我可以在不损失精度的情况下以文本格式写入和读回浮点数(或双精度)吗？= f_read) { } 我理解为什么有时会丢失精确度。是否有一组给定的标志可以保证永远不会丢失精度？这种行为是否可以跨平台移植？

浏览 4提问于2011-09-07得票数 8

回答已采纳

1回答

对于任何浮点运算，是否有可能确定该操作会造成精度损失。例如，如果我计算z= x/y，我想确定z是否有确切的值，或者在操作过程中是否丢失了一些精度。为什么我需要这个：，我正在用区间算法做一些数学运算。目前，对于每一个操作，我假设一个精度损失。如果结果为x，则返回previousClosestFPNumber(x)、nextClosestFPNumber(x)。这是完美无缺的。如果我能确定精度已经丢失了，我只能在这种情况下扩大范围。

浏览 3提问于2015-10-13得票数 3

回答已采纳

2回答

System.DateTime和Sql datetime2中的Linq2Sql (使用Sql金属)

sql、linq-to-sql、datetime、types、sqlmetal

我想利用新的Sql datetime2数据类型进行事件日志记录(因为标准日期时间的精度低于System.DateTime，导致存储数据丢失)，但是当我用sqlmetal.exe生成代码时，会收到以下警告db.dbml(98)：警告DBML1008:在从数据库加载时，DbType 'DateTime2(7) NULL‘和'CreatedOn’列中的'System.DateTime‘之间的映射可能会导致数据丢失如果我将列定义更改为datetime2(2)，则警告将消失，但2位数字的精度低于Syst

浏览 5提问于2011-03-04得票数 3

回答已采纳

2回答