除法中的Precision MySql

文章/答案/技术大牛

发布

0回答

mysql、sql、database

mysql> SELECT CAST(1 / 3 AS DECIMAL(21,20));| CAST(1 / 3 AS DECIMAL

浏览 2提问于2017-12-06得票数 2

回答已采纳

3回答

MPFR除法比本地整数除法快吗？

python、mpfr、gmpy

我一直假设整数除法比浮点除法快，但我做了一些测试，似乎证明并非如此。import gmpy2, time, math gmpy2.get_context().precision = int(math.log2(10) * digits) # Binary precision global start_time0.17秒，mpfr除法<

浏览 4提问于2014-07-29得票数 1

回答已采纳

1回答

修复返回的数字

例如，我希望总是将一个数字固定为10的倍数，所以它应该是这样工作的：如果你得到数字: 0，1，2，3，4，5，6，7，8，9必须固定为0。我知道这一定很容易，但我自己找不到，谢谢你的建议。

浏览 11提问于2019-07-02得票数 0

回答已采纳

1回答

groovy中大数的默认小数位数

groovy、bigdecimal

BigDecimal在groovy中的默认规模是多少？还有四舍五入？因此，当尝试计算时：def y = 20.0/30.0 //0.6666666667 在此基础上，我可以假设它使用规模为10和四舍五入的一半

浏览 1提问于2015-10-05得票数 4

回答已采纳

1回答

如何计算Postgres JSON数组中的整体百分比？

json、postgresql、aggregate-functions

JSON列中大约有70个键，但是任何给定的行都只包含5-20个键。 date | key1_name | key1_fractional_

浏览 4提问于2014-03-25得票数 2

回答已采纳

1回答

如何在select语句中声明新列的类型？

postgresql

如何在select语句中声明新列的类型。我已经输出了两个select语句的除法，但它返回0值。这可能是因为它自动将列声明为bigint。我希望在查询中将其更改为数字，这样我就可以看到浮点数。

浏览 7提问于2020-09-23得票数 0

回答已采纳

1回答

为什么mysql给出了这个求和的不同结果？

mysql、datatypes、sum

mysql> select (1/3 + 1/3 + 1/3);| (1/3 + 1/3 + 1/3) ||1.0000 |1 row in set (0.00 sec) +--------++--------++--------+ 1 ro

浏览 0提问于2014-09-07得票数 1

3回答

使用和不使用opt.flag -O3 (C++/C)时浮点除法速度不同的原因

c++、c、gcc、floating-point

我试着在C++中测量单精度除法和双精度除法的速度差异 for (int i = 0; i < N; ++i) f_answer = f_x/f_y; stop = clock();Single precision:8.06 0.673797 Double precision</em

浏览 0提问于2011-11-15得票数 2

回答已采纳

2回答

Fortran中双精度的整数除法

fortran、precision、division、fortran90

在这个代码中的很多地方，对整数都有双精度值的除法。即：integer :: bb = 3这有时会导致比常规浮点数错误更糟糕的错误。= a/real(b,8)但gfortran4.8给我的错误清楚地表明，这与固有的除法运算

浏览 2提问于2016-02-24得票数 2

回答已采纳

1回答

BigDecimal除法精度损失

java、kotlin、rounding、bigdecimal

考虑下面的BigDecimalsBigDecimal("0.20000").precision() // = 5和 BigDecimal("6.0000").divide(BigDecimal("0.20000

浏览 2提问于2021-07-20得票数 1

1回答

PostgreSQL:当将整数转换为非整数类型以强制在PostgreSQL中进行浮点数除法时，应该使用哪种数字类型？

postgresql、casting、integer、precision、division

我知道StackOverflow上有很多整数除法问题，但我没有看到这个问题。CAST( value AS type )CAST( COUNT(DISTINCT(bc.book_id))

浏览 0提问于2019-04-05得票数 4

回答已采纳

3回答

我需要用特定的小数位数来构造一个浮点数的底数。--> 2.12 (round would give 2.13 wich is not what I need) 函数接受一个参数，但看起来函数和不要接受小数位数，并且始终返回小数位数为零的数字当然我可以把这个数字乘以，然后应用floor，最后除以 new_value = np.floor(old_value * 10**ndecimals) / 10**ndecimals 但是我想知道是否有一个内置的函数可以做到这一点

浏览 59提问于2019-09-23得票数 14

回答已采纳

3回答

javascript分数到百分比

math、percentage

但是我在右边增加了一些额外的分数- 1.7500000000000002。我只需要1.75，不需要在末尾加上任何零。提前谢谢。

浏览 3提问于2014-10-04得票数 0

1回答

正实数乘积逆的计算

c、algorithm、math

我想不用除法计算正实数的乘积逆。在阅读了牛顿拉夫森方法的各个页面之后，我实现了以下计算逆的代码：double inverse(double num) { while (ans * num > 1 + PRECISION || ans * num < 1 - PRECISION) { ans = ans * (2 -所以，最后我的</e

浏览 1提问于2013-03-13得票数 2

回答已采纳

1回答

如何在C++中对小数为N的分数进行字符串化

c++、string、math、c++17、base

我想在C++中以可变精度将一小部分无符号整数串起来。因此，将使用precision 2将1/3打印为0.33。我知道float和std::ostream::precision可以用来实现一个快速而棘手的解决方案： std::string stringifyFraction(unsigned numerator,) std::stringstream output; output <<

浏览 16提问于2020-08-21得票数 1

回答已采纳

1回答

在Python中以最大精度打印十进制数而不尾随零的最佳方法

python、format、decimal、repr

演示我的usecase的示例：a = 215 / 4print str(a) # Case 2 gets printed with only 12 precision (needed 16) print repr(a) # Caseprinted

浏览 4提问于2015-02-23得票数 1

2回答

python函数中的调和均值？

python、mean

我有两个给出精度和召回率分数的函数，我需要在使用这两个分数的同一个库中定义一个调和均值函数。这些函数如下所示：def precision(ref, hyp): Returns: - A floating point number indicating the precisionif

浏览 0提问于2012-12-13得票数 2

回答已采纳

2回答

将long long类型的变量相除以获得百分比？

objective-c、long-integer

所以我尝试将两个变量相除，这两个变量分别是long long、totalBytesWritten和totalBytesExpected但当我执行double progress = totalBytesWritten/totalBytesExpected时，它会给出一些意想不到的数字。

浏览 1提问于2013-06-21得票数 2

2回答

Oracle格式浮点数11g

oracle、casting、floating-point、type-conversion

我想格式化我有一个除法运算，它的值可能是整数或浮点数我想存储精度为2位数的结果。我如何才能做到这一点？

浏览 2提问于2012-09-30得票数 0

2回答

如何在简单分数中获得正确的小数作为输出

python、python-3.x、number-formatting

当我写的时候我得到了输出但当我尝试的时候我得到了 3.1416怎样才能得到小数的正确小数？

浏览 4提问于2019-03-16得票数 0

点击加载更多