如何确定一个十进制数的完全幂？
确定一个十进制数是否为完全幂的方法如下：
- 首先，将给定的十进制数转换为对数形式，即求以10为底的对数。可以使用常用对数函数log10()来计算。
- 如果对数的结果是一个整数，即没有小数部分，那么给定的十进制数就是一个完全幂。
- 如果对数的结果有小数部分，那么给定的十进制数不是一个完全幂。
举例说明：
假设要确定的十进制数为n。
- 计算log10(n)的值。
- 如果log10(n)的结果是一个整数，那么n是一个完全幂。
- 如果log10(n)的结果有小数部分，那么n不是一个完全幂。
例如，对于十进制数100，计算log10(100)的结果为2，是一个整数，所以100是一个完全幂。
推荐的腾讯云相关产品和产品介绍链接地址：
腾讯云函数计算（云原生、后端开发）：https://cloud.tencent.com/product/scf
腾讯云数据库（数据库）：https://cloud.tencent.com/product/cdb
腾讯云服务器（服务器运维）：https://cloud.tencent.com/product/cvm
腾讯云音视频处理（音视频、多媒体处理）：https://cloud.tencent.com/product/mps
腾讯云人工智能（人工智能）：https://cloud.tencent.com/product/ai
腾讯云物联网（物联网）：https://cloud.tencent.com/product/iotexplorer
腾讯云移动开发（移动开发）：https://cloud.tencent.com/product/mobility
腾讯云对象存储（存储）：https://cloud.tencent.com/product/cos
腾讯云区块链（区块链）：https://cloud.tencent.com/product/bc
腾讯云虚拟专用网络（网络通信、网络安全）：https://cloud.tencent.com/product/vpc
腾讯云云原生应用引擎（云原生）：https://cloud.tencent.com/product/tke
腾讯云元宇宙（元宇宙）：https://cloud.tencent.com/product/um
相关·内容
这里的第一篇文章。NSNumber的floatValue方法有问题--不知怎么的，它返回了一个不精确的数字。问题是:我将一堆NSNumbers存储在数组中，如下所示：
NSArray *a = [NSArray arrayWithObjects:
[NSNumber numberWithFloat:0.04f],
[NSNumber numberWithFloat:0.028f],
[NSNumber numberWithFloat:0.016f],
[NSNumber numberWithFloat:0.004f],
nil];
然后我尝试检索第一个值
浏览 3提问于2010-05-12得票数 3
回答已采纳
3回答
得到2的幂数，指数很大吗？
、、、、
我正在做以下练习：。声明如下：
2的幂数是多少？
2->1位2*2=4->1位2*2*2=8->1位2*2*2*2= 16 ->2位.2*2*2*2*2*2*2= 1024 ->4位数
那么，给定指数，这个幂的数字是多少呢？
我曾尝试过以下答案：
import java.math.BigInteger;
public class Power {
public static long digit(long exp) {
System.out.println("exp: "+exp);
BigInteger pow =
浏览 1提问于2020-02-02得票数 1
回答已采纳
这段代码：
import random
while True:
thing = str(round(random.uniform(1,3), 3))
print(thing)
并不总是生成3个小数的数字，有时给我的数字只有2个小数。
输出示例：
1.575
2.035
2.864
2.118
1.069
2.36
1.092
1.948
2.54
2.224
2.318
1.713
1.819
2.717
1.171
2.918
3.0
1.23
2.487
我能够修复这个问题，创建一个例程来检查我的数字的长度，然后我附加另一个随机生成的整数字符串。喜欢
if len(thi
浏览 34提问于2019-08-09得票数 0
回答已采纳
2回答
我正在遍历所有长度的i位字符串，并想知道如何判断它是否是前一位字符串的重复？基本上我想跳过11，1010，1111，0101，101101等等，但不想跳过1011，1100，1000，101001等等
这些位字符串是二进制数字的周期，所以如果它们重复，就会产生相同的数字，这将使我的数据处理程序抛开。
重复序列需要是相邻的，并且覆盖所有的j，没有溢出。
skip = false;
for(int i = 1; i<=n/2 && !skip; i++){
if(n%i == 0){
skip = true;
浏览 1提问于2014-08-11得票数 1
回答已采纳
2回答
我将一个浮点数定义为float transparency = 0.85f;，在下一行中，我将其传递给一个函数-- fcn_name(transparency) --但结果是变量transparency的值为0.850000002，当我使用默认设置打印它时，它是0.850000002。对于值0.65f，它是0.649999998。
我如何避免这个问题？我知道浮点数只是一个近似值，但是如果我定义了一个只有几个小数的浮点数，我如何确保它不会改变呢？
浏览 2提问于2012-10-24得票数 1
我已经这样做了几个小时了，如果我遗漏了一些明显的东西，请原谅。
我正在使用pow(_ x: Decimal, _ y: Int) -> Decimal函数来帮助生成一个基本公式的月度付款金额。我将此函数链接到infix operator ***，但我尝试通过键入该函数来使用它，但遇到了同样的问题。
Xcode昨天对我大喊大叫，因为我的公式太长了，所以我把它分解成几个常量，并将其合并到我需要的整体公式中。
代码：
precedencegroup PowerPrecedence { higherThan: MultiplicationPrecedence }
infix operator *
浏览 2提问于2017-11-15得票数 0
如何编写代码在二进制和十进制之间来回转换Xcode？
我想做一个二进制到十进制的计算器，但我不知道如何在代码中将二进制转换为十进制？
谢谢。
浏览 15提问于2019-11-14得票数 0
如果你有一个二进制数，比方说1010 (以10为基数的10)，是不是说除以2会删除第一位数字(使其结束为010)，对吗？
基本上，您如何删除第一个数字(即，如果二进制数是0或1，那么它将结束为零)？我不想要代码或任何东西，我只想知道像除以或乘以2这样的东西。
也不要考虑二进制数中最左边的任何一个零。
浏览 0提问于2013-02-10得票数 1
回答已采纳
2回答
现在我正在准备我的AP计算机科学考试，我需要一些帮助来理解如何手动在十进制、十六进制和二进制值之间进行转换。我正在使用的书(Barron的)包括一个例子，但没有很好地解释它。
在这些数字类型之间应该使用哪些公式进行转换？
浏览 0提问于2012-02-19得票数 1
回答已采纳
根据，移位可以用来计算2的功率：
左算术移位n等于乘2^n (如果该值不溢出)，而两个补值的右算术移位n等于除以2^n并向负无穷远舍入。
我一直在想，其他按位运算符(~、|、&、^)在应用于基数-10时是否有任何数学意义？我明白它们是如何工作的，但是这些运算的结果可以用来计算十进制世界中有用的东西吗？
浏览 1提问于2010-07-23得票数 39
回答已采纳
2回答
谁在什么阶段决定使用斩波或舍入一个数字？例如，如果我编写了一个C程序，其中有一个double变量，那么数字2.57 (不管它的浮点表示形式)会发生什么？它是切成2.5还是四舍五入成2.6？我的C编译器会在这两种可能性之间做出选择吗？IEEE754标准是否规定了我的C编译器应该做什么？它是在我的CPU架构中实现的，还是在我的操作系统中实现的？
浏览 0提问于2014-10-15得票数 3
2回答
在c++中，如何使用IEEE754-1985标准知道何时可以精确地表示十进制数。例如，0.2不能精确地表示。
有没有一个简单的规则？
浏览 0提问于2012-01-31得票数 1
回答已采纳
1回答
我正在考虑编写一个应用程序，该应用程序可以计算具有曝光(如火灾)的材料中的温度随时间的变化。
然后我需要在材料的几何形状上绘制结果作为热图。
现在我想知道我应该在所有的计算和绘图中使用Decimal还是Double。我已经研究了这两种方法，但仍然不确定该使用哪种方法。
我需要比较这些值，包括随时间变化的插值值。和double，据我所知，由于不精确的表示，存在比较问题。但是使用decimal是很麻烦的。
我只倾向于double，但同时更精确的表示和比较也很有价值。
浏览 0提问于2012-12-08得票数 1
回答已采纳
假设我有这样的代码：
#include<iostream>
using namespace std;
int main()
{
int a = 1633;
}
我在第4行放置了一个断点，这样就可以通过使用Visual的内存窗口来跟踪内存的分配方式。我注意到，当我插入&a时，它会显示如下：
0x00CFF800 cc cc cc cc cc cc cc cc cc cc cc cc cc cc cc cc cc cc cc cc 61 06 00 00 cc cc cc cc 3c
我理解我的变量是61 06 00 00，因为它是突出显示的。
问题：
为什么我把所有
浏览 2提问于2020-11-12得票数 0
我正在尝试为n<16编写一个不使用迭代将十进制转换为二进制的代码。但输出总是1000、100、10或1。代码有什么问题？非常感谢
#include <stdio.h>
int main(void){
int decimal, bin = 0;
printf("Enter number to convert to base 2: ");
scanf("%d", &decimal);
if(decimal >= 8){
bin += 1000;
decimal = decimal%8;
}else if(decim
浏览 3提问于2013-09-21得票数 1
2回答
二进制转换器不适用于大数
、、、
我正在写一段C代码，它将整数转换成二进制表示，反转二进制，然后再转换回整数。它工作得很好，但我需要它来处理直到10^9的输入值。现在，它似乎对任何大于10^7的值都是无效的。我的意思是，我放入一个像10000000这样的数字，并得到17967657062982931584作为二进制表示(尽管对于较小的整数是准确的)。此外，我不确定在哪里我的int_to_binary是唯一遇到这个问题的函数，或者其他函数是否也需要针对大输入进行优化。你知道我哪里错了吗？谢谢。
#include <stdio.h>
#include <string.h>
unsigned long lo
浏览 6提问于2013-01-31得票数 1
2回答
据我所知，如果四舍五入，如果四舍五入的数字在它的邻居之间相等(例如，4.5，如果你在十进制之后的四舍五入)，你可以把前面的数字舍入到最近的偶数。
例如，如果您在小数点1.5、3.5、5.5、7.5和9.5之后四舍五入到0位，则将分别舍入2、4、6、8和10。所有这些在netbeans中都很好，但是当我在十进制之后转到1位时，我遇到了一些问题。
package foo;
import java.text.NumberFormat;
public class Foo {
public static void main(String[] args) {
NumberForm
浏览 3提问于2015-01-10得票数 7
回答已采纳
2回答
C++在python中的双重限制
、、、、
我知道python能够处理任意大整数，那么为什么在使用科学记数法时不给我一个呢？为什么1e23和10**23有什么不同？
Python 2.7.3 (default, Aug 1 2012, 05:14:39)
[GCC 4.6.3] on linux2
Type "help", "copyright", "credits" or "license" for more information.
>>> for x in range(30):
... x1 = eval('long(1e{})
浏览 1提问于2012-10-22得票数 3
回答已采纳
我正在阅读Stephen Prata的C Primer Plus，它引入浮动的第一个方法之一就是谈论它们如何精确到某个点。它特别提到“C标准规定，一个浮点数必须能够表示至少六个有效数字……一个浮点数必须准确地表示前六个数字，例如，33.333333”。
这对我来说很奇怪，因为它听起来像是一个浮点数可以精确到六位数，但事实并非如此。1.4存储为1.39999...诸若此类。您仍然有错误。
那么，到底提供了什么呢？一个数字应该有多准确，有没有一个分界点？
在C中，你不能在一个浮点型中存储超过六个有效数字而不得到一个编译器警告，但是为什么呢？如果你做的数字超过六位数，它似乎也一样准确。
关于下溢和次
浏览 1提问于2019-02-01得票数 3
与问题无关，这里的数字格式化到底发生了什么？
In[1] := InputForm @ 3.12987*10^-270
Out[1] := 3.12987`*^-270
In[2] := InputForm @ 3.12987*10^-271
Out[2] := 3.1298700000000003`*^-271
如果您使用*10.^作为乘数，那么转换就是您天真地期望它的位置：
In[3] := InputForm @ 3.12987*10.^-16
Out[3] := 3.12987`*^-16
In[4] := InputForm @ 3.12987*10.^-17
Out[4
浏览 3提问于2011-02-09得票数 5
回答已采纳
7回答
内存、无理数和浮点数
、、、
有些数字不能存储在“内存位”中，因为它们的二进制表示将使它们永无止境。
在二进制11.111011101110中...这不是确切的数字。我现在记不清它到底是什么了。
但是我们可以把它想象成“一个无理数”，在我们的基数10中，它在小数点后无限地继续。
一些有理数在转换成以2为底的数时会遇到这个问题。那么我们如何…
1)代表它们？
2)用计算机程序计算？
3)对它们进行操作？
编辑:为了消除困惑并说声谢谢：
好的，我在上面的帖子中说过-->来看它，或者把它想象成一个无理的数字，或者一个小数点后很长很长的数字。请读一下“喜欢”这个词。
现在我有一个数字，这个简单的数字不能用二进制形式表示。那么
浏览 0提问于2011-08-30得票数 2
回答已采纳
2回答
我只是想知道我们是否可以用浮点数来确定实数近似形式的规则。
对于意图而言，浮点数是否可以由1.xxx777777终止(以无限7为例终止，并最终在结尾为随机数字)？
我相信只有这种形式的浮点数：
1.精确值。
2.像1.23900008721一样的值.因此，在1.239近似为数字的情况下，数字显示为“噪声”，但在精确值和噪声之间为0。
3.值(如3.2599995 )，其中3.26是通过添加9999..和最后一个数字(如5)来近似的，因此在实数下面用一个浮点数近似。
4.与2.000001类似的值，其中2.0是在实数之上用浮点数近似的。
浏览 8提问于2012-12-05得票数 0
1回答
如何在寄存器中存储基2号？
、、、、
但我的教练没有回应。对于MIPS项目，我有一个额外的学分问题如下：
Extra credit covers binary to ASCII data type conversion. It is useful
to convert the 2’s complement integer into an ASCII string so that it
can be displayed on the monitor. Derive a binary-to-ASCII conversion
routine, BinarytoASCII, for converting a 2’s complement
浏览 2提问于2018-12-22得票数 0
回答已采纳
2回答
只要研究一下著名的论文PRIMES is in P，就会感到困惑。
该算法的第一步是If (n=a^b for nature number a and b>1), output COMPOSITE.，由于整个算法在多项式时间内运行，因此这一步也必须在O((log )^c)(给定输入大小为O(log ))内完成。然而，在谷歌搜索之后，我找不出任何算法来命中目标。
问题：
有没有什么算法可以用来测试在多项式时间内某个其他数的指数？
谢谢并致以最良好的问候！
浏览 2提问于2012-04-19得票数 2
回答已采纳
重现我是如何相信这一点的步骤： >>> 2 ** 4324567 如果你厌倦了等待，可以中断上面的键盘，因为比较操作只需要不到一秒的时间，而上面的操作需要20秒。 >>> 2 ** 4324567 % 55 你会注意到模运算的速度要快得多。唯一可能的方法是，如果它使用了像中国剩余定理这样的东西，对吧？ 奇怪的是，如果指数(是2的幂)是一个计算值(就像2 * 2162283或e，其中e = 2 * 2162283)，它似乎不会这样做。有人能解释一下这是怎么回事吗？
浏览 36提问于2021-10-30得票数 2
回答已采纳
3回答
一位朋友问我：
如果是2^10 = 1024，我们可以取1024并分解并总结它的数字：
1+0+2+4 = 7.
这很简单。
但是，当输入是2^30000时(输入实际上是一个长字符串"1000...") --没有能够保存此值的.net类型。
所以必须有一个技巧来和它的数字(十进制值的数字).
编辑:
相关技巧(用于查找10^20 - 16)
100 = 10^2 (1和2零)
10^20 =(1和20个零)
因此：
10^20 - 16 = 18 9，8和4。
18*9+8+4 =174个
但我还没有成功地将这个解决方案转化为我的问题。(我试了很多次)。
*我将这个问题
浏览 3提问于2013-04-27得票数 3
回答已采纳
1回答
我在写一个用于加、减、乘和除二进制的程序时遇到了一些问题。我遇到的主要问题是能够限制程序给出1和0(二进制部分)的输出，而且它还需要能够操作二进制，如果它是十进制的，比如101.1或1.0101。下面是我在研究过程中在网上找到的一个程序，但我还不能完全理解它是如何工作的，还不能实现我自己的程序，也不能计算带有小数的二进制。我不想使用数组，因为它限制了最大输出，这取决于您为执行这些计算而留出的位。
期待着一些潜在的想法。
#include<stdio.h>
int main(){
long int binary1,binary2;
int i=0,remainde
浏览 1提问于2013-09-24得票数 0
在C++中是否有一种算法允许我，给定一个T型浮点值V(例如双值或浮点数)，在给定的方向(向上或向下)返回与V最接近的值，这个值可以用小于或等于指定的小数位数D表示？
例如，给定
T = double
V = 670000.08267799998
D = 6
对于方向=朝向+inf，我希望结果是670000.082678，对于方向= -inf，我希望结果是670000.082677。
这有点类似于std::nexttoward()，但限制是“next”值需要使用最多D位的精确表示。
我考虑过一种简单的解决方案，包括将小数部分分离出来并将其缩放为10^D，截断它，再将其缩放到10^-D，然后将
浏览 4提问于2014-10-01得票数 2
回答已采纳
1回答
XML和RDF数据具有特定的数据类型，如十进制、双和整数()。这些数据类型的范围是什么。
我知道C++中的十进制、双整数和整数的范围是给出的。XML和RDF数据类型是否具有相同的范围或它们的范围。如果它们的范围不同，那么它们的实际范围是什么？
浏览 4提问于2015-04-11得票数 0
回答已采纳
3回答
在C程序中，当你写一个像3.14159这样的浮点文字时，有没有标准的解释，或者它是依赖于编译器还是依赖于架构？Java是关于如何解释浮点字符串的，但当我阅读K&R或其他C文档时，这个问题似乎被掩盖了。
浏览 0提问于2009-03-16得票数 2
回答已采纳
嗯，我.对不起。我认为这个问题已经在其他地方得到了答案，但我无法找到解决办法。我在C中有一个int类型的变量和一个if-语句，我不知道这个语句检查什么。
int a;
if(a==0x6634522)
{
//do some stuff
}
如果这件事已经在别的地方被回答了，我真的很抱歉。
浏览 5提问于2014-01-10得票数 1
回答已采纳
我想用x的0.5次方来计算下一个积分。它是由Mathematica完成的：
这种计算的奇怪之处在于，数字并不代表它们的来源(例如，0.0176839是什么？)
只要我写(1/2)而不是x的幂的"0.5“，我就会得到这样的结果：
0.5和1/2之间会影响集成的区别是什么？
提前谢谢你
浏览 0提问于2020-02-18得票数 0
2回答
如果你评估
(Math.PI).ToString("G51")
结果是
"3,141592653589793115997963468544185161590576171875"
Math.Pi在小数点15以下是正确的，这与double的精度是一致的。"G17“用于往返，所以我希望ToString在"G17”之后停止，但是它继续产生"G51“的数字。
Q，因为15小数以后的数字超出了53位尾数的精度，那么其余的数字是如何计算的呢？
浏览 11提问于2022-11-04得票数 1
回答已采纳
似乎在软件工程中，我们更关心二进制数的这些“开关”用法，而不是它们数字的实际值.例如，假设我有一个号码：
1011
这个数字的“值”是decimal 11。
同样：
1001 0110 -值为十进制150
然而，使用位操作技术，上述2个二进制数字可以被视为第一个示例中的4个开关，第二个示例中的8个开关。在这里，我们不太关心数字所包含的十进制值，而更关心的是每一个二进制数字是设置(1)还是clear (0)。
为了给出最后的例子，假设我们有上面的数字：
1001 0110
我们希望将第二位到最高位设置为1，如下所示：
1101 0110
我们可以这样做：
1001 0110
OR
0100 00
浏览 0提问于2019-10-21得票数 -5
我在使用NASM程序集时遇到了问题。
我不知道如何把两个数字相乘，然后把它们打印到屏幕上。
问题是，我们只允许使用只打印32位长度数字的函数，而不允许使用64位长度数字。
所以我的问题可能是数学，我想我需要用Horner的方法来得到十进制数，就像我在下面指出的。
如果我有
AF / A = 11 remaining 5
11 / A = 1 remaining 7
1 / A = 0 remaining 1
-> 175，这是正确的结果
但是当我把它分割成两个寄存器，每个寄存器都是4个字节，举个例子
A | F A / A = 1 remaining 0 and F / A =
浏览 0提问于2017-12-22得票数 0
回答已采纳
3回答
我不知道如何从小数转换成二进制。当我搜索它时，有一个解决方案显示：
1 1
-- (dec) = ---- (bin)
10 1010
0.000110011...
-------------
1010 | 1.0000000000
1010
------
01100
1010
-----
0010000
1010
-----
浏览 2提问于2014-11-08得票数 2
在Excel中，我想生成1000行的值，我知道初始值和终值。
例如，单元格a1=1400和单元格a1000=1190，总共减少了15%，如何生成1000行excel的值，让这些值呈指数级下降呢？
你知道我该如何创建一个公式来实现这一点吗？谢谢
浏览 0提问于2015-08-27得票数 5
回答已采纳
这就是我(从symsum函数)获得的数字，它的类型为sym：
a=328791078344903739363762093060350430076929707044786898291940722052812676355129485878814911641516759087483581972443760841410582114920781832660013389681326267351368505696628653562484228680842650173635989588528021721039959787053654401351638478786763875479187208098871238
浏览 0提问于2014-04-21得票数 0
1回答
我正在转换Float => CGFloat，它给了我以下结果。为什么它在转换后以"0.349999994039536“的形式出现，但在Double => CGFloat中却很好？
let float: Float = 0.35
let cgFloat = CGFloat(float)
print(cgFloat)
// 0.349999994039536
let double: Double = 0.35
let cgFloat = CGFloat(double)
print(cgFloat)
// 0.35
浏览 1提问于2018-05-02得票数 0
回答已采纳
打开计算器做这么小的事情对我来说似乎很烦人，我坚信“你知道的越多越好！”所以我在这里问你如何将十六进制转换成十进制。
在此之前，我使用以下公式：
Hex: Decimal:
12 12+6
22 22+2*6
34 34+3*6
49 49+4*6
99 99+9*6
当我移动到更高的数字时，比如C0或FB，我会感到困惑
你使用的公式是什么(大脑，而不是功能性的)？
浏览 3提问于2009-05-26得票数 28
回答已采纳
2^10 = 1KB、2^20 = 1MB等等。
除了，一个字节是8位，所以我不明白为什么我们要用2的幂来解释。说到2的幂的比特，我完全能理解，但是对于Bytes，我完全迷惑了。许多教科书/在线资源都是这样谈论它的，这里我遗漏了什么？
顺便说一下，我知道2^10 = 1024，大约等于10^3 = 1000。我不明白的是，为什么我们用2的幂来证明使用前缀和字节是合理的。
浏览 1提问于2016-09-07得票数 3
1回答
如何将十进制数转换为int。例如，我如何才能得到0.565到565 (不乘以10的幂)，因为我不知道小数点后有多少个数字。因为这些是用户输入。
浏览 0提问于2019-09-28得票数 1
我试图在给定的精度下打印一个数字的平方根。
int N;
int precision;
cin>>N>>precision;
printf("%.*lf",precision,std::sqrt(N));
这就是clang++打印出来的：
%./a.out
2 100
1.4142135623730951454746218587388284504413604736328125000000000000000000000000000000000000000000000000
它能打印超过50位数字的精度？我以为双打只能处理17位数？
我在苹果硅m1上运行m1
浏览 2提问于2021-06-07得票数 3
回答已采纳
1回答
int G(int a[], int n) {
int x=0, i, j;
for(i=1; i<n; i=i*2){
for(j=0; j<i; j++)
x += a[j];
}
return x;
}
算法O(n)上的最坏情况是如何紧界的。第一个循环没有执行O(log(n)次)，第二个循环执行O(n)次吗？
浏览 0提问于2018-10-03得票数 1
回答已采纳
3回答
用户输入四位数字(假设他们输入1960)我需要将另一个数字与最后两位数字(60)进行比较，但我卡住了。前两位数可以是00-99之间的任何数字，所以我不能减去1900。我尝试过操纵二进制，但没有成功。有什么建议可以让我从1960年得到60，或者从2005年得到05，等等。
浏览 0提问于2016-11-04得票数 1
string name = "cem"
byte[] barr = "cem".ToCharArray().Select(p=>Convert.ToByte(p)).ToArray();
string converted = Convert.ToBase64String(barr); // converted will be Y2Vt
c e m
99 101 109
Y 2 V t
24 54 21 45
我无法理解这个转换背后的数学原理。
base64字符串编码表：
浏览 15提问于2011-09-17得票数 1
回答已采纳
我将一个值(0.15)作为Real数据类型存储在SQL的Quantity字段中。 只是玩玩，当我转换为数字时，尺度上有一些非常微小的变化。 我不确定为什么会发生这种情况，为什么会有这些特殊的数字？ select CAST(Quantity AS numeric(18,18)) -- Quantity being 0.15 返回 0.150000005960464480
浏览 17提问于2019-04-17得票数 0
回答已采纳
2回答
我在做地理计算，最终得到一个纬度和经度来存储在一个Geography::Point对象中。纬度和经度最多可以有7位数字(这也提供了11毫米的精度，这是足够的)。
问题是:如果一个字段的值不能正确地存储在一个Double中，那么MS将返回到最近的数字，但是可以通过添加一组数字来实现。
=>例如5.9395772存储为5.9395771999999996
这会产生一个问题，那就是[Position].ToString()超过了该列允许的最大字符数量(不，我不能增加这个限制)。
由于我们所处理的是纬度、经度、高度和精度，所以纬度和经度各有11个字符的空间：
String.Format(Cult
浏览 1提问于2019-07-01得票数 1
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
即时通信 IM
实时音视频活动推荐
腾讯云开发者
