在20个字符串转换JS新数字方法时，我遇到了一个问题。
var x4 = "22222222222222222222";
var x5 = "22222222222222222229";
Number(x4)
parseInt(x5);
//Output
22222222222222220000
22222222222222220000
我本来希望得到与变量相同的值，但在数字格式下，但我不知道这里有什么问题。将字符串转换为数字的最佳方法是任何数字。
浏览 5提问于2017-09-12得票数 0
回答已采纳
为什么firestore使用自己的timestamp而不是普通的js date对象？我搜索了文档，除了纳秒精度之外，找不到任何其他好处。但我不认为它有多大用处，因为原生js date对象只支持高达ms的精度(并且直观地说，js sdk中的firestore时间戳必须建立在普通的js date对象之上)。
浏览 40提问于2020-11-26得票数 0
回答已采纳
我在Neo4j 2.0.1上使用Cypher运行以下查询
MATCH (n) WHERE n.value = -4810333952080461631 OR n.value = -163182636343344959
RETURN n.value
结果：
-4810333952080462000
-163182636343344960
似乎这些数值正在四舍五入。我通过他们的web和节点js neo4j客户端进行了尝试。
当我通过他们的web浏览到节点时，我可以看到它持有正确的值。
浏览 4提问于2014-03-05得票数 1
回答已采纳
2回答
class Distribution
{
public:
virtual type GenerateRandomNumber() = 0;
};
在Distribution类中，有一个函数，派生类必须重写它。其中一个派生类返回double，另一个派生类返回unsigned int。
class Gamma : public Distribution
{
public:
double GenerateRandomNumber() override;
};
class Poisson : public Distribution
{
public:
浏览 0提问于2020-05-05得票数 0
你好，在python中，我将弧面模型从python导出到tensorflow.js，我得到了以下预测：
-2.47331879e+02, 2.43775589e+02, 1.48011673e+02,....
但在javascript中，我得到了以下内容。
-247.3305206298828,243.7752685546875,148.0111541748047,....
但是输入是相同的图像，唯一不同的是在TensorFlow中，我需要使用以下行将数组转换为张量：
face = tf.tensor(face[0][0])
为什么我会得到不同的结果？
编辑
我使用此代码是为了在pyt
浏览 16提问于2021-12-09得票数 0
1回答
我正在使用库Proj4js来转换坐标。我正在把坐标从EPSG: 23029转换到EPSG: 4326。问题是，通过变换坐标，在处理负载时会有一些偏离精度的情况。我注意到了这一点，将坐标系从原点转换到目的地，反之亦然。我用来进行转换的代码是：
<script type="text/javascript" src="/proj4js/lib/proj4js-compressed.js"> </ script>
<script type="text/javascript" src="/proj4js/lib/pro
浏览 12提问于2010-10-26得票数 0
1回答
我有完全透明的图像，我想得到每个像素的rgb数据。把它想象成一幅隐藏的图画。
在javascript中处理图像数据的常用方法是
ctx.drawImage(img, 0, 0);
但是，如果在绘图后访问画布数据，所有像素都是黑色的。我已经验证了我可以用php GD使图片可见。
对如何在js中做这件事有什么想法吗？
编辑:我知道我可以得到一个直接解析图像数据的js库，但是我正在寻找一个带有could库的解决方案。
浏览 4提问于2016-09-28得票数 1
回答已采纳
1回答
我正在开发一个日期解析器。
const parseDate = (data: any): Date => {
const isDate = (d: Date) => !isNaN(d.getDate());
if (
Object.prototype.toString.call(data) === '[object Date]' &&
isDate(data)
)
return data
else if (typeof data === 'string') {
浏览 2提问于2020-01-13得票数 0
回答已采纳
2回答
嗨，我在我的three.js场景中的动画和运动有问题。当我移动我的相机(即使以0.0000001%)(通过THREE.TrackballControls或THREE.OrbitControls)或当我用Tween.js动画对象时，我的动画非常的不稳定，物体在运动轴上跳跃，看起来是错误的四舍五入的位置。
问题更大，当我远离场景中心时(哨兵在顶点(0，0，0，0))，例如我在顶点(0，80万，0，0)上，问题更大。
当我移动相机或移动物体时，它就是这样做的。
我正在使用标准示例代码和satndard库：
<script src="http://threejs.org/examples
浏览 2提问于2014-09-05得票数 1
回答已采纳
2回答
如果我执行以下操作
double d = 0;
由于0是使用32位的整数字面量，而d是使用64位的双精度变量，那么剩余的32位是否会被随机垃圾填充，或者Java是否正确地提升了字面量？
浏览 4提问于2012-02-09得票数 5
回答已采纳
1回答
我有一些时间戳，分辨率可以降低到纳秒。我希望能够解析时间戳并创建Javascript日期对象(或某些扩展或类似的对象)，以便对它们进行排序/添加/减去，等等。但是，Javascript对象似乎不会超过毫秒。
是否有一种方法来扩展日期对象来存储额外的精度？我已经查找了一些现有的库，这些库都是这样做的，但是到目前为止还没有找到。
要明确的是，我不需要从Date.now()获得纳秒.我只需要能够将时间戳字符串解析为具有必要精度的对象。
JS环境是浏览器(而不是Node.js)。
浏览 0提问于2014-11-30得票数 4
我一直在尝试在JavaScript中将十六进制字符串转换为整数，但得到的数字与Python语言中得到的数字不同。 以下是我在JS中的代码： var x = CryptoJS.MD5('h').toString();
BigInt(parseInt(x, 16)); 下面是我得到的结果： 49268479078006859472353325704298889216n 当我在python中运行这段代码时： int(hashlib.md5('h'.encode()).hexdigest(), 16) 我得到了： 492684790780068615431090701
浏览 16提问于2019-10-05得票数 0
4回答
任何像这样转换浮点数的聪明方法：
float f = 711989.98f;
转换为小数(或双精度)而不损失精度？
我试过了：
decimal d = (decimal)f;
decimal d1 = (decimal)(Math.Round(f,2));
decimal d2 = Convert.ToDecimal(f);
浏览 6提问于2010-04-08得票数 18
回答已采纳
2回答
希望有人能对我的问题有所了解。我正在将excel文件导入到ms表中，并将excel中的任何.1作为.09999导入到表中。有人能解释一下为什么会发生这种情况吗?我怎样才能让他们显示为.1。
我运行的查询是
select * from POSCustomer where LoyaltyID <> ''
浏览 1提问于2015-02-12得票数 0
回答已采纳
1回答
RIA服务为填充服务器生成的属性做了特殊的工作。其中一个值是我表中的ModifiedDate字段，我有一个身份列，它不是键。为了获取数据库生成的值，RIA使用它刚刚插入的行的键值查询它在提交期间刚刚插入的记录。它通过以下查询来处理这一问题：
WorkItemId，WorkItemStatusCode，EffectiveDate是表的关键。
sp_executesql N‘插入dbo.值(@0、@1、 @2 、@3、@4、@5、@6、@7、null)从dbo.WorkItemHistory中选择iWorkItemHistoryId，其中@@ROWCOUNT >0，WorkItemId =
浏览 6提问于2011-01-24得票数 1
回答已采纳
背景
我正在使用Node.js缓冲区本机API读取缓冲区。这个API有两个函数，分别用于大端和小端点，称为readUIntBE和readUIntLE。
问题
通过阅读文档，我偶然发现了以下几行：
要读取的byteLength字节数。必须满足:0< byteLength <= 6。
这意味着我一次只能读取6个字节，这使得它对我的用例毫无用处，因为我需要读取一个由8个字节组成的时间戳。
最初我以为这是文档中的一个错误，但是在收到@BridgeAR的回复后，很明显这是有意的行为：
他提到，我可以通过添加偏移量来读取多个条目，但我不清楚如何做到这一点。
问题
浏览 0提问于2018-04-24得票数 0
回答已采纳
3回答
可能重复：
好的，对于我正在编写的一个程序，我称之为“飞行”，我创建了一个方法来计算飞行期间使用的燃油量。我的代码中有两个错误，上面写着“可能会丢失精确性: double required: int”，有人能帮我找出我为什么要得到这个错误吗？
下面是该方法的代码：
public double calculateFuel(){
if (numofmiles<1000){
numofmiles = numofmiles*2;
}
else if (numofmiles>1000 && numofmiles<3000){
浏览 4提问于2012-05-07得票数 2
1回答
我使用geotools.js将OS引用转换为纬度和经度。不幸的是，输出在默认情况下(我相信)限制在小数点2位。为了更准确的阅读，我需要小数点5位。
我已经尝试删除对我自己的代码中小数位的任何引用，并且在geotools.js文件中查看我可以在哪里修改它，但是我还不够聪明，找不出这一点！
var osgb = new GT_OSGB();
if (osgb.parseGridRef(gridref)) {
var wgs84=osgb.getWGS84();
var lat = parseFloat(Math.round(wgs84.latitude * 100) / 1
浏览 0提问于2019-08-15得票数 0
回答已采纳
我的问题是，当我将Double转换为BigDecimal时，我丢失了原始值。我的输入要求是Double val = 10435383974769502920d，想要转换成10435.383974769502920，但低于输出。我已经尝试了双BigDecimal..but，但没有成功
Double val = 10435383974769502920d;
System.out.println(BigDecimal.valueOf(val).movePointLeft(15));
output : 10435.383974769502
浏览 1提问于2018-06-22得票数 1
我有一个甘特图类型的web控件:一个html单元格表(例如，一个单元格代表一天)，一些绝对定位的div表示条形图--div的父元素是适当的开始TD。我设置了div的宽度，以便它们覆盖适当的天数。宽度是通过计算div覆盖的单元格的offsetWidth值来计算的。
这在IE7、Chrome和Opera (我认为在火狐2中)都是正确的，但在火狐4中，就不行了。div的长度有时太短，有时太长。从问题的角度来看，这似乎与一个类似于的亚像素问题有关。
我所看到的(见下面的html源)是，我的100%宽表(它的offsetWidth为1311PX)被分成30个单元，平均需要43.7px。显然，它必须使用整
浏览 1提问于2011-06-23得票数 0
每次我认为我理解了强制转换和转换，我就会发现另一个奇怪的行为。
long l = 123456789L;
float f = l;
System.out.println(f); // outputs 1.23456792E8
鉴于long比float具有更大的位深度，我预计需要显式强制转换才能对其进行编译。毫不奇怪，我们看到我们在结果中失去了精确度。
为什么这里不需要强制转换？
浏览 5提问于2009-08-18得票数 45
回答已采纳
1回答
RSA解密公式存在的问题
、、、
我试图解密一条用RSA算法加密的消息
上面的示例取自，因此我尝试在C#中实现它：
int msg = 67;
int Ee = 5;
int Nn = 91;
int Dd = 29;
var cipher = Math.Pow(msg, Ee) % Nn;
var msg2 = Math.Pow(cipher, Dd) % Nn;
MessageBox.Show("Msg: " + msg.ToString() + " cipher: " + cipher.ToString()
+ " msg:
浏览 2提问于2013-05-13得票数 2
回答已采纳
1回答
倒转FFT时没有得到准确的数据
、、、、
好吧，我想要达到的目标很简单。对一些随机数据应用FFT，然后将反向算法应用于输出，以得到输入。为此，我正在使用kissFFT库。
代码：
const int fft_siz = 512;
const int inverse = 1;
kiss_fft_cpx* in = (kiss_fft_cpx*)malloc(sizeof(kiss_fft_cpx) * fft_siz);
kiss_fft_cpx* out = (kiss_fft_cpx*)malloc(sizeof(kiss_fft_cpx) * fft_siz);
kiss_fft_cpx* rec = (kiss_fft_cpx
浏览 2提问于2013-06-30得票数 0
代码很简单，您可以复制它。
NSDecimalNumber *d1 = [NSDecimalNumber decimalNumberWithString:@"6560601600245628933"];
BOOL res = [d1 isEqualToNumber:@(6560601600245628934)];
NSLog(@"%@", @(res));
isEqualToNumber:总是返回YES，甚至我把d1与其他数字如@6560601600245628930.有什么想法吗？是虫子吗？
浏览 1提问于2018-05-28得票数 1
回答已采纳
1回答
如何将这个数字转换为浮点数？它是35.77091272818393，输入NSString。问题是，如果我用
[str doubValue]
它返回35.770912。
我想转换这个字符串
NSString *tt =[NSString stringWithFormat:@"%.14f", 35.77091272818393 ];
到浮子上使用
var=[tt floatValue];
但是它没有足够的精度-它只返回35.7709127，而不是所有的数字。
浏览 1提问于2012-03-09得票数 1
我在遗留软件中发现了一些代码，我有兴趣知道哪种代码提供了更好的精度，因为它目前采用了双精度并对其进行了计算： double doubleNum = (Math.round(55.88d * 100) - Math.round(2.33d * 100)); 第二个选项 BigDecimal bnv = BigDecimal.valueOf(55.88);
BigDecimal bsv = BigDecimal.valueOf(2.33);
System.out.println(bnv.subtract(bsv).setScale(2)); 两者产生相同的输出，我的理解是使用bigdecima
浏览 51提问于2021-10-08得票数 1
回答已采纳
我正在研究Java语言中的Math.pow()函数，但是下面的代码给出了不同的结果，分别如下所示。
案例1：
BigDecimal divisor = new BigDecimal(Math.pow(10,9)+7);
BigDecimal dividend = new BigDecimal(1000000000543543509L);
System.out.println(dividend.remainder(divisor)); // 543543558
案例2：
System.out.println((1000000000543543509L%((int)Math.pow(10,9)+7
浏览 0提问于2017-09-29得票数 1
问题：
为什么Uniswap使用Q表示法相对于uint256比率价格？在uniswap中的价格总是以token1 1/token1 0表示。哪个令牌取决于创建时的由合同地址分配的十六进制值。。
(token0, token1) = tokenA < tokenB ? (tokenA, tokenB) : (tokenB, tokenA);
所以，例如，ethereum上的WETH-USDC池地址是
> (WETH) 0xC02aaA39b223FE8D0A0e5C4F27eAD9083C756Cc2 > (USDC) 0xA0b86991c6218b36c1d19D4a2e9
浏览 0提问于2023-04-27得票数 0
回答已采纳
我知道IEEE 754浮标在运行过程中失去了精确性，但这并不是完全渐进的。由于指数数学的原因，当小数点达到最大值时，它基本上会把小数点移到上面。然而，由于这不是在基数10，我知道它不会从，比方说，10.000到100.00。尽管如此，从我的理解来看，它在基数2中做了一些类似的事情。我猜在0到1之间会有很多这样的变化，但是它们会变得非常间隔。在哪里发生了这些精度上的变化？，这对于告诉用户我的程序何时会开始丢失精度很有用。
浏览 1提问于2014-04-08得票数 1
1回答
查找直线的交点并创建单独的直线
、、、、
我有一个AutoCad绘图的轴列表。类似于： [Line3D(Point3D(1647113117371448512892615841780535357281063/737059219536588389452555455100000000000,
1366943276273750947371820063466288403112033/737059219536588389452555455100000000000,0),
Point3D(26100284670260312636891118431/1230500536196770000000000
浏览 21提问于2019-12-08得票数 0
我使用下面的代码，并使用带有BigDecimal舍入模式的java setScale方法，并得到以下结果。
new BigDecimal(1.115).setScale(2, RoundingMode.HALF_EVEN).toPlainString()
结果: 1.11
预期: 1.12
因为最接近左边的偶数应该是2，所以我预计结果是1.12。但结果是1.11。再一次，
new BigDecimal(1.145).setScale(2, RoundingMode.HALF_EVEN).toPlainString()
结果: 1.15
预期: 1.14
因为5左边的偶数是4，所以我希望结果是1
浏览 2提问于2014-11-26得票数 3
回答已采纳
请有人解释/链接任何可以区分的文档。
精度误差的可能损失
和
失去了皈依。
我不明白在什么情况下会发生哪些错误。任何有例子的解释都是非常感谢的。
浏览 0提问于2018-06-08得票数 0
回答已采纳
我有下面的时间戳1447862653771，我想格式化它。
www.epochconverter.com成功地将其转换为GMT: Wed, 18 Nov 2015 16:04:13 GMT
我使用的是moment.js，它没有正确地格式化日期。
moment.unix('1447862653771')给Tue 12月10日09:29:31 (东部标准时间)
$("body").append($("<p>").text(moment.unix('1447862653771')));
<script src=&#
浏览 10提问于2015-11-18得票数 1
回答已采纳
1回答
我正在尝试将一些JavaScript代码转换为C++，以获得17位精度的Julian。JS代码能够给我这样的精度，但是它在C++中的类似代码不会给出超过7位的值。这17位精度是绝对需要的，因为它有助于实时找到天体的高度和方位角，并具有更高的精度。
这是JS代码。
function JulianDateFromUnixTime(t){
//Not valid for dates before Oct 15, 1582
return (t / 86400000) + 2440587.5;
}
function setJDToNow(){
const date=new Da
浏览 4提问于2022-09-26得票数 1
回答已采纳
1回答
让我们假设我有一个现有的数据库，该数据库保存了fiat货币事务，如下所述，使用decimal (18, 4)。
现在，我想记录比特币、电子邮件和erc20令牌交易。
Transaction
------------------
TransactionID
CurrencyID
UserID
DebitAmount decimal(18, 4)
CreditAmount decimal(18, 4)
加密货币的十进制精度建议如下：
decimal (16, 8) -- bitcoin
decimal (30, 18) -- ethereum / erc20 token
我想到的是：
将比
浏览 0提问于2019-09-16得票数 1
假设我有一个双精度数和一个整型数。
double x = 5;
int y = x;
当我这样做时，它会抛出一个错误，因为我需要像这样显式地从double转换为int，
int y = (int) x;
才能正常工作。但当我这么做的时候
int x = 5;
double y = x;
没有抛出错误，而且它工作得很好。必须显式地从双精度转换为整型，而不是反之亦然，背后有什么原因吗？
浏览 0提问于2019-03-04得票数 1
首先注意，mod(3^146,293)=292。由于某些原因，在Matlab中输入mod(3^146,293)返回275。在JS中输入Math.pow(3,146) % 293返回275。这个错误每次都会发生(据我所知)。这让我相信，我错过了一些显而易见的东西，但似乎说不出是什么。
任何帮助都是非常感谢的。
浏览 0提问于2018-09-26得票数 1
回答已采纳
我正在尝试将两个给定的二进制字符串相加，将它们转换为十进制(数字)，然后将得到的十进制(数字)转换回字符串。 即使在使用BigInt()之后，我也会将二进制错误地转换为十进制。 let a = "10100000100100110110010000010101111011011001101110111111111101000000101111001110001111100001101";
let b="110101001011101110001111100110001010100001101011101010000011011011001011101111001100
浏览 120提问于2021-11-15得票数 0
回答已采纳
我不明白为什么rails datetime不匹配。下面的测试失败了，因为我的created_at日期不相同，但我不知道为什么
测试
it "renders the course as json" do
course = create(:course)
get :index, format: :json
expect(response.body).to eq [course].to_json
end
输出
CoursesController
GET #index - json
renders the #index view (FAILED - 1)
Fa
浏览 2提问于2014-08-29得票数 0
我在下面的函数bson_append_double中遇到了问题：
dvalue = 0.01;
bson_append_double(pbson, field_name, -1,(double)dvalue);
但是我得到的结果是令人恼火的: 0.0099999997764825820923以前有人遇到过这个问题吗，请帮助我。感谢并致以问候
浏览 3提问于2017-05-29得票数 1
1回答
我正在尝试创建一个正弦和余弦的计算器，从技术上讲，它只能在0-pi/2的范围内运行。现在这可能看起来很愚蠢，但以后会用到它，这样我就可以使用泰勒级数了。
我有一个基本可以工作的实现，但是当theta是x* (pi/2)的形式时，我有一个严重的问题，其中x是一个任意整数。似乎在这些值上，有时它们会被推到附近的象限中，而这些象限并不属于它们。偶尔也会有一些我无法解释的直接错误。
我如何才能支持它，使它更有效和正确？
以下是执行此操作的代码。
#define T_PI (2.0 * M_PI)
#define H_PI (0.5 * M_PI)
void sincos(float theta, fl
浏览 3提问于2018-04-29得票数 1
我试图使用重力场来根据位置坐标反向获取位置指令。现在，我在熊猫的两个不同的栏里有Lat和Long，两者都是浮子型的。现在要使用locator.reverse('')，，输入必须是字符串。当我尝试将浮点数转换成字符串时，我丢失了一些改变数字形式的信息，例如
df.Lat = 42.279971 df.Lat.astype('str') df.Lat = 42.27997063
它为什么要四舍五入？我需要给我的浮动号吗？
谢谢你的帮助！
浏览 2提问于2021-06-22得票数 0
回答已采纳
1回答
我需要使用Spark在上使用两个列来计算: column1 = column2，但是它总是返回一个舍入为6个小数的结果，即使我用十进制(38，18)来设置或转换这些列。
%sql
drop table if exists test_calc_round;
create table test_calc_round (number decimal(38,18), factor decimal(38,18));
insert into test_calc_round values (0.123456789, 1), (0.123456789, 0.1), (0.123456789, 0.01
浏览 5提问于2022-06-01得票数 1
1回答
我在javascript工作，但我正在参与一个android项目。我在试着写很多数字。在JS中，我会写一些东西，例如3e5来获得300000。在Java中也是这样吗，我搜索了，但是我找不到不使用pow ^的答案
浏览 7提问于2015-07-19得票数 1
回答已采纳
我有民俗密码：
<a href="javascript:Add(23905762501722146)">Click</a>
function Add(id) {
alert(id);
}
警报中的值与原始值相比为23905762501722144 (-2)。
这一切为什么要发生？
浏览 4提问于2015-03-02得票数 0
回答已采纳
1回答
我有一个BigDecimal数字，在某些情况下我想添加0。当我更改BigDecimal的标度时，它只返回subNumber的BigDecimal数。
例子：
新BigDecimal(0.1721112427968000094313954596298853517869092775632121988466426373478102735617940027951431710952381083564411002004385868111)；System.out.println(c.setScale(120))；
它返回：
0.172111242796800012477831387514015659689
浏览 2提问于2012-05-18得票数 1
回答已采纳
7回答
我正在做这个小练习。
declare @No decimal(38,5);
set @No=12345678910111213.14151;
select @No*1000/1000,@No/1000*1000,@No;
结果是：
12345678910111213.141510
12345678910111213.141000
12345678910111213.14151
为什么前两次选择的结果是不同的，而在数学上应该是相同的？
浏览 1提问于2010-04-12得票数 0
回答已采纳
我正在使用Rails 3.2.1和Ruby1.8.7上的构建一个简单的JSON (1.9.x可能对我有所帮助，但我的托管提供商只有1.8.7)。
由于API使用者期望时间戳作为浮动，所以我目前只是对time属性执行一个简单的to_f：
json.updated_at record.updated_at.to_f #=> 1328242368.02242
但是to_f会导致精确性的损失。当客户端请求自给定时间点以来已修改的记录时，这会导致一些问题，因为SQL查询查找与客户端用于引用的相同记录。也就是说，当试图查找比上面的示例“更新”的记录时，SQL查询(例如updated_at >
浏览 3提问于2012-02-04得票数 2
回答已采纳
5回答
这是Java中的代码片段：
int i = 1234567890;
float f = i;
System.out.println(i - (int)f);
为什么输出不等于0？它执行扩展，所以它不应该丢失数据。然后，您只需截断该值。诚挚的问候
浏览 2提问于2012-10-16得票数 3
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
实时音视频
即时通信 IM活动推荐
腾讯云开发者
