如何使用Node.js正确地将64位浮点数截断为32位截断浮点数并返回(降低精度)？
使用Node.js将64位浮点数截断为32位截断浮点数可以通过以下步骤实现：
- 首先，确保已经安装了Node.js环境，并在项目中引入相应的模块。
- 使用JavaScript的位运算符来截断浮点数，可以使用
Float32Array视图来实现这一目的。首先，将64位浮点数存储在Float64Array中：
var float64Array = new Float64Array(1);
float64Array[0] = 3.14159265359; // 64位浮点数值- 然后，将
Float64Array的内存块传递给Float32Array，以获取32位截断浮点数：
var float32Array = new Float32Array(float64Array.buffer);
var truncatedValue = float32Array[0]; // 32位截断浮点数值通过以上步骤，你可以成功将64位浮点数截断为32位截断浮点数并返回。
这种截断浮点数的方式可以在一些场景中降低精度要求，例如计算浮点数时，如果对最后结果的精确度要求不高，可以使用这种方式进行精度的降低。
腾讯云相关产品和产品介绍链接地址：
- Node.js云函数（SCF）：腾讯云的无服务器计算产品，可用于托管和运行你的Node.js代码。
- 云数据库 MySQL：腾讯云提供的高性能、可扩展的MySQL数据库服务，可用于存储和管理数据。
- 弹性MapReduce（EMR）：腾讯云的大数据计算与分析服务，可用于处理和分析大规模数据集。
请注意，以上仅为腾讯云的相关产品，不涉及其他云计算品牌商。
相关·内容
3回答
我在书里找到了什么地方
echo (int) ((0.1 + 0.7) * 10);
输出为: 7
echo ((0.1 + 0.7) * 10);
输出: 8
为什么两者是不同的？我想答案应该是8
浏览 9提问于2016-04-25得票数 1
1回答
有人能告诉我为什么这两个模数计算得到两个不同的结果吗？我只需要怪一个人或什么东西，但我在所有的时间，我失去了找到这个错误。
public void test1()
{
int stepAmount = 100;
float t = 0.02f;
float remainder = t % (1f / stepAmount);
Debug.Log("Remainder: " + remainder);
// Remainder: 0.01
float fractions = 1f / stepAmount;
remaind
浏览 2提问于2017-11-08得票数 14
回答已采纳
2回答
我正在寻找一种方法，迫使计算机计算一组有效位数的浮点运算。这是纯粹的学习原因，所以我不关心结果的准确性损失。
例如，如果我有：
float a = 1.67;
float b = 10.0;
float c = 0.01
float d = a * b + c;
我希望每个数字都有3个有效数字，我想看到：
d = 16.7;
不是：
d = 16.71;
到目前为止，我得到了一个可能的答案：
但是，使用该策略将每个浮点变量转换为我想要的精度，会使代码变得臃肿。然后对结果做同样的处理。
有没有一种自动修复精度的方法？
浏览 0提问于2012-10-09得票数 0
回答已采纳
5回答
我用C写了一些代码(不是C++)：
Mask1 = abs(Area1 * 2 + Area2 * -2);
Area1、Area2和Mask1是三个双变量。(例如3.00556，34.3333)我的问题是abs返回一个整数值(例如30)。
我需要做些什么来修复它？
致以问候。
浏览 7提问于2009-06-11得票数 3
回答已采纳
有人能解释一下这是怎么回事吗？
echo (18.99 * 100); // output: 1899
echo (int)(18.99 * 100); // output: 1898
我唯一能想到的是，1899年实际上是1898.999999999999或者什么的，而PHP正以某种方式将它转换成echo的一部分吗？如果是这样，为什么？如果没有，这种奇怪行为的原因是什么？
浏览 1提问于2013-12-24得票数 6
回答已采纳
我在mysql数据库中处理利率。它们以双精度形式存储，通常是小数点后1000位(例如: 4.657)，但有时会更多。有时，我只需要将它们报告给第100位(例如: 4.65)，但我不能对它们进行舍入-我需要将它们截断。所以，如果我在数据库中的利率是5.6575%，我需要得到5.65%，而不是5.66%。
一般来说，TRUNCATE(int_rate，2)可以很好地工作。到目前为止，这对我来说没有任何问题。
我对以下利率有问题: 8.0300%，8.0400%，9.0300%，9.0400%，10.0300%，10.0400%……等等。只有当利率超过8%，3或4在百分之一位，其余都是0时，才会出现
浏览 1提问于2016-07-14得票数 0
2回答
在乘法的结果中，我得到的结果与正数的乘法结果是不同的。这是预期的行为吗？如果是，为什么？
$val1 = 29;
$val2 = 0.29*100;
echo floor($val1); // prints 29
echo floor($val2); // prints 28
浏览 2提问于2015-12-27得票数 0
回答已采纳
1回答
我有一个在MS中创建的固定长度记录的二进制文件，我需要将该文件读入SAS 9.4 64位。当前，使用以下代码在数据步骤中读取该文件：
data outputdata.(EOC=no
compress = yes
keep = a b c);
length a $4.;
length b 4.;
infile "&inputfile." obs= 999999999 lrecl=308 recfm=F;
input @5 a $4.
@9 b ib4.
@1
浏览 6提问于2017-07-10得票数 1
回答已采纳
1回答
我有个奇怪的问题。为了说明：
a <- c(3.099331946117620972814,
3.099331946117621860992)
> unique(a)
[1] 3.099331946117620972814 3.099331946117621860992
> table(a)
a
3.09933194611762
2
因此，unique()正确地认识到，在第15位之后，数字是不同的。然而，table()并不认为它们不同。
这可能是预期的行为，但它在我的一些代码中造成了错误，因为我需要它们都同意：
times &l
浏览 2提问于2019-06-15得票数 1
回答已采纳
为什么PHP会将(int) ((0.1+0.7)*10)的结果转换为7，而不是8？我知道当它转换为(int)时，结果将是(float) 8，结果将是7？为什么会发生这种情况？
浏览 1提问于2012-07-20得票数 2
回答已采纳
1回答
当我将PHP的precision设置设置为18或更高值(无论是在php.ini中还是在运行时)时，round()函数会产生意想不到的结果。这是个窃听器，还是我少了什么？
例如，将浮点数12.4886724321舍入4十进制精度的结果如下：
14: 12.4887
...
17: 12.4887
18: 12.4886999999999997
19: 12.48869999999999969
20: 12.48869999999999969
21: 12.4886999999999996902
22: 12.4886999999999996902
23: 12.48869999999999969
浏览 5提问于2016-01-31得票数 3
我想知道- .NET JITter会递归地内联从其他小函数调用的小函数吗？
举个例子：
public static float Square(float value)
{
return value * value;
}
public static float Cube(float value)
{
return Square(value) * value;
}
如果我从某个地方调用Cube，它会一直内联，还是会以对Square的函数调用结束
如果是这样的话，内联的递归深度是多少？(假设我疯狂到以同样的方式实现Quartic或Quintic函数。)
浏览 0提问于2010-07-31得票数 6
回答已采纳
1回答
在计算加权中值的同时，有没有既定的方法来解释不精确的小数？我遇到的问题是，由于用二进制表示的小数不准确，所以np.cumsum(wt) / np.sum(wt) == 0.5的计算结果为False。
例如..。
arr = np.array([[40, 38.8182],
[40, 38.8182],
[50, 38.8182],
[60, 38.8182],
[70, 38.8182],
[70, 38.8182]])
arr =
浏览 21提问于2022-02-01得票数 0
2回答
如果我使用(int)在浮点数类型变量和整数之间转换一个产品，结果就不是我所期望的那样。请看我的密码。
预期结果是4090270，而不是4090269。
(int)(4090270.0)工作正常
$amount = 40902.70; // Same for 40902.20
$amount= (int)($amount*100);
echo $amount; /// Output : 4090269
浏览 2提问于2019-09-18得票数 1
回答已采纳
为什么Server在十进制除法上会失去精度？
抱歉，我是从手机上发出来的.
declare @base decimal(38,10) = -3062.325,
@div decimal(38,10) = 25812561468.9017,
@mult decimal(38,10) = 103177265901.524
select @base / @div * @mult
结果:0
declare @base decimal(28,10) = -3062.325,
@div decimal(28,10) = 25812561468.9017,
浏览 0提问于2018-05-25得票数 3
回答已采纳
1回答
我正在尝试从python驱动程序将数组传递给c++函数。我要传递给c++函数的数组之一是结果数组。我知道数据正在正确地传递给代码，但在返回的路上似乎被截断了。小数点之后我的精度下降了。知道我哪里出问题了吗？下面是代码的简化版本，以及结果输出。
python代码：
import ctypes
from ctypes import *
def get_calculate_windows():
dll = ctypes.CDLL('./cppFunctions.so', mode=ctypes.RTLD_GLOBAL)
func = dll.calculate_wi
浏览 3提问于2016-09-08得票数 2
回答已采纳
这里是Python新手。我很好奇如何在终端窗口打印一个超过13个字符的浮点数(Mac用户，在终端上运行Python程序)。我使用公式创建了一个计算Pi的程序：
π^4/90 = 1^-4 + 2^-4 + 3^-4等。
然而，无论我循环程序多长时间来得到一个更精确的Pi计算，它仍然只打印3.14159265359然后停止，有没有办法使程序扩展这个？
浏览 0提问于2014-03-01得票数 0
1回答
我一直在为这个很奇怪的问题挠头。我在PHP中做了一些计算，最终的结果是一个数字。这是一个整数，但是由于计算已经完成，PHP认为这是一个浮点。但是，当我将它键入整数时，它神奇地被减去了一个。与1相同，整数下降。我真是不知所措。自己试试看。
<?php
$number_of_rows = 10;
$number_of_columns = 19;
$active = array();
$tile = 160;
$column = $tile/$number_of_columns; // 8.42105263158
$rounded_down = floor($column); // 8
$c
浏览 4提问于2016-10-21得票数 0
回答已采纳
1回答
为什么这个条件是假的？
、、、
在我的代码中发生了一些奇怪的事情。有人能解释一下为什么这个条件是假的吗？
当我用php的函数var_dump()输出对象的成员时，我得到以下内容：
string(6) "105.63"
float(105.63)
来自一个对象，这是来自另一个对象的输出：
string(6) "667.69"
float(667.69)
然后我做这样的比较：
if(105.63 == "105.63"){
echo "true";
} else {
echo "false";
}
if(667.69 == &
浏览 4提问于2016-11-03得票数 1
1回答
我正在使用一个Money类，它要求所有货币都在int中，以便实例化它。所发生的事情是，我遇到了一个特定的数字(我尝试了各种其他数字，一切都如预期的那样工作)，当类型从float转换到int时，有一个不同的值。
我可以从一个非常高精度的数字，因为浮点数的性质在一般情况下，但这是没有任何意义的，这里我可以重现的错误.
$value = (float)9.78;
var_dump($value );
$prec = (int)(100);
var_dump($prec);
$value = $value * $prec;
var_dump($value);
var_dump((int)($value
浏览 0提问于2015-09-26得票数 2
回答已采纳
4回答
当我做作业的时候，我注意到一些非常奇怪的事情，我就是不知道为什么。
int x = 5;
cout << pow(x, 2);
结果是25。这很好。但是如果我像这样编写相同的程序：
int x = 5;
int y = pow(x, 2);
cout << y;
结果是24！
if()也是如此。
for (int x = 1; x <= 20 ; x++) {
if (x * x == pow(x, 2))
cout << x << endl;
}
它打印出数字1，2，3，4，6，8，12，16。
浏览 7提问于2013-02-06得票数 6
回答已采纳
1回答
日安。我目前正在使用csharp在Xamarin studio为Android制作一个音乐应用程序。首先，我按照本教程用Java语言(在Eclipse中)创建了一个基本合成器应用程序：
它可以很好地与Java SDK配合使用。现在，我正在使用Xamarin.android studio在C#中做同样的事情。
因此，根据上面的教程，Java中的声音合成循环如下所示：
while(isRunning){
for(int i=0; i < buffsize; i++){
samples[i] = (short) (amp*Math.sin(ph));
ph += twopi*fr/sr;
浏览 1提问于2014-04-29得票数 0
1回答
我对laravel或php有一个问题(还不知道)，接下来的问题是：
我的数据库中有一个名为debe的字段，其值为3.97，如下所示。这个字段是一个double(11,2)。
当我访问框架上的字段时，例如使用dd()，它将正确返回值，如下所示。
主要问题发生在我试图打印到视图中时，我收到了下一个：
我不知道为什么会发生这种情况，但现在我找到的唯一解决方案是使用PHP函数舍入值。
问候
浏览 3提问于2019-10-18得票数 2
回答已采纳
首先，我要说，我对Assembly不太了解，但这是我想知道的事情。
假设我在C++中有一个代码，如下所示：
float f = 34.2;
int i;
i = f;
显然，当执行这段代码时，f (34.2)的值将转换为整数值(34)，并分配给i。
我的问题是这种转换是如何发生的，我的意思是在运行时是否发生这种转换，所以在运行时，有一个嵌入到可执行文件中的代码是这样的：f被分配给i，现在我知道f是一个浮点数，i是一个整数，所以我应该做的是将f变量中的位转换成一个整数表示，然后将它赋值给i；
或者，在编译时，i = f将被直接替换为将浮点数转换为整数的代码。
浏览 0提问于2014-12-13得票数 1
回答已采纳
4回答
我有一个双倍，当分配总是回来作为0.0，但不应该发生。
我的代码是
double test = (27096140 / 27216140);
答案应该是0.9955.
我没有正确地使用双原语类型？
干杯
编辑
当然，我用的是int而不是浮点数。知道这将是一个常识的问题。
浏览 6提问于2014-06-13得票数 0
回答已采纳
我有一个代码，我必须在数字上工作。为此，我创建了自己的C++类fp16，其中包含与此类型相关的所有运算符(算术逻辑运算符、关系运算符)，同时使用带有半精度浮点数的数字。
半精度浮点=1个符号位、5个指数位、10个有效位数= 16位
单精度浮点数=1个符号位、8个指数位、23个有效位数= 32位
因此，我要做的是将单精度浮点数转换为半精度浮点数：
对于有效位数-我使用截断，即从32位中松散13位，以获得10位有效数的半精度浮点数。
我该怎么处理指数位呢？如何从8个指数位变成5个指数位？
任何好的阅读材料都会有所帮助。
浏览 10提问于2011-09-15得票数 3
回答已采纳
1回答
微时间圆浮子
、、、
PHP版本5.3.6
示例
<?php
$timeStart = microtime(true);
// some code ...
$timeExecution = microtime(true) - $timeStart;
$time = round($timeExecution, 2);
file_put_contents('h:/round.txt', $timeExecution . ' = ' . $time . "\n", FILE_APPEND);
?>
文件round.txt包含以下几行：
131.30484
浏览 1提问于2012-01-20得票数 2
可能重复：
有人能给我解释一下吗？
<?php
echo (int) ((0.1 + 0.7)*10);//displays an output: `7`
?>
我本来想见到8的，但我得到了7 --请解释一下这种行为。
这是PHP的一个特殊特性吗？或者我不理解PHP中的整数类型
谢谢。
浏览 3提问于2012-01-04得票数 1
回答已采纳
2回答
我在调用mod函数时遇到了一个问题。我有一个变量M，它是一个二维向量。当我打印M时，我看到M = [350,240.00]。
这就是问题所在:当我输入mod(M(1),10)时，我得到的是0，这没问题，但当我输入mod(M(2),10)时，我得到的是10。
我不知道是否有人遇到过这种问题，或者有什么想法。
浏览 2提问于2013-10-16得票数 1
当使用Node.js中的readFileSync方法从fs模块读取数据时，精度超过16位的数字在默认情况下自动四舍五入。
var data = fs.readFileSync(file)
data包含自动舍入的数字，例如：
0.91544900000000007 is rounded to 0.9154490000000001
4647.3424257097241 to 4647.342425709725
如何在没有舍入的情况下从文件中读取数据？
浏览 4提问于2020-01-28得票数 1
4回答
>>> str(1.41421356237309504880168872420969807856967187537694807317667973799073247846210703885038753432764157273501384623091229702)
'1.41421356237'
有没有办法让str()在字符串中记录更多的数字？我不明白为什么默认情况下它会被截断。
浏览 0提问于2013-06-11得票数 4
回答已采纳
1回答
C#浮点精度
、、、、
有人能给我解释一下这里发生了什么吗：
using System;
using System.Text;
namespace ConsoleApplication1 {
class Program {
static void Main(string[] args) {
object o = 1000000.123f;
float f= Convert.ToSingle(o);
double d = Convert.ToDouble(f);
Console.WriteL
浏览 0提问于2014-02-11得票数 7
回答已采纳
使用php，此代码echo sprintf('%.9F',pow(3,47));输出26588814358957501972480.000000000。
就像其他网站一样，给了3^47 = 26588814358957503287787。PHP有什么错误吗？如何解决这个问题？
顺便说一句，我想知道使用pow、sprintf、fmod计算的最大位数php是多少。是300位数吗？
浏览 1提问于2013-08-06得票数 1
回答已采纳
我正在编写一个程序，为已转换为数组的数字高程模型的固定区域创建变量函数图。我计算窗口约束内点对之间的方差(高程差)和滞后(距离)。将每个数组位置与其他每个数组位置进行比较。对于每一对，滞后和方差值被附加到单独的列表中。一旦所有的配对都进行了比较，这些列表就被用于数据入库、平均和最终绘图。
该程序可以很好地运行较小的窗口大小(比如60x60像素)。对于高达120x120px左右的窗口，这将给出207,360,000个条目的2个列表，我能够慢慢地让程序运行。如果大于这个值，我会遇到"MemoryError“报告--例如，对于240x240像素的区域，我会有3317,760,000个条目
在
浏览 0提问于2014-04-11得票数 2
在这种情况下：
float a = 0.99999f;
int b = 1000;
int c = a + b;
结果是c = 1001。我发现发生这种情况是因为b被转换成浮点(特定于iOS)，那么a + b对于1000.9999没有足够的精度，并且(为什么？)被舍入到更高的值。如果a是0.999f，我们得到c = 1000 -理论上正确的行为。
所以我的问题是，为什么浮点数四舍五入到更高的值？在哪里描述这种行为(或约定)？
我在iPhone模拟器，AppleLLVM4.2编译器上测试了这一点。
浏览 4提问于2013-04-05得票数 2
回答已采纳
为何会这样呢？
当我尝试的时候：
Math.pow(2,58)=288230376151711740，而实际上是288230376151711744
或
Math.pow(2,57)=144115188075855870，而它实际上等于144115188075855872
它只是在没有任何警告的情况下抛出这个数字。如果它在达到最大值的情况下停止在某个数字之上，我会理解的。然而，这似乎正确地计算了前n个数字，然后只在数字的最后出现错误。
浏览 0提问于2013-01-14得票数 0
回答已采纳
可能重复：
当我在eclipse中执行以下代码时，结果不是0，而是5.5511151231258E-17。
$a = 0.1+0.2-0.3;
echo $a;
谁能告诉我原因吗？
浏览 3提问于2011-08-25得票数 2
2回答
我正在尝试降低C中double变量的精度，以测试对结果的影响。我尝试执行按位&，但它给出一个错误。
如何对float和double变量执行此操作？
浏览 2提问于2017-12-20得票数 0
2回答
如何正确地将数值保存到SQLite3中。我使用Real类型来存储数值。例如:当我存储233333.00就可以了。但是当我存储23333333.00的时候，它变成了23333300.00。为什么会另存为2.3333333E7，检索为2.33333e+07。有没有办法克服这个问题？
浏览 1提问于2009-12-26得票数 0
2回答
我试图了解numpy如何处理float32数据类型。
下面的代码生成0.25815687
print(np.float32(0.2581568658351898).astype(str)) # 0.25815687
但是在线浮动转换器给出了0.25815686583518193359375，在打印单精度浮点数时，Numpy是在做一些特殊的事情，还是我遗漏了什么？。
浏览 14提问于2022-11-29得票数 0
回答已采纳
3回答
自学编码(这里是noob)，一个实践问题的答案如下：
amount = (int) round (c);
其中c是一个浮动。可以肯定地说，这一行通过舍入将浮点数转换为整数吗？我试着研究将浮点数转换成整数的方法，但没有一个像上面那样使用语法。
浏览 5提问于2017-07-30得票数 1
回答已采纳
2回答
有人能解释一下这段代码的逻辑吗？
<?php
echo ((0.1 + 0.7) * 10) .'<br />'; // 8
echo (int) ((0.1 + 0.7) * 10) .'<br />'; // 7 why?
echo ((0.1 + 0.8) * 10) .'<br />'; // 9
echo (int) ((0.1 + 0.8) * 10) .'<br />'; // 9 why ??
?>
浏览 5提问于2016-03-11得票数 2
回答已采纳
1回答
使用Server 2012..。
我有两栏：
Price [decimal(28,12)]
OustandingShares [decimal(38,3)] -- The 38 is overkill but alas, not my call.
当我做一个ALTER时，得到一个得到的计算列为十进制(38，6)。我需要数据类型为十进制(28，12)。
ALTER TABLE [xyz].MyTable
ADD Mv AS OustandingShares * Price
如何有效地在这个计算列上得到12小数位数？我尝试过将OutstandingShares转换为小数点后的12位，并将转换包装在
浏览 4提问于2014-11-11得票数 3
回答已采纳
将double转换为float总是会产生相同的结果，还是会有一些“舍入差异”？
例如，is x in
float x = (float)0.123456789d;
总是相同的值吗？
当将float转换为double，然后将其转换回float ie时会怎样呢？(float)(double)someFloat？
最感兴趣的是C#中的结果是什么，但如果您有关于如何在其他语言上工作的知识，请随意分享。
浏览 0提问于2012-03-17得票数 22
回答已采纳
1回答
我知道Math.Round和Math.Ceiling方法，但是它们返回一个Double和一个Decimal。VB.NET是否有任何内置函数，这些函数总是将浮点数向上，而不是向下，并且返回类型为Integer？我知道有CInt，但是如果它低于6.5，这个值就会变小。
浏览 5提问于2014-03-21得票数 0
2回答
为什么这段代码返回false，您能解释一下为什么会发生这种情况吗？
var_dump( 85.4 + 42.7 == 128.1 ); // bool(false)
浏览 4提问于2013-10-17得票数 0
回答已采纳
Java新手，编程新手。下面的代码是一个已经完美运行的程序的最后几行--我只想舍入最终结果( newTuition变量)，并将其限制为两个重要数字。
newTuition，TUITIONINCREASE和学费都是双倍的。
newTuition = ((TUITIONINCREASE * .01) * tuition) + tuition + ".");
System.out.println("Your current tuition is $" + tuition + ". It will rise next year by "
浏览 3提问于2012-07-12得票数 0
3回答
使用...像这样返回纬度和经度: 48.8616441,2.3448885
在如下的返回字符串中: 200,8,48.8616441,2.3448885
在将解析为返回CLLocationCoordinate2D的函数时：
NSArray* listItems = [locationString componentsSeparatedByString:@","];
CLLocationDegrees latitude = kInexistantLatitude;
CLLocationDegrees longitude = kInexistantLong
浏览 0提问于2011-08-26得票数 0
回答已采纳
2回答
Laravel截断值类型为double。
值3.539363636363637表示为3.5393636363636。
我这样做是为了：
$e=Enrollment::find(173);
dd($e->value);
// show 3.5393636363636
在phpmyadmin中，值是正确的3.539363636363637。
浏览 1提问于2015-10-13得票数 3
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
实时音视频活动推荐
腾讯云开发者
