我不明白在Matlab2013a中有什么行为，有点和交叉函数。
我有两个向量作为一个平面的基: v1 = -0.3134，0.0079，0.0072 v2 = -0.1132，1.1473，0.1586
如果计算C= v1xv2 (交叉积)，那么v1和v2形成的平面的法线向量是:C=交叉(v1，v2) C= -0.0070，0.0489，-0.3587
但是当我探讨这个向量必须是正交的时候，C和v1就不是。
点(C，v1) = 4.3368e-19点(C，v2) =0
我手工验证了C点v1的点积，有效地，不是零。
我的matlab版本有什么问题？还是我的电脑架构(英特尔I7)？
浏览 1提问于2014-10-07得票数 1
回答已采纳
在我的JS应用程序中，有大量来自后端服务的数据。我不想丢失小数点后的任何数字。
然而，当一个像999999999999999.99这样的数字被赋给JS中的一个变量时，它会将其舍入为1000000000000000，并将99999999999999.99转换为99999999999999.98。
这两个数字都在限制之内。即小于Number.MAX_SAFE_INTEGER
在下面的屏幕截图中可以看到上面的操作：
有人能解释一下吗？
浏览 8提问于2019-04-30得票数 0
1回答
比较有理数
、、
我制作了以下有理数C++类，包含所有的一般算术函数(+、-、*、/、==和!=)。
template <class T>
struct rationalNumber
{
static_assert(!std::numeric_limits<T>::is_signed, "ERROR: Type T must be unsigned");
static_assert(std::is_integral<T>::value, "ERROR: Type T must be integral");
T nume
浏览 3提问于2015-02-16得票数 3
回答已采纳
当使用32位浮点数将数据转换到缓冲区或从缓冲区转换数据时，nodejs似乎使用一些使转换不可逆的条件将浮点数扩展为双精度：
> f=3.81357913e+32
3.81357913e+32
> b.Buffer.alloc(4)
<Buffer 00 00 00 00>
> b.writeFloatBE(f)
4
> b
<Buffer 75 96 6b 4f>
因此，原始值(3.81357913e+32)现在似乎表示为0x75966b4f (Big endian IEEE-754，单精度)，当您读取相同的值时，您会得到一个不同的值：
&
浏览 3提问于2019-11-26得票数 1
我对JavaScript的Date对象及其getTime()方法感到困惑。来自：
上面写着实际的最大值和最小值。自1970年1月1日以来，JS Date对象可表示的毫秒数( ms )为(-/+)8.640.000.000.000.000 ms。
但是，8.640.000.000.00000需要53位。
另一方面，所有JS数都是64位浮点数，只有52个小数位(不包括符号位)。
因此，当Date.getTime()是最大值或最小日期值时，JS如何存储Date的结果？它必须使用一个指数位来做这个，对吗？
这是否也意味着严格来说不可能将JS Date (通过它的ms数)转换为int64 (例如在Qt中
浏览 0提问于2018-08-05得票数 1
我已经用HTML和JS创建了一个以自然对数为底的算法。代码是这样的： HTML: bonl.html <html>
<head>
<title>bonl</title>
</head>
<body>
<script src="bonl.js"></script>
<input type="number" id="entered">
<input
浏览 18提问于2021-05-08得票数 0
为什么10000000000000.126.toString() 1000000000000.127和100000000000.126.toString()不同？
我认为这一定与Js中的数字的最大值有关(根据)，但这与浮点运算以及如何相关？
我之所以问这个问题，是因为我写了这个函数来格式化一个使用千位分隔符的数字，并想要防止这种情况发生。
function th(n,sep) {
sep = sep || '.';
var dec = n.toString().split(/[,.]/),
nArr = dec[0].split('
浏览 3提问于2011-07-03得票数 1
回答已采纳
1回答
下面有一个单元测试，它运行在下面的代码中。这个测试有时通过，有时失败。不知道为什么和犹豫从根本上改变事物，因为好吧，这是一个公式，有时通过.我在想，它可能与类型的双重精度有关？不确定。有什么想法？
[TestMethod]
public void CircleFromCircumference()
{
var random = new Random();
var circumference = random.NextDouble();
var circle = new Circle("My circle", circumference
浏览 0提问于2018-09-17得票数 0
回答已采纳
using namespace std;
int main()
{
float f1 = 5488955, f2 = 0.2197265620, f3 = 0;
f3 = f1 + f2;
f3 = f3 - f1;
cout << f3<<endl;
return 0;
}
为什么f3值打印为0而不是0.2197265620
浏览 1提问于2020-08-19得票数 0
当我尝试将从php传入的bigint转换为nodejs中的整数时，结果总是不同的，我找不出它有什么问题。
> var a = parseInt('135601920000000040', 10);
undefined
> a
135601920000000030
> var a = parseFloat('135601920000000040');
undefined
> a
135601920000000030
> var n = Number('135601920000000040');
undefined
&g
浏览 2提问于2012-03-13得票数 4
回答已采纳
我有一个代码，我必须在数字上工作。为此，我创建了自己的C++类fp16，其中包含与此类型相关的所有运算符(算术逻辑运算符、关系运算符)，同时使用带有半精度浮点数的数字。
半精度浮点=1个符号位、5个指数位、10个有效位数= 16位
单精度浮点数=1个符号位、8个指数位、23个有效位数= 32位
因此，我要做的是将单精度浮点数转换为半精度浮点数：
对于有效位数-我使用截断，即从32位中松散13位，以获得10位有效数的半精度浮点数。
我该怎么处理指数位呢？如何从8个指数位变成5个指数位？
任何好的阅读材料都会有所帮助。
浏览 10提问于2011-09-15得票数 3
回答已采纳
1回答
两者有何不同：
CGFloat gray[4] = {0.9f, 0.9f, 0.9f, 1.0f};
和
CGFloat gray[4] = {0.9, 0.9, 0.9, 1.0};
我认为它们是一样的，但我不确定。
浏览 0提问于2012-06-05得票数 1
回答已采纳
我使用这个函数来得到一个列向量，其中每个元素都应该是1，但在n变大后，有时有些元素不是1，这是由于方法约束，我想找出n有多大并返回值。问题是:1.似乎1被存储为1.0000，不知道如何转换它，以及如何比较(注释中的位置) 2.不知道如何完全退出循环。谢谢。
function x = findn(n)
for m = 1:n
[a,b]=Hilbert(m);
m1 = GaussNaive(a,b);
m2 = size(m1,1);
% m1 is a n*1 matrix (a column vector) which every element is s
浏览 0提问于2013-02-16得票数 0
回答已采纳
1回答
我需要在Matlab中创建一个3D数组或矩阵，这是LabVIEW的Mathscript节点支持的。三维数组中的所有值都应该初始化为0，并且沿3维的大小是不同的预计算变量。
我尝试了以下几种方法：X = zeros(a,b,c);，它在Matlab中运行得很好，但是在LabVIEW中，零函数只支持1到2个参数。
然后，我尝试使用for循环创建它：
for i = 1 to c
X(:,:,i) = zeros(a,b);
end
但是，数组索引也不支持3个索引。我知道错误：
“只能指定一个或两个索引参数，例如(1，2)。”
您是否知道如何创建一个3D数组，而不是使用带有3个参数的
浏览 4提问于2016-03-27得票数 1
回答已采纳
当使用Node.js中的readFileSync方法从fs模块读取数据时，精度超过16位的数字在默认情况下自动四舍五入。
var data = fs.readFileSync(file)
data包含自动舍入的数字，例如：
0.91544900000000007 is rounded to 0.9154490000000001
4647.3424257097241 to 4647.342425709725
如何在没有舍入的情况下从文件中读取数据？
浏览 4提问于2020-01-28得票数 1
3回答
Javascript不能使用10100401822940525，它就像windows中的'conn‘文件夹。为什么js会因为这个数字而失败？
您可以查看示例，
浏览 2提问于2012-05-25得票数 2
回答已采纳
新手问题。我正在读一本非常好的书。当我尝试使用Marshal一节中的magic_copy示例时，我更接近浏览器而不是终端，所以我在ocsigen的中尝试了一下，我很惊讶地得到了结果：
(* js_of_ocaml *)
# let ora_magic_copy a =
let s = Marshal.to_string a [Marshal.Closures] in
Marshal.from_string s 0;;
val ora_magic_copy : 'a -> 'b = <fun>
# (ora_magic_copy 2 : fl
浏览 5提问于2012-09-10得票数 7
回答已采纳
1回答
我需要一点指导。我必须使用简单或配对的t-test来比较多个算法的分类性能。
假设我有三个数据集(A，B，C)，其中包含训练样本和测试样本。我正在运行3个算法(SIFT，SURF，ORB)，并计算分类精度，0.9意味着90%的图像与测试数据集正确匹配。
假设我得到了下表：
Dataset SIFT SURF ORB
A 0.9 0.88 0.34
B 0.84 0.67 0.45
C 0.90 0.45 0.456
你能告诉我如何使用简单的t-test
浏览 0提问于2014-01-24得票数 1
当我尝试这样做的时候
double test = ((2 / 7) * 100);
它返回0。
有没有人知道这是为什么以及如何解决它？
谢谢
浏览 4提问于2012-10-03得票数 0
回答已采纳
`float x = 0.1;
if (x == 0.1)
printf("Equal");
else
printf("Not-Equal");` 由于浮点数从二进制表示中砍掉了一些位，所以也会加倍。虽然double 0.1比float具有更高的精度，但仍然不完全相等，并且小于0.1。因此，如果float 0.1的输出为Not-Equal，则double 0.1的输出必须为Not-Equal。
浏览 14提问于2020-09-19得票数 0
回答已采纳
我正在使用Google库编写一个单元测试。在编译它之后，我会收到一个错误，上面写着：
"Error: elevation which is:10 to be equal to:Z which is 9.999999999999999325"
我怎样才能把Z加起来，这样考试才能通过，并且等于10？
浏览 2提问于2016-05-26得票数 1
回答已采纳
3回答
我有一个js，它可以抓取值、乘法、求和、除法，然后将它们放入表的一个单元格中。结果可以达到(我认为) 15位小数。如何将其限制为两个？
例:数学运算结果: 5.223567我想: 5.22
我想截断或舍入剩余的小数位数。我对需要js之外的资源的解决方案持开放态度，但如果存在的话，我更喜欢js解决方案。
浏览 4提问于2017-07-29得票数 1
简单问题：
Console.WriteLine("Double: " + 2.0151231E7);
双人: 20151231
Console.WriteLine("Single: " + 2.0151231E7F);
单曲: 2.015123E+07
为什么？
背景:我正在使用soap服务，其中声明了一个元素：
<xsd:element name="VALUE_FROM" type="xsd:float" />
在soap响应中，如下所示：
<VALUE_FROM>2.0151231E7</VAL
浏览 5提问于2012-07-18得票数 1
回答已采纳
SQLAlchemy有三种主要的浮点数类型：Float、FLOAT和REAL。它们之间的语义区别是什么？有什么东西能一致地映射到32位和64位的浮点数在不同方言之间吗？
浏览 3提问于2014-06-26得票数 5
我刚刚在一本机器学习书中读到，浮点变量的最小非零值是2.2250738585082014x10^-308，最大值是1.7976931348623157x10^308。 对此有何解释？ 为什么正指数和负指数的值不一样？
浏览 16提问于2019-04-28得票数 3
回答已采纳
1回答
我试图计算两点之间的距离，使用acos()函数在process...but中，我没有得到精确的result..in情况，距离很小。
float distance_between(dest& point1,dest point2) {
float EARTH_RADIUS = 6371.0;//in km
float point1_lat_in_radians = point1.lat*(PI/180);
float point2_lat_in_radians = point2.lat*(PI/180);
float point1_long_in_radians = point1
浏览 2提问于2015-09-05得票数 2
回答已采纳
为什么只有Math.floor(双精度)？
我有一个浮点数，我想要将它向下舍入。
我一定要把它铸造成双倍吗？
浏览 2提问于2011-05-19得票数 18
回答已采纳
我可能遗漏了一些显而易见的东西，但我正在试验，并得到了一些奇怪的结果。我只是想确保我没有做一些明显的愚蠢的事情(这很可能)。
不确定这是否与我正在做的事情有关，或者使用gpu.js使用WebGL执行计算的方式。
我创建了一个新的GPU和新内核：
const gpu = new GPU();
const test = gpu.createKernel(function () {
return 255 +
(255 * 256) +
(255 * 256 * 256) +
(255 * 256 * 256 * 256);
}).se
浏览 4提问于2017-09-04得票数 3
回答已采纳
我是否应该使用f后缀来编写CGFloat值？
CGFloat fValue = 1.2;
与
CGFloat fValue = 1.2f;
我知道这个后缀定义了一个浮点值。但是，这是否有必要，是否有意义，使用这两种方法之间是否存在性能差异，或者这仅仅是视觉表现，以便您可以快速定义值类型(例如，在本例中为浮点型)？
浏览 1提问于2013-03-14得票数 5
回答已采纳
1回答
我知道浮点错误，因为我在SE 浮点误差这里问的问题中获得了一些知识。
我发现很难理解的是，以下程序的输出。
double d1 = 0 + 1.123 + 2.456;
double d2 = 3.579;
float f1 = 0f + 1.123f + 2.456f;
float f2 = 3.579f;
long l1 = (long)(0 + 1.123 + 2.456);
long l2 = (long)3.579;
System.out.println(d1==d2
浏览 0提问于2013-07-18得票数 2
回答已采纳
1回答
我想知道是否有办法使浮子像这样，00749052940542251加倍而不损失精度，然后转换成相同的浮点数？
浏览 0提问于2017-11-21得票数 2
回答已采纳
我是opengl的新手，我编写了一个简单的程序，用opengl中的VBO绘制一个三角形。我看到窗口出现了，但我没有在屏幕上看到任何三角形。我也没有看到任何错误。有人能帮我找出我到底哪里出了问题吗？
opengl版本: 3.1.0
Code:
import numpy as np
from OpenGL import GL, GLU, GLUT
from OpenGL.arrays import ArrayDatatype
import sys
vertex = """
#version 130
in vec3 vin_position;
in vec3 vin_c
浏览 2提问于2016-07-19得票数 0
1回答
我有时间序列预测任务，我使用随机森林回归器和XGBoost预测未来的价格。
我想问一下，作为结论作业，我应该做什么样的代码或者做什么来选择哪个结果预测更好。
和
任何对链接或共享代码的帮助都非常感谢它，因为我尝试谷歌，但仍然找不到解决方案，而且它接近我的日期线。
浏览 4提问于2022-08-09得票数 0
c#代码：
float floatA = 4;
float floatB = 17;
float floatC = floatA / floatB; //0.235294119
double doubleA = 4;
double doubleB = 17;
double doubleC = doubleA / doubleB; // 0.23529411764705882
float res = (float)doubleC; // 0.235294119
js代码：
var a = 4;
var b = 17;
var c = a / b; // 0.23529411764705882
浏览 0提问于2014-04-12得票数 1
在我的c#控制台应用程序中，我希望将双精度变量转换为字符串类型。但是结果字符串变量应该至少有小数点左边的3位和小数点右边的1位。示例: 3.4569应转换为"003.4“
它对上面的例子有效，但对于后面的转换抛出错误的结果。
double Num = Math.Pow((3 + Math.Sqrt(5)), N); //6578336356630531.0 for N=22
string StringNum = Num .ToString("000.0");
它的结果..
StringNum ="6578336356630530.0";
但这将会是
浏览 2提问于2013-04-03得票数 3
回答已采纳
我在使用math模块使用tan、sin和cos进行三角学计算时，遇到了一些非常有趣的东西。
如所有数学教科书、在线来源和课程所述，以下内容是正确的：
tan(x) = sin(x) / cos(x)
虽然我在使用以下三个trig函数时遇到了一些精度错误：
from math import tan, sin, cos
theta = -30
alpha = tan(theta)
omega = sin(theta) / cos(theta)
print(alpha, omega)
print(alpha == omega)
>>> (6.4053311966462
浏览 4提问于2015-03-09得票数 1
回答已采纳
1回答
在MySQL中，当您定义双精度或浮点数时，您可以像定义double(10,0)那样定义精度。我还注意到，您可以在没有精度的情况下定义这些类型(我假设这意味着最大可能的值)。这些数据类型的最大值是多少?如何在sql中定义它(数据类型的(10,0)部分)？
干杯
浏览 2提问于2011-12-26得票数 3
回答已采纳
执行这样的简单减法：
Dim a, b As Double
a = 81.4
b = 76.0
MsgBox(a - b)
你会期望它的结果是5.4，但相反，你得到了5.4000000000000001，发生了什么？
浏览 0提问于2015-03-25得票数 0
回答已采纳
float fv = orginal_value; // original_value may be any float value
...
double dv = (double)fv;
...
fv = (float)dv;
fv应该恰好等于original_value吗？可能会丢失任何精度？
浏览 0提问于2016-04-25得票数 11
回答已采纳
我想要一些精确形式的答案，但不是出于输入输出的目的。
float a = cos ( 90*(PI/180)) gives 1.794897E-09
正如我想要的，在我的变量中最多有8位小数的答案，它将给出
0.00000000
setprecision或其他方法无助于将值存储在变量中。如何存储它？基本上，它甚至可能不是8位或9位数。我所要的就是在我的答案中限制指数形式
浏览 0提问于2015-07-23得票数 0
我有几个关于加速框架的问题。
单精度浮点数、单精度复数、双精度浮点数和双精度复数之间的区别是什么？对于一个简单的结构，我应该使用什么：
struct vector
{
float x;
float y;
float z;
};
另外，有人能解释一下这个示例函数的每个参数是什么意思吗？
void cblas_cdotc_sub (
const int N,
const void *X,
const int incX,
const void *Y,
const int incY,
void *dotc
);
苹果的描述对我来说有点不清楚。他们所
浏览 0提问于2010-11-01得票数 1
回答已采纳
2回答
file.txt
123.56
89.78
8.89
468.98
567.90
5.78
178908.90
12.56
6789.90
12.56
16.780
0.00
我已经将这些数字解析到一个名为float A150 = {0}的数组中。因此，A看起来像：
A[0] = 123.56
A[1] = 89.78
....
....
A[10] = 16.780
A[11] = 0.00
A[12] = 0
A[13] = 0
...
...
然后，我有一个排序算法
Sort(A, i) // where i is the number of elements (12)
现在A[]看起来
浏览 3提问于2015-06-15得票数 0
我尝试用JS编写Gauss-Legendre算法。我找到了here算法。 这是我写的代码： let ao = 1;
let bo = 1 / Math.sqrt(2);
let to = 1 / 4;
let po = 1;
let an;
let bn;
let tn;
let pn;
let pi;
for (let i = 0; i < 10; i++) {
an = (ao + bo) / 2;
bn = Math.sqrt(ao * bo);
tn = to - po * Math.pow(ao - an, 2);
浏览 29提问于2020-04-04得票数 0
11回答
我在一个程序中有以下内容(一个大得多的函数的一部分，但这是相关的测试位)：
int test = 100 + (100 * (9 / 100));
sprintf (buf, "Test: %d\n\r", test);
display_to_pc (buf, player);
基本上，它相当于：
x = a + (a * (b / 100))
其中a是给定的数字，b是百分比修饰符，x是结果(原始数据加上原始数据的百分比)……我希望这是有意义的。
它给了我：
Test: 100
我认为我头脑中的数学可能是错误的，但我检查了几个计算器，甚至检查了IDE中的表达式求值器，它们都给出
浏览 1提问于2009-03-05得票数 4
回答已采纳
我正在用纯C重写一些Matlab文件处理代码，我已经实现了以下函数，它将从一个二进制大端编码文件中读取4个字节，该文件应该表示一个ieee-754单精度浮点值。我验证了我能够用下面的代码将相关的32位数据作为一个无符号整数从文件中提取出来。
int fread_uint32_be(uint32_t *result, FILE ** fp)
{
uint8_t data[sizeof(uint32_t)];
if (!result || !*fp || sizeof(uint32_t) != fread((void *) data, 1, sizeof(uint32_t), *f
浏览 17提问于2020-06-07得票数 1
回答已采纳
1回答
我使用floats来指定纹理坐标，在0-1范围内。OpenGL喜欢这个范围内的东西，我可以用这种方式指定坐标，但是当我开始使用更大的纹理时(比如增加4096或8192像素)，我可能会开始失去精度。例如，如果我想在8192 x8192px纹理中指定一个坐标(1,1)，那将映射到1/8192=0.0001220703125。这似乎评估为0.000122070313作为一个浮动.我担心我的OpenGL着色器不会把它映射到我想要的像素上。
我可以将坐标作为整数保留一段时间，但迟早我必须转换它(可能是在着色器本身的后期)。有办法解决这个问题吗，还是说这是我应该关心的问题？
再乘以它，我得到了1.000
浏览 2提问于2012-02-14得票数 4
回答已采纳
问题：因此，很明显，3.0可以被认为是浮点。但出于某种原因科特林认为它是双重的。这对我来说毫无意义。有人能告诉我为什么Kotlin把数字3.0看作是双倍，而不是浮点数吗？谢谢!
fun main(){
val num = 3.0
random(num)
}
fun random(num: Float){
print(num)
}
备注这是我正在使用的在线IDE。
浏览 4提问于2021-10-28得票数 1
回答已采纳
1回答
c++标准是否定义了将NaN从浮点型转换为双精度型或反之亦然的行为，或者这种结果是实现定义的或未定义的？
我实际关心的架构是与GCC合作的x86-64，但我希望能有更广泛的理论理解。
浏览 0提问于2018-01-25得票数 4
我有一个数据库，它正在存储金额，并在网格视图中显示。我有一个输入值为3,594,879.59，当我在网格视图中查看时，我得到了3,594,880.00。
SQL Money类型是默认的Money类型，在创建表以自定义Money类型时，SQL中没有执行任何操作。在Linq中，我正在将数量转换为浮点数？
是什么导致了这种情况的发生？它只发生在大数字上(例如，我在数据库中放了1.5个，在网格视图中放了1.5个)。
浏览 4提问于2010-12-07得票数 0
回答已采纳
我使用地毯--一种为生锈编程语言创建的货--来计算“没有建议”的大数字，地毯应该是任意精确的，但是当我使用rug::Float::with_val (prec i32: [some value larger than i32 can hold], val Integer: some rug::Integer)锈蚀恐慌设置我的rug::Float::with_val (prec i32: [some value larger than i32 can hold], val Integer: some rug::Integer)的压力时--因为我的精度太高了--见下面的代码
fn main ()
浏览 9提问于2022-08-22得票数 0
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
即时通信 IM
实时音视频活动推荐
腾讯云开发者
