所以Lua最酷的一件事就是你可以让它使用浮点数而不是双精度数。luaconf.h中的LUA_NUMBER。它对我来说非常好用！
但我一直想知道lua是如何处理整数的。在js和as3中，我知道整数仍然只是“数字”。如果数字始终是53位尾数的双精度数，那么这种方法非常有效，因为整数中人们期望的32位数字已经被很好地覆盖了。现在，如果要使用23个尾数数字进行浮点运算，这将不再像预期的那样工作。代码通常将整数视为32位，用于按位运算或打包32位颜色之类的东西。
所以我的问题是，如果我使用"#define LUA_NUMBER float“构建，我的整数限制是23位吗？答案是不是更复杂？如果是这
浏览 3提问于2013-06-18得票数 4
回答已采纳
在使用openGL (ES)的java中，我们可以直接分配ByteBuffer，例如
ByteBuffer bf ;
bf.allocateDirect();
但是我们不能在FloatBuffer的情况下做到这一点，这是不可接受的，为什么呢？
我想知道是不是因为：
字节在硬件级别上是可访问的(因为OpenGL工作在硬件上，与delvik不同)，硬件中的寄存器( GPU的硬件)是以字节为单位的，即使浮点数也应该存储在可能不可用的4字节寄存器中，因此我们不能直接分配，我们应该告诉缓冲区为给定大小的块分配内存，然后将数据放在这些块中，并将其再次作为FloatBuffer处理。
浏览 4提问于2014-12-02得票数 3
回答已采纳
2回答
在双精度系统的IEEE标准中，我们知道法向数的最小指数为1-1023=-1022，0的表示为(1.00.0)_2* 2^(0-1023)，其中指数为-1023。
低于正规数的指数为-1022，与正常数相反，前导尾数为0.也就是说，一个次正规数的表示形式如下：(0.b，.，c)_2 * 2^(-1022)，其中b，…，c是一系列二进制值(即0或1)。
我不知道以下表示是否被视为低于正常数：
(0.00.0)_2* 2^( -1022 )，其中mantissas均为0，指数为-1022。
之所以提出这个问题，是因为上面的表示在数学上等于0，而低于正常的数与0不同。此外，我尝试过，但没有找到
浏览 1提问于2015-01-23得票数 3
2回答
我似乎找不到如何在GLSL中获取制服的标量(或字节)的大小。
目前，我在枚举所有着色器常量时调用glGetActiveUniform，但它返回的size参数是数组大小，而不是可变大小。
有没有一个函数可以获取数据大小？或者是将ConstantType映射到它的大小的函数？
为了完整起见，我的代码如下：
char ConstantName[ 128 ];
GLint ConstantArraySize;
GLenum ConstantType;
glGetActiveUniform( Program, ConstantIndex, 128, nullptr, &ConstantArray
浏览 2提问于2012-10-17得票数 2
回答已采纳
1回答
我试图用三角形网格绘制一个简单的“地板”，但只绘制了其中的第一个四分之一。例如，下面是一个5 x 5网格尝试的屏幕截图：
我已经创建了几个不同的M x N网格，它似乎每次都会绘制MxN(/4⌋)⌊方块。
因此，对于一个5 x 5的网格：
int QUAD_DEPTH = 5;
int QUAD_WIDTH = 5;
std::vector<GLfloat> vertices;
我正在加载一个向量；每个顶点六个浮点数(XYZRGB)，每个三角形三个顶点，每个正方形两个三角形：
for (int row = 0; row < QUAD_WIDTH; row++) {
浏览 15提问于2016-08-12得票数 1
回答已采纳
我正在使用将文件上传到远程服务器。
HTML：
<input id="fileupload" type="file" name="files[]" data-url="http://my-server-ip/upload.php" multiple>
JS：
$(function () {
$('#fileupload').fileupload({
dataType: 'json',
done: function (e, data) {
浏览 2提问于2016-03-01得票数 1
3回答
通过这个程序，我可以找到一个结构的长度，而不用多少。我有一些问题我找不到答案。
我无法理解这个步骤(char*)(p+1)-(char*)p) --为什么要将指针类型转换为char。
我打印出了每种数据类型的大小。因此，结构的大小应该是3* int的大小+浮点的大小+字符的大小= 17。然而，结构的大小是20。请解释如何。
为什么(float*)(p+1)-(float*)p)的输出为5。
代码：
#include<stdio.h>
struct sample
{
int a,b;
float c;
char z;
int k;
浏览 2提问于2015-02-09得票数 0
回答已采纳
新手问题。我正在读一本非常好的书。当我尝试使用Marshal一节中的magic_copy示例时，我更接近浏览器而不是终端，所以我在ocsigen的中尝试了一下，我很惊讶地得到了结果：
(* js_of_ocaml *)
# let ora_magic_copy a =
let s = Marshal.to_string a [Marshal.Closures] in
Marshal.from_string s 0;;
val ora_magic_copy : 'a -> 'b = <fun>
# (ora_magic_copy 2 : fl
浏览 5提问于2012-09-10得票数 7
回答已采纳
1回答
这里是第一个问题。已查看常见问题，但未找到答案。
我使用Kochan书学习Obj C，他将%i分类为整数，%f分类为浮点数，%d分类为双精度。
使用iOS，似乎是：%i和%d表示整数，%f表示浮点数
有没有人能证实并解释一下其中的原因。我已经看过苹果的字符串编程指南了。
提前谢谢你。
浏览 0提问于2011-03-17得票数 3
回答已采纳
我试图使用一个代码来寻找Wilson Primes的一些乐趣，并使我回到编码的摇摆，然而，我发现当我试图除以172！+1乘以173，它会给我一个溢出错误。下面是我使用的代码：
import math
x = 2
while x < 1000:
if math.factorial(x-1) + 1 % x == 0 and (math.factorial(x-1) + 1 / 5) % x == 0 :
print(x)
x += 1
我跑步的时候给了我：
5
13
OverflowError:整数除法结果对于浮点数来说太大了
我更改了代码，发现一旦
浏览 2提问于2017-04-09得票数 0
回答已采纳
1回答
这是我试图解决的问题的一个例子，我从麦克风中获得一个缓冲区，并尝试处理它的内容。从这个问题中得到了很好的指导
逻辑我声明一个向量来保存我想要的浮点数，然后将其调整为ArBuffer()的大小，然后复制到该向量。
ArBuffer()是不是必须将其转换为memcpy？
#include "Lib_api.h"
#include <alsa/asoundlib.h>
#include <stdio.h>
#include "audiorecorder.h"
#include "Globals.h"
#include <i
浏览 33提问于2020-05-08得票数 0
回答已采纳
import cmath
import math
import random
import time
P = []
V = []
Vin = []
def Compute_wn_win(n,V,Vin):
for i in range (0,n):
V.append(complex(math.cos(2*math.pi*i/n),math.sin(2*math.pi*i/n)))
Vin.append(1/(complex(math.cos(2*math.pi*i/n),math.sin(2*math.pi*i/n))))
Compute_
浏览 0提问于2018-10-24得票数 0
回答已采纳
我刚开始尝试JS/CSS，我遇到了这个问题，我在论坛上找不到答案。
我想知道怎样才能摆脱窗户中间的白线(附图)。它并不总是出现在特定的烫伤部位。
非常感谢
<html>
<head>
<style>
body {
margin: 0;
padding: 0;
}
.d {
position: fixed;
margin: 0;
padding: 0;
border: 0px;
background-color: #A1F
浏览 2提问于2018-02-23得票数 4
回答已采纳
def isArmstrongNumber(n):
a = []
t = n
while t > 0:
a.append(t % 10)
t /= 10
l = len(a)
return sum([x ** l for x in a]) == n
for x in range(100,1000):
if isArmstrongNumber(x):
print(x)
这是一个关于ArmstrongNumber的问题，当我F5这段代码时，它是显示溢出错误：==================
浏览 2提问于2017-03-06得票数 0
1回答
关于不同计算机体系结构之间的数据传输，我有一个问题。在本过程中，当转换整数、浮点数和字符类型数据时，会出现什么样的问题？请你提供这些具体类型的简要信息。
我搜索了它，但找不到任何必要的信息。任何信息都会被接收。提前谢谢。
浏览 3提问于2012-07-02得票数 2
我在网页中遇到的一个常见问题是，div标签在容器外爬行，如代码片段所示。
#wrapper {
border: 1px solid red;
}
#wrapper div {
float: left;
font-size: 3em;
}
<div id="wrapper">
<div>Hello World</div>
</div>
有很多肮脏的方法来解决这个问题(例如，用div插入clear:both)
但是，我看到的一个更简洁的解决方案是将包装器div设置为overflow设置为hidden。
#
浏览 5提问于2012-02-08得票数 30
回答已采纳
1回答
主线程中的：我通过getImageData方法得到源图像数组。这是一个uint8ClampedArray来记录我的图像数据。
这是我在worker中的代码：(这段代码会给我一个高分辨率的图像，但是操作的结果太大了)
self.addEventListener('message', function(e){
var scale = e.data['scale'], cvWidth = e.data['width'], cvHeight = e.data['height'], sBufferData = e.data[
浏览 3提问于2014-04-11得票数 1
回答已采纳
在这种情况下，我将一个双变量转换为整数。这给了我错误的结果。为什么会发生这种情况？
>>> $amount = (double) 1052.10
=> 1052.1
>>> $amount = $amount * 100;
=> 105210.0
>>> (int) $amount;
=> 105209 // weird
我能够通过先舍入变量(即：(int) round($amount))来修复它，
但我还是想知道为什么会发生这种事？
使用PHP7.2.9
浏览 1提问于2018-10-13得票数 0
提前谢谢你的回答！我编写了一个程序，在我看来可能是正确的，但是编译器中出现了一个错误(关于strcmp的第一行)：
错误类型:元素大小为4字节，但字符串大小为8字节。
float total_weight_kg(Array weight_array) { // todo: modify header (parameters, parameter types, return type)
float sum = 0;
for (int i = 0; i < a_length(weight_array); i+=2)
{
if( strcmp(get(String, w
浏览 1提问于2016-11-30得票数 0
我用Python编写代码来模拟一个猜谜游戏，在这个游戏中，一个人在一定范围内随机选择一个数字，而另一个人则必须猜测它。第一个人会告诉第二个人他们的猜测是太高还是太低。我试图找出随机挑选的数字的某些上限所需的平均猜测次数(我保持下限一致为1)。我为第二个玩家设置了两个要使用的“策略”：一个是他们在之前的猜测设置的上下界之间挑选随机数，另一个是他们总是猜测这两个界的平均值。 我最初没有在随机猜测上添加round()函数，但我认为可以通过添加它来解决这个问题。我还将我的计算机设置为输出猜测和实际数字之间的差值，以查看哪里出了问题。 while right==0:
#the two meth
浏览 12提问于2019-04-06得票数 1
1回答
这种行为是不是可能的： ? 结构： <div class="col">
text…
<div class="image two-col-width"></div>
</div>
<div class="col">
text…
<div class="image"></div>
<div class="image two-col-width"></div>
</div>
浏览 9提问于2019-02-08得票数 1
我在这里查看了一些关于我遇到的相同问题的主题，但它们似乎没有帮助。
我的问题是，当我尝试执行以下代码时，我在标题中发现了错误。我该如何解决这个问题呢？
d=2
while(n != 1):
n = 2
d = (math.sqrt(2 + d))
n= (n/d)
f = (f * (n))
print (f)
浏览 1提问于2014-03-09得票数 0
3回答
Javascript不能使用10100401822940525，它就像windows中的'conn‘文件夹。为什么js会因为这个数字而失败？
您可以查看示例，
浏览 2提问于2012-05-25得票数 2
回答已采纳
2回答
这是我的表格：
<input type="text" class="form-control amount" value="" placeholder="amount" />
<input type="hidden" class="price" value="3.30" />
<input type="text" class="form-control total" value="" disabled /&
浏览 2提问于2021-09-11得票数 0
回答已采纳
当我尝试使用按钮大小的混合版的引导带4(版本4.3.1)时，我遇到了一个错误
这是我试图包含的混音代码(摘自'\node_modules\bootstrap\scss\mixins\_buttons.scss')：)
@mixin button-size($padding-y, $padding-x, $font-size, $line-height, $border-radius) {
padding: $padding-y $padding-x;
@include font-size($font-size);
line-height: $line-height;
浏览 4提问于2020-06-12得票数 0
1回答
我想在Python3中计算一个非常大的数的立方根。
我尝试了下面的函数，以及Python语法x ** (1 / n)，但它们都产生了一个错误：
OverflowError: (34, 'Numerical result out of range')
我真的需要计算立方根来解决密码学中的一个问题。除了数学，我不能使用任何模块。
二进制搜索：
def find_invpow(x,n):
"""Finds the integer component of the n'th root of x,
an integer such that
浏览 11提问于2019-03-31得票数 5
回答已采纳
在使用python中的sys.getsizeof函数时，我有很多困惑。我想知道的是，对于浮点值，系统使用的是4个字节还是8个字节(即C语言中的单精度或双精度)。
我执行以下操作：
import sys
x = 0.0
sys.getsizeof(x) # Returns 24
type(x) # returns float
sys.getsizeof(float) # Returns 400.
我如何才能简单地找出浮点表示实际使用了多少字节。我知道它应该是8个字节，但是我如何验证这一点(类似于C++中的sizeof操作符)
浏览 2提问于2018-03-16得票数 12
回答已采纳
1回答
当我转换HTML5画布上下文并绘制椭圆时，随着转换变得更大，椭圆轮廓变得完全扭曲。下面是一些示例代码和我在Firefox和Chrome中看到的结果。
<body>
<canvas id="myCanvas" width=900 height=900></canvas>
<script>
var canvas = document.getElementById("myCanvas");
var ctx = canvas.getContext("2d");
浏览 19提问于2017-06-23得票数 0
回答已采纳
3回答
为什么SpriteKit使用浮点数来定位，即使不能以像素表示小数点？
我正在SpriteKit中构建一个游戏，我想知道我是否应该在in中设置角色位置来优化它，但不确定是否会有任何性能改进。
是否值得将字符位置转换为ints以进行优化？
浏览 4提问于2014-10-04得票数 2
回答已采纳
我在一个算法中使用了Sympy Rational，我得到了大量的派系。分子和分母最多可达10000位。
我想在分数变得无法计算时立即停止算法。所以问题是，我可以允许的sympy.Rational的最大震级是多少？
浏览 3提问于2016-12-09得票数 3
1回答
问题很简单，为什么：
>>> (2**32-1)**2 - 4.0**2 - (2**32-1)**2
0.0
>>> (2**32-1)**2 - (2**32-1)**2 - 4.0**2
-16.0
我知道一定是关于浮点舍入错误，但我需要一个正式的解释，我们如何避免这样的错误？
P/s: Im使用python2.7.3，MacOSX，64位
浏览 3提问于2013-09-24得票数 3
回答已采纳
我刚开始学乳胶，我只想把三张桌子放在同一页上，一张放在另一张上面。我认为它的大小很好，唯一的问题是表被下一章的一些文本分开。有小费吗？
我的代码是这样的：
....
\newpage
\begin{table}
\centering
\caption{Table 1}
\begin{tabular}{|l|l|l|l|l|l|}
\hline
% table 1
\end{tabular}
\end{table}
\begin{table}
\centering
\caption{Table 2}
\begin{tabular}{|l|l|l|l|l|l|}
\hline
% table
浏览 9提问于2019-09-20得票数 1
回答已采纳
使用php，此代码echo sprintf('%.9F',pow(3,47));输出26588814358957501972480.000000000。
就像其他网站一样，给了3^47 = 26588814358957503287787。PHP有什么错误吗？如何解决这个问题？
顺便说一句，我想知道使用pow、sprintf、fmod计算的最大位数php是多少。是300位数吗？
浏览 1提问于2013-08-06得票数 1
回答已采纳
我使用OpenGL 3.3和GLFW。问题是GL_LINE_STRIP和GL_LINE循环给出了相同的结果。
以下是二维坐标的数组：
GLfloat vertices[] =
{
0, 0,
1, 1,
1, 2,
2, 2,
3, 1,
};
属性指针：
// Position attribute 2D
glVertexAttribPointer(0, 2, GL_FLOAT, GL_FALSE, 2 * sizeof(GLfloat), (GLvoid*)0);
glEnableVertexAttribAr
浏览 0提问于2014-12-09得票数 1
回答已采纳
<Keyboard
android:keyWidth="%10p"
android:keyHeight="50px"
android:horizontalGap="2px"
android:verticalGap="2px">
%10p是什么意思？我在文档或谷歌上找不到它。我猜是键盘宽度的10%吧？
浏览 4提问于2014-09-15得票数 1
2回答
我正在编写一组充当接口的纯虚拟类。其思想是，实现这些接口的代码可以使用不同的构建配置、编译器，甚至是不同的STL实现来构建，以便通过这样的接口使用这样的对象。
像uint32_t这样的普通老数据已经标准化，double和float也是标准化的。(bool不是，因为标准没有说明它的大小。)
std::size_t属于哪一类？这纯粹是机器架构的一个功能吗？例如，在32位机器上，sizeof(std::size_t)是否不是4？
浏览 3提问于2014-09-15得票数 1
回答已采纳
我正在努力理解超级动力SDK，但是对于安卓和C++，以及音频信号来说，都是全新的。这里有一个频域例子：
在我的Nexus 5X上跑。在FrequencyDomain.cpp文件中：
static SuperpoweredFrequencyDomain *frequencyDomain;
static float *magnitudeLeft, *magnitudeRight, *phaseLeft, *phaseRight, *fifoOutput, *inputBufferFloat;
static int fifoOutputFirstSample, fifoOutputLastSampl
浏览 0提问于2017-03-19得票数 2
回答已采纳
4回答
在Node.js中，是否存在像Number.MAX_SAFE_INTEGER这样的最大安全浮点数
我做了一个小实验来找出我可以用来从其中减去0.13的(近似)数字：
console.log(Math.floor(Number.MAX_SAFE_INTEGER)); // 9007199254740991
console.log(Math.floor(Number.MAX_SAFE_INTEGER)-0.13); // 9007199254740991
console.log(Math.floor(Number.MAX_SAFE_INTEGER/2)); // 4503599627370
浏览 0提问于2017-08-29得票数 8
简化的示例。
当我通过number_format运行一个大的十进制数(以更改小数/逗号类型)时，我遇到了浮点错误。
<?php
$number = " 0.83333333333333333333333333333333333333";
echo number_format($number,40,'!','y'); // result: 0!83333333333333337034076748750521801412
?>
有没有一种简单的方法来设置它，这样php就可以精确到更高的小数点？
浏览 0提问于2020-04-26得票数 0
1回答
它实际上是取颜色向量而不是顶点向量。我之所以注意到，是因为我将颜色设置为随机()，当我重新加载程序时，三角形集群模糊--也就是我的立方体--一直在改变形状。
我正在更新代码以符合OpenGL3 3/4标准，并使用PyGLM而不是numpy。不幸的是，我的指点似乎被VAO弄得乱七八糟。
我检查了我的观点、观点和模型，它们似乎都是正确的。我也试过把它们转过来，但没有用。这是VBO：
vector color (random)
[[-0.25 -0.25 0.25 0.4582803 0.
浏览 0提问于2019-07-11得票数 1
回答已采纳
给定以下结构
typedef struct
{
float3 position;
float8 position1;
} MyStruct;
我创建了一个缓冲区，将其作为指向内核的指针传递，缓冲区将采用以前的缓冲区格式。
我知道在写入三个浮点数之后，我必须在缓冲区中添加4个字节，以获得下一个2的幂(16个字节)，但我不明白为什么在写入position1的字节之前，我必须额外添加16个字节。否则我会在position1中得到错误的值。
有人能给我解释一下原因吗？
浏览 2提问于2012-01-25得票数 3
回答已采纳
我试着寻找这个问题的答案，但没有结果。我想要做的是数一下以弧度表示的用户提供的0到0之间的cos(x)的0。我是c++的新手，所以如果这是微不足道的，那么就温柔点。
这是我的代码的摘录(也请注意，我不太确定#import和#include之间的区别，但我偏离了)。
#define _USE_MATH_DEFINES
#import <iostream>
#import <algorithm>
#include <math.h>
#include <stdio.h>
int count = 0;
if (r > 0) {
for (
浏览 1提问于2016-02-12得票数 1
回答已采纳
我正在输出一个CSV的浮动使用一个ofstream。99%的浮标的精度为小数点1-2位，所以简单地使用fileOut.precision(3)就足以保证正确的精度。
浮点数不时会有一个极低的值，因此将用科学的表示法(又名1e-007 )输出。在这种情况下，理想情况下我希望使用0。
这里的许多答案都建议使用类似于fileOut.setf(std::ios::fixed, std::ios::floatfield);的东西来防止这种情况，但是这使得每个字段输出都成为0.000，而不管它是否需要那么多数字。
我想要的是，所有的浮标行为正常，而不是显示科学符号。
是否存在这样的操作，或者我是否需要创建
浏览 0提问于2012-06-20得票数 2
如何在双/浮点数中计算点后的数字长度？
没有std::string。
所以1234.5678点后面的长度是4。
在这种情况下，你应该如何正确地使用epsilon呢？
我有这样的东西，一个版本带有epsilon，另一个没有，都没有完全工作。
// Version 1.
template <typename T> inline constexpr
unsigned int get_length(T x, const bool& include_dot = false) {
unsigned int len = 0;
x = abs(x);
auto c
浏览 5提问于2022-08-02得票数 1
我之前在编译时遇到了错误，但在处理它们之后，没有得到任何错误/警告。尽管给出的结果是NaN。
下面是代码：
C：
iclude <stdio.h>
extern float wynik1 (int a, int b, int c);
extern float wynik2 (int a, int b, int c);
int a = 2;
int b = 2;
int c = 2;
int main ()
{
float licz1 = 0;
float licz2 = 0;
licz1 = wynik1(a, b, c);
licz2 = wynik2(a, b, c)
浏览 0提问于2013-04-20得票数 0
回答已采纳
1回答
假设我有一个传感器恢复测量数据(例如，每秒6 x 50个值)。每个值都是单精度浮点数范围内的小数。我需要将这些数据写入一个文件，然后由另一个应用程序读取该文件以进行其他操作。格式化/编码文件的最有效方法是什么？
起初，我认为CSV是为了简单起见，但是使用科学记数法会导致每个十进制数的长度为9个字节或更多(例如-4,97E-03)。在大量传感器上长时间保留数据的情况下，这可能是存储限制的问题，也是因为这些数据具有高熵，因此压缩没有太大帮助。
因此，我认为将小数保存为浮点数(4字节)将节省大量数据，但我不知道哪些格式提供了定义良好的结构来存储浮点表。有没有类似逗号分隔值的东西，其中的值是IEEE7
浏览 2提问于2021-01-30得票数 1
为什么会发生在我身上？？我在python和chrome的JS控制台中乘以相同的数字，但似乎JS忘记了如何计算。
浏览 2提问于2014-01-02得票数 1
回答已采纳
1回答
我尝试使用着色器中的索引来访问DataTexture的纹理元素中的值。索引[0, 1, 2, 3, 4, 5, 6... 62, 63]是连续的，而数据纹理的高度和宽度(uTextureDimension)为8。经过一些研究后，我编写了这个函数来获取特定的索引值，并引用相应的纹理元素：
vec2 customUV = vec2( mod(aIndex, uTextureDimension) / uTextureDimension, floor(aIndex / uTextureDimension) / uTextureDimension );
vec4 texelValues = textur
浏览 1提问于2017-02-04得票数 0
回答已采纳
我正在尝试获取距离某个位置不到20公里的最近的Parse对象。
var testPoint = new Parse.GeoPoint({latitude: fromLatLng.lat, longitude: fromLatLng.lng});
var BKcity = Parse.Object.extend("BKcity");
var cityQuery = new Parse.Query(BKcity);
//Throws mongo error
cityQuery.withinKilometers("location", testPo
浏览 2提问于2016-08-08得票数 0
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
实时音视频
对象存储
即时通信 IM活动推荐
腾讯云开发者
