我在F#中有这样的代码
let fun a b=
let mutable x1=float 0
<some stuff>
x1r<- -a/b
let main argv
let a=Int32.Parse(Console.ReadLine())
let b=Int32.Parse(Console.ReadLine())
fun a b
我在将-a/b转换为浮点型时遇到了问题。我尝试了老式的1.0f，以及一些其他的技巧，但都不起作用。有没有办法这样转换它，或者我必须用另一种方式写它？
浏览 0提问于2018-06-10得票数 3
2回答
我想让我的变量i有这些分数的值，依赖于一个随机数。但是，当我打印输出i时，它显示1.0。为什么会这样?我该如何解决这个问题？
public class Musik{
public static void main(String[] args){
Interval();
System.out.println(Interval());
}
public static double Interval(){
int a = (int)(Math.random() * 5);
System.out.println(a);
double i = 0;
浏览 2提问于2019-12-25得票数 0
3回答
我尝试以0.0小时为单位显示时间。所以我想用分钟除以60来得到一个.xx
这就是我所拥有的，但之后我什么也得不到。即使输入的分钟数不均匀...
double hoursLeftMins = hoursRemaining + (minsRemaining/60);
recommendTime.setText(Double.toString(hoursLeftMins));
浏览 0提问于2013-02-06得票数 0
我使用的是Sybase ASE 15。在下面的SQL中，有一个截断错误，但只有在两个数字的除法后面跟着一个减法。
declare @P1 decimal (30,16)
declare @P2 decimal (30,16)
select @P1 = 0.0000504412630951 --sixteen decimal places
select @P2 = 0.0000512178647912
select 'This succeeds:'
select @P1, @P2, (@P1 / @P2) -
浏览 2提问于2014-05-30得票数 3
我试图在hive中将bigint转换为decimal(18,5)，但在转换为decimal(18,5)后没有得到任何小数值。 让我们看看下面的bigint值 99000
999000
499000
350000
344000000 在强制转换为decimal(18,5)之后，我期望得到如下所示的结果 0.99000
9.99000
4.99000
3.50000
3440.00000 我正在尝试下面的查询。 select col_a, cast(col_a as decimal(18,5)) from table; 从上面的查询中，我得到了与输入相同的输出 99000
999000
4990
浏览 71提问于2019-12-18得票数 0
select 10/2
输出:5
Select 2/10
输出:0
Select Convert(numeric(2,2),2/10)
输出: 0.00
Select 10*(Convert(numeric(2,2),2/10))
输出: 0.00
Select 10*(2/10)
输出:0
为什么输出有缺陷？
算术函数(除法)工作了吗？
浏览 0提问于2015-08-24得票数 0
每次我运行它都会向下舍入num13，这不是我想要的。我想把它四舍五入到小数点后两位。如何将其四舍五入到小数点后两位，这样如果我输入正确的答案，例如10 / 4 == 2.50，那么if (num12 == num13)将计算为true？现在num13的计算结果是2，而不是预期的2.5。
Random NumberGen = new Random();
start6:
int num10 = NumberGen.Next(1, 11);
int num11 = NumberGen.Next(1, 11);
start5:
if (num10 > num11)
浏览 0提问于2016-10-20得票数 0
我通过取消强制转换function.It得到了错误的结果，应该是简单的，但我不能理解。需要帮助。
SELECT PRCo, Employee, LastName, FirstName, MidName, SortName, SSN, HireDate, DATEDIFF(month, HireDate, GETDATE()) / 12 AS Years,
CAST((80/2080) as decimal(10, 5))
FROM AAAA
80/2080列应为0.038470，但它显示所有记录的0.00000
浏览 2提问于2013-07-16得票数 0
2回答
我试图在label中显示进程所花费的时间。所以我实现了watch。
现在假设这个过程花了7毫秒，我想在几秒钟内显示它，所以我写了7/1000，它应该是0.007，但它显示的是0。
我将其显示为标签，所以如果任何字符串转换可以显示此格式，请建议我。
浏览 0提问于2016-10-19得票数 1
2回答
由于某种原因，每当我尝试运行这段代码时，speed仍然是0，它将i计数到x，然后speed突然变成了1.0。speed应该是x的小数，这取决于for循环运行了多少次。我不明白为什么会发生这样的事情，如果能澄清一下，我会非常感激。
double speed;
int x = 200;
for(int i = 0; i <= x; i++){
speed = i/x;
System.out.println("Speed- " + speed);
System.out.println("Ticks- " + i);
}
浏览 0提问于2014-02-21得票数 0
2回答
给定两个双精度数，我需要计算百分比，并将其表示为最多两位小数。这样做最有效的方法是什么？
例如
x = 10.2476
y = 100
我会返回10.25。
在运行时速度方面非常有效。它需要用两位小数表示x/y*100。
浏览 1提问于2014-02-21得票数 0
我正在尝试用Java进行乘积计算，但是我似乎无法让它工作。我最初尝试使用WolframAlpha，但超过了处理时间。
公式是：Product (n/1220096908800), n=1..1220096908800
这是我尝试过的代码：
BigDecimal z = new BigDecimal("0");
BigDecimal n = new BigDecimal("1220096908800");
for (BigDecimal x = BigDecimal.valueOf(1); x.compareTo(n) < 0; x = x.add(Big
浏览 4提问于2017-02-28得票数 1
如果您在C#和VB.NET中创建新项目，则直接在“即时”窗口中键入以下内容：
? 567 / 1000
C#将返回0，而VB.NET将返回0.567。
要在C#中获得相同的结果，您需要键入
? 567 / 1000.0
为什么会有这样的差异呢？为什么C#需要1000之后的显式小数点？
浏览 0提问于2009-12-23得票数 22
回答已采纳
我正在尝试将值从8904000舍入到8900000，是否有任何可能的方法使用Math.round来更改此值。MS Excel中的示例
=round(8904000,-5);
ANS: 8900000
我尝试了下面的代码，但Math.round不接受第二个参数
Math.round(8904000,-5);
ANS: 8904000
简而言之，我想将这个数字四舍五入到最接近的100,000个数字
这样5300*56*30= 8904000就变成了8900000
浏览 0提问于2017-04-30得票数 3
3回答
有人能给我解释一下为什么当我运行我的程序时，我的平均值一直是0吗？我已经在这里列出了我的项目的整个代码，并且从来没有使用过数组。另外，这个数组的名称是mData吗？我试着在我的书中阅读，以确定在这些项目中要寻找什么，但一无所获。
public partial class frmMain : Form
{
private const int mSize = 20;
private int[] mData = new int[mSize];
private int mIndex = 0;
private static void Main()
{
浏览 2提问于2012-11-08得票数 0
回答已采纳
5回答
如果之前有人提到过这个问题，我很抱歉，我花了很长时间才找到这个问题。
我在计算折旧率。我们计算的一部分是以月为单位的1/寿命。我的表将此数据存储在decimal字段中。我尝试了test = 1 / estimatedLife;，但test (定义为decimal)的计算结果为0。
假设估计寿命是36个月。所以1/36应该等于0.02777778。
有没有想到我做错了什么？
顺便说一句，我把test改成了双精度，并得到了相同的结果。
浏览 0提问于2010-03-16得票数 1
回答已采纳
1回答
我已经编写了这个简单的函数，将双精度舍入为自定义步长。普通的.round()函数返回一个整数，并且只能四舍五入到最接近的1。我的函数返回一个双精度数，可以四舍五入到最近的100.0、5.0、1.0、0.1或0.2 3。
但当我放入特定的双倍数时，结果并不是真的有效，而是非常小的偏差。
我认为这与计算机如何进行浮动逗号计算有关，但我需要一个有效的方法来绕过它。
void main() {
stepround(61.337551616741315, 0.1); // this should be 61.3 but is 61.300000000000004
}
/// rounds a d
浏览 5提问于2021-01-10得票数 1
3回答
我知道浮点计算很可能是不准确的。例如：
var x = 100*0.333;
这里x被设置为33.300000000000004而不是33。这可能看起来是一个小问题，但如果涉及舍入，它就会变得很严重。例如，Math.ceil(x)将是不正确的-将生成34而不是33。
问题是，我被告知JS在整数和浮点数之间没有太大的区别。所以我开始担心是否有任何方法可以确保积分除法是正确的。
JS中通常的整数除法公式似乎是Math.floor(n/m)，其中n，m是整数。现在让我们假设m平均分配n。由于JS将每个数字视为浮点数，因此n/m将返回一个浮点数。如果这个浮点数不精确，但甚至比实际计算结果小一点点，那么
浏览 9提问于2015-08-27得票数 1
哇，这是真的！
我试图在PHP中找到一个值相对于Y轴的百分比。如果我们参考这个图表： (2009年甲型流感爆发)，假设我想找出图表上的值"256“的百分比是多少。
从视觉上看，这很容易:略高于1/3或33%。如果我们看一下1024的值，它大约是Y轴高度的50%。131072将是100%。
那么我如何用PHP计算这个值呢？
让我们看这张图，取X=0天，Y= 256天。作为Y的百分比，256是什么？
非常感谢任何人都可以计算这个婴儿:)
浏览 1提问于2010-11-16得票数 0
回答已采纳
4回答
我想把这两个数字分开，然后用余数得到答案。 select 13/5; 我得到了一个答案2。 我添加类型。 select 13::numeric/5::numeric; 我得到了一个答案2.6000000000000000。 但我只需要小数点后的一个数字。如何获取2.6
浏览 21提问于2019-10-04得票数 0
回答已采纳
变量c返回3，但10/7=1.4285，其余的是0.4285，运算符%有错误吗？
void main() {
var a = 10;
var b = 7;
var c;
c = a % b;
print(c);
}
浏览 1提问于2020-07-23得票数 1
我在delphi表单上有字符串网格，我试图将一个单元格的值与另一列中另一个单元格的值分开。
但问题是，字符串网格单元是用不同类型的数字填充的，所以我得到了ConvertErrors。例如，单元格中的数字可以看起来像0.37、34、0.0013、0.0013、0.35、30.65、45.9108、0.0307或6854.93。
换句话说，我永远不知道这些单元格中的类型会是实数，浮点数，整数还是其他类型。
我在网上到处都找过了，但没找到。有没有人有想法。顺便说一下，我并不完全是Delphi专家。谢谢。
浏览 3提问于2012-08-30得票数 0
我正在试着写一个程序，将教室里的男性总数与女性总数相加，然后除以得出两者的百分比。根据我现在的数据，它会计算出学生的总人数，但结果是0%？我应该怎么做才能解决这个问题？
主类：
public class MainClass {
public static void main(String[] args) {
TextHandler.textOne();
ScanHandler.scanOne();
ScanHandler.scanTwo();
TextHandler.textSix();
}
}
ScanHandler类：
i
浏览 30提问于2016-09-28得票数 0
5回答
ANSI C中的浮点转换
、、、
给定以下ANSI C代码，我想知道结果是什么：
main() {
int a = 19.4 / 9.7; // result = 2
float b = (int) 19.4 / (int) 9.7 // result = 2.000000, why?
float c = (int) 9.7; // result = 9
}
我知道C会去掉转换为int时的所有小数位，但如果我看到第二行，我的逻辑就有缺陷。如果小数位被删掉，结果一定是2.11111。
在ANSI中，浮点转换是如何完成的？
浏览 2提问于2010-11-17得票数 0
回答已采纳
4回答
如何除以数字和整数？
、、、、
我试图除以2个整数，但无论如何结果都是零。我应该使用float还是别的什么？我就是不能让它工作。我尝试过浮动，但我得到了奇怪的结果。下面是我的代码：
NSUInteger someNumber = 156;
NSUInteger points = 597;
NSUInteger otherNumber = 5;
NSUInteger difference = (someNumber - points);
NSLog(@"%d", difference);
NSUInteger divide = (difference / othe
浏览 0提问于2011-04-10得票数 3
回答已采纳
2回答
我在我的程序中遇到了一个问题，当我得到0.0的结果时
y = 1/6*Math.pow(x,3)+1/2*Math.pow(x,2)-1/3*x;
我试着把方程式写成块，这样我就可以在计算后将结果相加，但结果一直是0.0，我不知道为什么。这是一个语法错误，还是我在java中遗漏了什么规则？
浏览 1提问于2015-01-19得票数 0
#include<iostream>
using namespace std;
int main ()
{
double avr_apple;
int total_apple, category;
total_apple=13;
category=2;
avr_apple=total_apple/category;
cout<<"average apple is : "<<avr_apple<<endl;
return 0;
}
浏览 0提问于2020-07-20得票数 0
好吧，这太不可能了，我真的不知道该怎么问。我正在开发一个iPhone应用程序，有一次我需要使用NSOperation来完成一些后台任务。问题是，即使是最简单的浮点数计算，它也会在点之后被修剪(例如1/2= 1.0)。最初我认为这是一个并发问题，但后来我尝试了：
NSLog(@"%f", 1/2);
它记录了1.00000。这怎么可能呢？我肯定做错了什么！
有没有人有主意？
浏览 2提问于2011-02-25得票数 0
回答已采纳
3回答
为了创建一个Mandelbrot集，我一直试图在我的程序中使用8位和15位浮点变量，但遇到了一个问题：double近似于0。我尝试了单元测试，并编写了这段代码来隔离问题。使用变量查看器，h和w值都在0.0上，而不是0.00185185185185和0.0015625上，但是当我只编写double h = 0.0015625时，它就可以工作了。
非常感谢您的帮助。
int apparentwidth = 3;
int apparentheight = 2;
int height = 1080;
int width = 1920;
double w = (apparentwidth / widt
浏览 2提问于2014-01-31得票数 1
你认为这是一个bug，还是预期的行为？
考虑以下几点
1 * (2/(1+2))
equals 0
1 * ((double)2/(1+2))
equals 0.6667
浏览 1提问于2012-08-08得票数 0
回答已采纳
我有一个函数，它接受3个双精度值，没有一个来自数组，或者强制转换的整数，或者类似的，是在调用这个函数之前计算的3个双精度值。然后，该函数将返回一个双精度值，并执行...但其中一项被认为是整数，特别是(5/3) =1，我做的是用1.6667替换(5/3)，为什么会这样？有什么想法吗？代码如下：
private static double get_fa(double cc, double R, double fy)
{
double num, den, fa;
if (cc<=200)
{
if (R <= cc)
{
num = (1 - (M
浏览 1提问于2015-08-23得票数 2
总的来说，我是编程新手，但在过去的2-3个月里，我一直在使用Java，我决定在业余时间尝试一下C#，因为我听说它们很相似。这个程序的问题是，它只是一种将int转换为百分比的方法，它正确地接受了我的所有输入，但百分比总是显示为零！例如，有两个输入提示:一个输入提示要求您输入要转换的数字，另一个输入提示要求您输入该数字的值。在这两个提示后，程序正确地显示“您的百分比是：”，然后只写0，无论我使用什么数字作为输入，请帮助！
代码
using System;
using System.Collections.Generic;
using System.Linq;
using System.Text;
浏览 1提问于2012-01-12得票数 3
回答已采纳
在Ghci中查询div中缀运算符和/运算符的类型时，发现div的签名为(div) :: Integral a => a -> a -> a，而/的签名为(/) Fractional a => a -> a -> a。虽然它们完成了几乎相同的事情，但类型类Fractional和Integral之间的区别是什么
浏览 0提问于2016-05-31得票数 0
以下SPARQL查询在两个流行SDK (和)的SPARQL引擎上运行时会产生不同的结果：
PREFIX xsd:<http://www.w3.org/2001/XMLSchema#>
SELECT ?v1 ?v2 ?v3 ?v4 ?v5 ?v6
WHERE
{
BIND ( 1 / 3 as ?v1)
BIND ( xsd:float(1 / 3) as ?v2)
BIND ( xsd:float(1) / 3 as ?v3)
BIND
浏览 1提问于2012-07-19得票数 4
回答已采纳
int x = 73;
int y = 100;
double pct = x/y;
为什么我看到的是0而不是.73？
浏览 2提问于2009-11-24得票数 6
回答已采纳
1回答
一位教练正试图组建一支躲避球队。每个玩家都被分配了一个学生ID，如果一个玩家的ID除以其他玩家的ID，他们就会打架。所以沙发想要组建一个团队，这样就没有人在团队中打架了。给定数字N (ID从1到N)，找出沙发不能组成一支没有人打架的队伍的最小数字K。
input (N): 3
output (K): 2
例如，N= 3，
K= 3，{1,2,3} -->玩家1和2打架。
K= 2，{2,3} -->没有人打架。
input (N): 4
output (K): 2
N= 4，
K= 4，{1,2,3,4} ->多于一对玩家(1,2)，(1,3)等，打架。
K= 3，{
浏览 1提问于2015-02-06得票数 2
1回答
组合计算不正确
、、
我在维基百科上发现C(n，k) = (n-k+1)/k * C(n，k-1)。我自己做了证据，得到了它是正确的。然后我在我的函数中实现了它，这个函数应该使用递归来计算组合，而不会达到python中的内置限制。这很有效..直到我投入大量的资金。这是我的函数：
def choose(n, k):
if not k:
return 1
elif n < k:
return 0
else:
return int((((n - k + 1) / k)) * choose(n, (k - 1)))
如果你使用诸如choose
浏览 1提问于2018-09-24得票数 0
3回答
我正在用C#做一些自我教育，虽然我做了比这更复杂的项目，但我不知道问题出在哪里。
private void button4_Click(object sender, EventArgs e)
{
int headcount = 0;
int input = Global.inputcount;
for (int i = 0; i < Global.inputcount; i++)
{
if (Global.myTextFile[i] == "F")
浏览 0提问于2016-06-12得票数 4
所以我试着用我的拦网次数除以我的射门次数来计算我的平均封盖目标。我怎样才能阻止它舍入我的平均值？
计数器=已阻止的目标goalCounter =已得分的目标
avg.setOnClickListener(new View.OnClickListener() {
@Override
public void onClick(View v) {
// TODO Auto-generated method stub
BigDecimal avgCalc = new BigDecimal(counter/goalCounter);
tvD
浏览 0提问于2014-02-09得票数 0
2回答
双精度
、
我需要一些帮助，这是我所指的代码：
int myId;
my Id = 20113275l
int numLet;
numLet = 6;
double doubleResult;
doubleResult = 10000 + (80 + ((myId - 123456) / ((numLet + 20)*(numLet + 20)) ));
System.out.println("Expression 5: " + doubleResult);
根据我的计算器，答案应该是39650.7，但当我运行程序时，它会给我39650.0
有人能解释一下这是怎么回事吗
浏览 1提问于2015-10-04得票数 0
2回答
2 / 4 = 0; // it should be 0.5, but the result is 0
2 % 4 = 2 // its should be 0, cuz there are no remainders, but somehow the result is 2
为什么会有这样的结果，我做错了什么？
浏览 2提问于2014-10-16得票数 2
7回答
我已经编写了一个简单的Java程序，如下所示：
public class Test {
public static void main(String[] args) {
int i1 =2;
int i2=5;
double d = 3 + i1/i2 +2;
System.out.println(d);
}
}
因为变量d被声明为double，所以我期望这个程序的结果是5.4，但我得到的输出是5.0
请帮助我理解这一点。
浏览 3提问于2013-05-02得票数 5
回答已采纳
decimal类型是如何实现的？
更新
它是一个128位的值类型(16字节)1符号位96位(12字节)用于尾数8位用于尾数位(其中23位！)设置为0
谢谢!我将坚持使用64位的长度和我自己的隐含小数。
浏览 10提问于2010-07-21得票数 21
回答已采纳
5回答
我正在尝试写一些东西，让我的图像正确显示。我有两个数字"breedtePlaatje“和"hoogtePlaatje”。当我用值加载这两个变量时，我得到了"800“和"500”，我希望"verH“是(500 / 800) = 0,625。由于verH的值= 0..
代码如下：
int breedtePlaatje = Convert.ToInt32(imagefield.Width);
int hoogtePlaatje = Convert.ToInt32(imagefield.Height);
//Uitgaan van breedte plaatj
浏览 2提问于2010-03-08得票数 5
回答已采纳
4回答
我想将这两个int值相除，但除后我只得到一个值，它是0。以下是我的公式：
int RH=(A1/M1)*100(where A1=145 and M1=199)的RH值应该是72，但我的值是0，有人能帮我吗？
以下是我的代码：
int RvalueH,RvalueV,RvalueT;
if((M1!=-1 || M1>0) && (M2!=-1 || M2>0) && (M3>0 || M3!=-1))
{
int RH = (A1 / M1);
int RV = A2 / M2;
int RT = A3 / M3;
浏览 0提问于2015-07-10得票数 0
3回答
我正在努力理解这段代码的模数部分。 我试着只打印模数为0时的num，也就是说它是偶数。如果我将number设置为100，rate设置为1.5，我会得到结果。但是，如果我将rate值更改为.25 .5 .75以外的任何值，则不会得到任何返回。 这里有一个例子:如果我使用100作为数字，1.4作为速率，我应该得到7.14.21，等等，因为1.4会均匀地进入这些数字。但是，它不会输出。 最初的搜索告诉我，模数不适用于小数，但它适用于.5增量。 非常感谢您的任何意见。 def findnum(number, rate):
for num in range(pinumber):
浏览 52提问于2021-08-28得票数 0
回答已采纳
1回答
首先，这不是的重复问题，因为它已经没有回答这一部分。
当我搜索了许多资源后，我没有清楚地知道如何使用2的补码来执行有符号数除法，特别是在除数和/或被除数都为负的情况下。
我使用了数字基础中的有符号数除法部分:在第二章中，所有的例子和问题，甚至通过互联网资源，只解释了正数的除法，如下所述：
，但是，如果100/-25或-100/25或-100/-25遵循什么规则呢？
因此，任何人都可以给出一个简单的解释，例如，如何将14除以-7。
浏览 1提问于2015-10-28得票数 3
问题是:能被从1到20的所有数字整除的最小正数是多少？
我写了下面的程序，它给出了正确的输出，但它花了很长的时间来执行。
我可以做些什么来紧固我的程序？
public class ep5 {
public static void main(String[] args) {
int n=100,k=0;
boolean check=true;
while(check)
{
k=0;
n++;
for (int i=2;i<21;i++)
if(n%i!=0)
浏览 0提问于2014-07-20得票数 3
云服务器
ICP备案
对象存储
即时通信 IM
实时音视频
腾讯云开发者
