如何解决 java 中可能出现的精度损失错误
How to get around a Possible Loss of Precision Error in java
我正在研究一个缩放系统,将数字放大 25% 并四舍五入到最接近的整数,为此,我试图通过将 double 转换为 int 来依赖精度损失。有什么办法可以解决这个问题吗?还是我应该换一种方式?
public int[] scaleMarks(int[] marks)
{
double scale = 1.25;
double temp1;
int temp2;
for(int i = 0; i < marks.length; i++)
{
temp1 = marks[i] * scale;
temp2 = marks[i] * scale; //***Loss of precision here***
if(temp1-temp2>= 0.5)
{
temp2++;
}
marks[i] = temp2;
}
return marks;
}
您需要用 Math.round
舍入产品,以便它可以安全地转换为 int
。
marks[i] = (int) Math.round(marks[i] * scale);
如果你想要舍入到最近而不是截断,你需要使用Math.round。
public class Test {
public static void main(String[] args) {
System.out.println((int)0.999999);
System.out.println(Math.round(0.999999));
}
}
产出
0
1
你可以使用Math.round函数来避免它:
(int)Math.round(marks[i] * scale);
编辑: 您必须将其转换为 int
因为如果您不这样做,结果将是错误的(因为 scale
它是double
).
希望对您有所帮助!
我正在研究一个缩放系统,将数字放大 25% 并四舍五入到最接近的整数,为此,我试图通过将 double 转换为 int 来依赖精度损失。有什么办法可以解决这个问题吗?还是我应该换一种方式?
public int[] scaleMarks(int[] marks)
{
double scale = 1.25;
double temp1;
int temp2;
for(int i = 0; i < marks.length; i++)
{
temp1 = marks[i] * scale;
temp2 = marks[i] * scale; //***Loss of precision here***
if(temp1-temp2>= 0.5)
{
temp2++;
}
marks[i] = temp2;
}
return marks;
}
您需要用 Math.round
舍入产品,以便它可以安全地转换为 int
。
marks[i] = (int) Math.round(marks[i] * scale);
如果你想要舍入到最近而不是截断,你需要使用Math.round。
public class Test {
public static void main(String[] args) {
System.out.println((int)0.999999);
System.out.println(Math.round(0.999999));
}
}
产出
0
1
你可以使用Math.round函数来避免它:
(int)Math.round(marks[i] * scale);
编辑: 您必须将其转换为 int
因为如果您不这样做,结果将是错误的(因为 scale
它是double
).
希望对您有所帮助!