Modulo C# 未产生预期值
Modulo C# is not producing expected value
我尝试检查 2 个 double 是否可整除,因此我可以得出给定点是否在某个网格上的结论。我使用 % 运算符,但我似乎做错了什么,因为输出不是我所期望的。
在这个例子中,我尝试用 5 除以 0.2,结果应该是 25.0,但是模运算符没有向我显示这个。如图所示;
double LUpDown.Value = 20
double nUpDown.Value = 100
double stepx = LUpDown.Value / double nUpDown.Value = 0.2
double xvalp = 5
然后当我计算 % 运算符时出现问题;
xvalp % stepx = 0.1999999999..... ??
我希望得到 0,因为 5/0.2 = 25.0
你能试试用 decimal
代替 double
吗?
我尝试检查 2 个 double 是否可整除,因此我可以得出给定点是否在某个网格上的结论。我使用 % 运算符,但我似乎做错了什么,因为输出不是我所期望的。
在这个例子中,我尝试用 5 除以 0.2,结果应该是 25.0,但是模运算符没有向我显示这个。如图所示;
double LUpDown.Value = 20
double nUpDown.Value = 100
double stepx = LUpDown.Value / double nUpDown.Value = 0.2
double xvalp = 5
然后当我计算 % 运算符时出现问题;
xvalp % stepx = 0.1999999999..... ??
我希望得到 0,因为 5/0.2 = 25.0
你能试试用 decimal
代替 double
吗?