在 C++ 中安全地重新缩放和向下转换浮点数

Question

我正在尝试对浮点数 R 进行分类，我想以无符号 8 位整数格式获取其权重 wt：

float R;
float edgeVal = rintf(R); // round to the nearest edge
float dR = R - edgeVal + 0.5f; // distance to the edge with a half-pixel offset
unsigned char wt = static_cast<unsigned char>( dR*256.f )); // allowed range [0; 255]

在 dR == 0.f 区间的边缘，我们将得到 wt=0，但在 dR == 1.f 的另一边缘，我们将得到 wt = 256，这将换行大约为 0，而在这种情况下我们真的想得到 wt = 255。实现它的正确代码是什么？

下面是变量范围的 2 位示例：

wt = |0|1|2|3|
     ^       ^
     |       |
dR = 0       1

Answer 1

如果只有 1.0f 的确切值是问题所在，您可能首先要避免为 dR 获取此值。我建议对您的逻辑进行微小的更改，将 rintf 替换为 floor，其行为在所有情况下都很容易预测，不受任何外部因素影响：

float Radj = R + 0.5f;
float edgeVal = floor(R); // now Radj - 1 < edgeVal <= Radj
float dR = Radj - edgeVal; // 0 <= dR < 1

现原

static_cast<unsigned char>( dR*256.f ));

永远不会溢出到 0。

几个测试值，原代码给出

R       edgeVal dR  wt
0       0       0.5     128
0.25    0       0.75    192
0.5     0       1       0
0.75    1       0.25    64
1       1       0.5     128
1.25    1       0.75    192
1.5     2       0       0
1.75    2       0.25    64
2       2       0.5     128

while with floor edgeVal 和 wt 的值是一致的（以调整前者为代价）：

R       edgeVal dR  wt
0       0       0.5     128
0.25    0       0.75    192
0.5     1       0       0       // note the change here
0.75    1       0.25    64
1       1       0.5     128
1.25    1       0.75    192
1.5     2       0       0
1.75    2       0.25    64
2       2       0.5     128

在 C++ 中安全地重新缩放和向下转换浮点数

Rescaling and downcasting a float safely in C++

c++

downcast