金属片段着色器——颜色值是否已经量化为 8 位？

Question

我正在尝试在我的 Metal 片段着色器中实现一些简单的抖动，以消除渐变中的条带。它不起作用，我想知道这是否只是一个错误，或者传递给着色器的颜色值是否已经量化（如果这是正确的词）到 8 位。换句话说，片段着色器处理浮点值，但那些已经处于 8 位 rgb space?

强加的离散级别

这是我的着色器和我用于抖动的矩阵。我基于这两个 articles/posts:

OpenGL gradient "banding" artifacts

http://www.anisopteragames.com/how-to-fix-color-banding-with-dithering/

var dither_pattern:[UInt8] = 
   [0, 32,  8, 40,  2, 34, 10, 42,   /* 8x8 Bayer ordered dithering  */
    48, 16, 56, 24, 50, 18, 58, 26,  /* pattern.  Each input pixel   */
    12, 44,  4, 36, 14, 46,  6, 38,  /* is scaled to the 0..63 range */
    60, 28, 52, 20, 62, 30, 54, 22,  /* before looking in this table */
    3, 35, 11, 43,  1, 33,  9, 41,   /* to determine the action.     */
    51, 19, 59, 27, 49, 17, 57, 25,
    15, 47,  7, 39, 13, 45,  5, 37,
    63, 31, 55, 23, 61, 29, 53, 21]

// this array is passed to the frag shader via a MTLBuffer

fragment float4 window_gradient_fragment(WindowGradientVertexOut interpolated [[stage_in]],
   const device unsigned char* pattern [[ buffer(0) ]]) {

    int x = (int)interpolated.position.x % 8;
    int y = (int)interpolated.position.y % 8;
    int val = pattern[x+y*8];

    float bayer = 255.0 * (float)val / 64.0;
    const float rgbByteMax = 255.0;
    float4 rgba = rgbByteMax*interpolated.color;
    float4 head = floor(rgba);
    float4 tail = rgba-head;
    float4 color = head+step(bayer,tail);

    return color/255.0;
}

我通过将矩阵更改为一系列交替的 0,63 对来对此进行测试，并且靠近它确实每隔一个像素产生微弱的垂直条纹。但据我所知，整体条带保持不变。这让我想到当它到达片段着色器时，条带已经 "built-in" 了。所以对它应用抖动并没有多大帮助，因为损坏已经造成。我希望那不是真的……我天真的假设因为颜色是浮点数，所以它们将具有完整的浮点精度并且转换为 8 位将在片段着色器之后发生。

Answer 1

你的逻辑好像不对。 tail 通过构造位于 [0.0,1.0) 中。 bayer在[0.0,255.0)，或多或少。 step() 正在比较两者。对于所有 val >= 1 的值，bayer >= 3.98，因此大于 tail。所以，不是很"dithery"；只有 val 的 0 将颜色向下舍入，所有其他向上舍入。

我想你只是想在计算 bayer 时不乘以 255.0。

金属片段着色器——颜色值是否已经量化为 8 位？

Metal fragment shader -- are the color values already quantized to 8 bits?

dithering

fragment-shader

metal