将 Unity texture2d 转换为 ffmpeg 的 YUV420P

Question

我正在尝试使用 FFmpeg 在 Unity 播放器中创建录像机。

我有下一个代码片段：

Unity，C#：

Texture2D frameTexture = new Texture2D(frameWidth, frameHeight, TextureFormat.RGB24, false);
//...
frameTexture.ReadPixels(new Rect(0, 0, frameWidth, frameHeight), 0, 0, false);
frameTexture.Apply();
//.....
byte[] pixels = frameTexture.GetRawTextureData();
AddFrame(pixels, pixels.Length, libApi);


//DLL Function Declaration
[DllImport("VideoCapture", CallingConvention = CallingConvention.Cdecl)]
static extern void AddFrame(byte[] data, int size, System.IntPtr api);

C++代码：

__declspec(dllexport) void AddFrame(uint8_t *data, int size, VideoCapture *vc) {
    vc->AddFrame(data, size);
}

void VideoCapture::AddFrame(uint8_t *data, int size) {
    Log("\nAdding frame\n");

    int err;
    if (!videoFrame) {
        Log("Allocating Video Frame\n");

        videoFrame = av_frame_alloc();
        videoFrame->format = AV_PIX_FMT_YUV420P;
        videoFrame->width = cctx->width;
        videoFrame->height = cctx->height;

        if ((err = av_frame_get_buffer(videoFrame, 32)) < 0) {
            Debug("Failed to allocate picture", err);
            return;
        }
    }

    if (!swsCtx) {
        Log("Creating SWS context\n");
        swsCtx = sws_getContext(cctx->width, cctx->height, AV_PIX_FMT_RGB24, cctx->width, cctx->height, AV_PIX_FMT_YUV420P, 0, 0, 0, 0);
    }

    uint8_t * inData[1] = { data };
    int inLinesize[1] = { 3 * cctx->width };

    Log("Scaling data\n");
    // From RGB to YUV
    if ((err = sws_scale(swsCtx, inData, inLinesize, 0, cctx->height, videoFrame->data, videoFrame->linesize)) < 0) {
        Debug("Failed to scale img", err);
        return;
    }
    ...........

Unity 播放器在执行 "sws_scale" 时崩溃。

来自 Unity 的日志：

  ERROR: SymGetSymFromAddr64, GetLastError: 'Attempt to access invalid address.' (Address: 00007FF8437B49A6)
0x00007FF8437B49A6 (swscale-4) 
  ERROR: SymGetSymFromAddr64, GetLastError: 'Attempt to access invalid address.' (Address: 00007FF8437B2982)
0x00007FF8437B2982 (swscale-4) 
0x00007FF8437E78A6 (swscale-4) sws_get_class
0x00007FF8437E8E47 (swscale-4) sws_scale

我以为是因为'sws_get_class'，但如果我直接调用这个函数就可以了。如果我将空数据传递给 'sws_scale'，它也可以工作，只是抱怨它是 NULL。所以，原因在于数据本身，但我不知道它有什么问题。

我也尝试过将纹理编码为 JPG 和 PNG，将数组固定到内存中，但结果没有改变。

提前致谢

UPD:::

将 DLL 函数调用更改为

unsafe void AddFrame(byte[] data)
{
    fixed (byte* p = data)
    {
        AddFrame((IntPtr)p, data.Length, customLib);
    }
}
//Function declaration
static extern void AddFrame(IntPtr data, int size, System.IntPtr api);

但错误仍然存在。

Answer 1

sws_scale 失败的原因是为 sws_getContext 和 sws_scale 传递了不正确的源高度和宽度。您应该将维度传递给 Unity 中的方法或硬核值。

还有sws_scale returns输出切片的高度，不是错误。

将 Unity texture2d 转换为 ffmpeg 的 YUV420P

Converting Unity texture2d to YUV420P for ffmpeg

c#

c++

unity3d

ffmpeg

texture2d