javaCV Android，流式传输到 rtmp 服务器时叠加层出现奇怪的颜色

Question

我想从 android 直播到 facebook。我能够调整现有示例以流式传输到 FB。

第一步或多或少是可行的（音频仍然是一个问题，但不在她的范围内）。我可以流到FB。

我现在想用透明的 png 图像覆盖流。

我在启动时创建了一个 FFmpegFrameFilter：

try{
    filter = new FFmpegFrameFilter("movie="+path+"/image.png [logo];[in][logo]overlay=0:0:format=rgb [out]",imageWidth, imageHeight);
    filter.start();
}catch (FrameFilter.Exception e){
    Log.e(CLASS_LABEL,"Error while starting filter: "+e.getMessage());
    e.printStackTrace();
}

并且在每一帧上我执行以下操作：

filter.push(yuvImage);

Frame frame;
while ((frame = filter.pull()) != null) {
    recorder.record(frame,avutil.AV_PIX_FMT_NV21);
}

问题是我不知道应该使用哪种像素格式。我的叠加图像具有 rgb 颜色 (https://postimg.org/image/f1ri3vj43/)

使用上面的像素格式，我得到这样的结果：https://postimg.org/image/45ha64q9z/

我很沮丧，因为我已经尝试过很多像素格式。都有不同的输出，有时徽标会出现多次。

有没有办法找出我应该从 avutil.java 种可能性中选择哪一种？

编辑：您可以在 https://github.com/y4nnick/android_streaming/blob/master/app/src/main/java/com/example/yannick/olay1/RecordActivity.java

上找到完整代码

编辑：我已经尝试过以下格式：

// AV_PIX_FMT_ARGB --> 4 at once, all black/white
// AV_PIX_FMT_0RGB --> 4 at once, all black/white
// AV_PIX_FMT_BGR8 --> 1 a bit to big, strange colors
// AV_PIX_FMT_BGR4_BYTE --> 1 a bit to big, stranger blue tint
// AV_PIX_FMT_YUVA422P_LIBAV --> error: Cannot initialize the conversion context.
// AV_PIX_FMT_FLAG_ALPHA --> error: Cannot initialize the conversion context.
// AV_PIX_FMT_FLAG_PLANAR --> error: Cannot initialize the conversion context.
// AV_PIX_FMT_RGB4 --> error: Cannot initialize the conversion context.
// AV_PIX_FMT_RGB32_1 --> 4 at a time, all black/white
// AV_PIX_FMT_0BGR --> 4 at a time, all black/white
// AV_PIX_FMT_YVYU422 --> 2 side by side, gruen, purple tint
// AV_PIX_FMT_YUVJ422P --> Fatal signal 11 (SIGSEGV) at 0x61f7xf000 (code=1), thread 18401 (e.yannick.olay1)
// AV_PIX_FMT_BAYER_BGGR8 --> 1 a bit to big, black/white
// AV_PIX_FMT_BAYER_GBRG8 --> 1 a bit to big, black/white
// AV_PIX_FMT_FLAG_RGB --> 2 a bit to big, black/white
// AV_PIX_FMT_RGB555LE --> 2 a bit to big, strange colors
// AV_PIX_FMT_RGB555BE --> 2 a bit to big, strange colors
// AV_PIX_FMT_RGB555 --> 2 a bit to big, strange colors
// AV_PIX_FMT_RGB4_BYTE --> 1 a bit to big, orange tint
// AV_PIX_FMT_RGBA64 --> 8 side by side, black/white
// AV_PIX_FMT_RGB24 --> 3 side by side, red tint

Answer 1

我想通了：

通过运行

了解您的 android 相机支持的格式

mCamera = Camera.open(); 
Camera.Parameters params = mCamera.getParameters(); 
for(int i: params.getSupportedPreviewFormats()) {
   Log.e(TAG, "preview format supported are = "+i);
}

您将获得一个整数列表。在我的例子中是 17 和 842094169。我会选择 842094169 (YV12)。因此，通过调用

将您的相机设置为那个

mCamera.getParameters().setPreviewFormat(ImageFormat.YV12);

转到 https://developer.android.com/reference/android/graphics/ImageFormat.html 并检查您支持的格式是如何准确定义的。 842094169 是 YV12 is a 4:2:0 YCrCb planar format comprised of a WxH Y plane followed by (W/2) x (H/2) Cr and Cb planes.
转到 https://ffmpeg.org/ffmpeg-filters.html#overlay-1 并检查您喜欢使用的过滤器，我的是叠加过滤器。此滤镜提供了一个名为 'format' 的参数，将其设置为最接近（YV12 不在列表中）的相机。就我而言 'yuv420'。过滤器现在看起来像这样：
```
filter = new FFmpegFrameFilter("movie="+path+"/image.png [logo];[in][logo]overlay=0:0:format=yuv420 [out]",imageWidth, imageHeight);
```

记录帧时设置正确的像素格式：

Frame frame;
while ((frame = filter.pull()) != null) {
    Log.i(LOG_TAG,"In record-pull");
    recorder.record(frame,avutil.AV_PIX_FMT_YUV420P);
}

事实上，您必须将所有像素格式设置为相同。搜索所有站点以找到您所有 'components' 支持的格式有点棘手。

建议的替代方法是将 YUV 图像从相机转换为 RGB 图像。参见 Converting YUV->RGB(Image processing)->YUV during onPreviewFrame in android?

我没试过，因为我教过这会很慢，所以我先尝试了一个更简单的解决方案。

javaCV Android，流式传输到 rtmp 服务器时叠加层出现奇怪的颜色

javaCV Android, Strange colors on overlay while streaming to rtmp server

android

rtmp

javacv