哪种格式更适合 tflite 模型 NCHW 或 NHWC?
Which format is preferable for tflite model NCHW or NHWC?
对于 gpus,由于速度优势,nchw 模式是更可取的,但就 tflite 模型的移动性能而言,更可取的模式是什么?
现在从 pytorch 转换为 tflite 会产生一个有效的 nchw 模型,但这种模式是最优的吗?
TensorFlow Lite 的矩阵乘法库,对于卷积 2d 等,更喜欢 NHWC 输入。
TFLite 转换器会尝试自动将给定的 NCHW 权重转换为相应的 NHWC 权重(如果给定的权重恒定以在移动设备上表现良好)。如果给定的权重不是常数,转换器将在 NCHW 权重之后添加一个转置运算符,以选择基于 NHWC 的移动卷积 2d 算法。
对于 gpus,由于速度优势,nchw 模式是更可取的,但就 tflite 模型的移动性能而言,更可取的模式是什么? 现在从 pytorch 转换为 tflite 会产生一个有效的 nchw 模型,但这种模式是最优的吗?
TensorFlow Lite 的矩阵乘法库,对于卷积 2d 等,更喜欢 NHWC 输入。
TFLite 转换器会尝试自动将给定的 NCHW 权重转换为相应的 NHWC 权重(如果给定的权重恒定以在移动设备上表现良好)。如果给定的权重不是常数,转换器将在 NCHW 权重之后添加一个转置运算符,以选择基于 NHWC 的移动卷积 2d 算法。