哪个深度学习库支持压缩深度学习模型在手机上使用?
Which deep learning library support the compression of the deep learning models to be used on the phones?
我想建立一个高级深度学习模型(例如:一个使用注意力的模型)并在 android phone 上使用它(当然没有训练)我只会使用它供推理。
我想要一个可以做到这一点并且可以压缩要在 phone 或 android.
上使用的模型大小的库
你知道任何与我的目标相似的项目或应用程序吗?
有一个名为 Ristretto 的 Caffe 分支。它允许压缩神经网络以获得较低的数值精度(每个参数少于 32 位),同时保持高精度。 MXNet 和 Tensorflow 现在也有这个功能。 Pytorch 还没有。
这些工具可以减少存储神经网络参数所需的内存,但它们并不特定于 Android。
我想建立一个高级深度学习模型(例如:一个使用注意力的模型)并在 android phone 上使用它(当然没有训练)我只会使用它供推理。
我想要一个可以做到这一点并且可以压缩要在 phone 或 android.
上使用的模型大小的库
你知道任何与我的目标相似的项目或应用程序吗?
有一个名为 Ristretto 的 Caffe 分支。它允许压缩神经网络以获得较低的数值精度(每个参数少于 32 位),同时保持高精度。 MXNet 和 Tensorflow 现在也有这个功能。 Pytorch 还没有。 这些工具可以减少存储神经网络参数所需的内存,但它们并不特定于 Android。