我可以在哪里部署 ml 算法而不会超时?

where I can deploy ml algorithm without time out?

我使用 Heroku 通过 Pytorch 部署 ml 算法,但是当我向应用程序发送请求以训练具有 100 个 epoch 的模型时,我得到了这个 error

at=error code=H12 desc="Request Timeout" method=POST path="/train"

我搜索了请求超时,发现请求时间限制
从 Heroku 是 30 秒

超时问题怎么解决,有没有超时训练模型的平台?

模型训练可能是一项昂贵且冗长的操作,可能需要几分钟到几小时(取决于上下文和数据量),因此您可能也会遇到其他提供商的请求超时。

解决办法是让模型训练一个后台任务:

  • 创建一个 worker Dyno 来安排模型训练(即每天 h11:00)

  • 保留 web Dyno 但确保 /train 请求生成后台线程(因此 Web 请求可以快速完成并且训练在后台进行)