我可以在哪里部署 ml 算法而不会超时?
where I can deploy ml algorithm without time out?
我使用 Heroku 通过 Pytorch 部署 ml 算法,但是当我向应用程序发送请求以训练具有 100 个 epoch 的模型时,我得到了这个
error
at=error code=H12 desc="Request Timeout" method=POST path="/train"
我搜索了请求超时,发现请求时间限制
从 Heroku 是 30 秒
超时问题怎么解决,有没有超时训练模型的平台?
模型训练可能是一项昂贵且冗长的操作,可能需要几分钟到几小时(取决于上下文和数据量),因此您可能也会遇到其他提供商的请求超时。
解决办法是让模型训练一个后台任务:
- 创建一个
worker
Dyno 来安排模型训练(即每天 h11:00)
或
- 保留
web
Dyno 但确保 /train
请求生成后台线程(因此 Web 请求可以快速完成并且训练在后台进行)
我使用 Heroku 通过 Pytorch 部署 ml 算法,但是当我向应用程序发送请求以训练具有 100 个 epoch 的模型时,我得到了这个 error
at=error code=H12 desc="Request Timeout" method=POST path="/train"
我搜索了请求超时,发现请求时间限制
从 Heroku 是 30 秒
超时问题怎么解决,有没有超时训练模型的平台?
模型训练可能是一项昂贵且冗长的操作,可能需要几分钟到几小时(取决于上下文和数据量),因此您可能也会遇到其他提供商的请求超时。
解决办法是让模型训练一个后台任务:
- 创建一个
worker
Dyno 来安排模型训练(即每天 h11:00)
或
- 保留
web
Dyno 但确保/train
请求生成后台线程(因此 Web 请求可以快速完成并且训练在后台进行)