来自 Web 应用程序的 Spark 机器学习设计模型

Spark Machine learning design model from web application

我开发了一个网络应用程序,用户可以在其中选择机器学习框架/迭代次数/其他一些调整参数。如何通过将所有输入传递给用户并显示响应来从用户界面调用 Spark 作业。根据框架 (dl4j/ spark mllib/ H2o),用户可以上传输入 csv 或从 Cassandra 读取数据。

  1. 如何从用户界面调用 SPARK 作业?
  2. 如何将结果显示给用户?

请帮忙。

你可以看看这个github repository.

这里所做的是,一旦 GET 请求到达,它就会从 Cassandra 中取出数据,然后收集数据并将其作为响应抛回。

所以在你的情况下:

你可以做的是,一旦你收到一个 POST 请求,你就可以从请求中获取参数,并使用这些参数执行相应的操作,然后在 master 上收集结果,然后将其作为 Response 返回给用户。

P.S: Master上收集有点麻烦,数据量大会OOM。您可以做的是将结果保存在 hadoop 上并将 URL 发送回结果或类似的东西。

有关更多信息,请查看与此相关的博客 github: https://blog.knoldus.com/2016/10/12/cassandra-with-spark/