将测量数据保存到数据库或文件系统中

Save measurement data into Database or Filesystem

我们目前正在开发一种工具来计算通过指定区域的野生动物数量。自动计算动物数量的小工具将每隔 5 分钟通过 HTTP 向我们的 API 发送数据(天气、经过的动物数量等)。将有数百个这样的测量站,它应该是可扩展的。

现在的问题是使用文件系统还是 RDBMS 来保存这些数据。

专业数据库

Pro 文件系统

数据属性:

将如何处理数据

我们正在考虑选择 RDBMS 来保存数据,但我担心在数百万个条目之后数据库会变慢并最终停止工作。这个问题是 asked here,其中 360M 条目并没有被真正考虑 "big data" 所以我也不太确定我的任务。

我们应该选择 these recommended techniques (MongoDB ...) 还是这个任务可以由 PostgreSQL 或 MySQL 处理?

我已经为 marine boyes 创建了这样一个系统。设备使用 HTTP 或原始 tcp 套接字(以最小化带宽)通过 GPRS / iridum 发送数据。

  • 接收服务器将数据存储在 db-table 中,并提供数据和时间戳。
  • 然后解析数据并在另一个 table 中创建记录。
  • 设备还可以从服务器请求 UTC 时间,因此不需要 RTC。

在对 "raw" table 进行任何存储之前,会在文本文件中附加一行。这非常适合日志记录或能够从数据库停机时间中恢复。

至于数据库类型,我建议使用常规 RDBMS。为您的数据定义标记。我们使用 4 位代码,为 10000 种类型的度量值提供余量。