Slick 3 - upsert 工作太慢
Slick 3 - upsert works too slow
我对 upsert
列表 items
使用流动代码
case class Item(id: String, text: String)
class Items(tag: Tag) extends Table[Item](tag, "items"){
...
}
val tbl = TableQuery[Items]
def insertItems(items: List[Item]):Future[Int] = {
val q = DBIO.sequence(items.map(tbl.insertOrUpdate).toSeq).map(_.sum)
db.run(q)
}
对于长度为 2000 的 items
列表,upsert
需要约 10 秒。太长了...
我认为,大部分兼职时间都在编译查询。
我应该如何重写insertItems
来加速呢?
使用compiled queries
(docs)。 AFAIK,插入的编译查询在 slick 2.0 之后可用。
另外,要插入列表,您应该进行批量操作,而不是一条一条地插入记录。
因此,在 Slick-3.0 中,对于插入,您应该这样做:
val tblCompiled = Compiled(TableQuery[Items])
tblCompiled ++= items
然后 运行 另一个查询以获取所需列的总和。
编辑:我不认为,slick 支持批量 insertOrUpdate 语句。如果底层数据库支持批量 insertOrUpdate,最快的方法是编写普通 SQL。否则编译的 insertOrUpdate
查询应该很快。
代码应该类似于
items.map(tblCompiled.insertOrUpdate)
我对 upsert
列表 items
case class Item(id: String, text: String)
class Items(tag: Tag) extends Table[Item](tag, "items"){
...
}
val tbl = TableQuery[Items]
def insertItems(items: List[Item]):Future[Int] = {
val q = DBIO.sequence(items.map(tbl.insertOrUpdate).toSeq).map(_.sum)
db.run(q)
}
对于长度为 2000 的 items
列表,upsert
需要约 10 秒。太长了...
我认为,大部分兼职时间都在编译查询。
我应该如何重写insertItems
来加速呢?
使用compiled queries
(docs)。 AFAIK,插入的编译查询在 slick 2.0 之后可用。
另外,要插入列表,您应该进行批量操作,而不是一条一条地插入记录。
因此,在 Slick-3.0 中,对于插入,您应该这样做:
val tblCompiled = Compiled(TableQuery[Items])
tblCompiled ++= items
然后 运行 另一个查询以获取所需列的总和。
编辑:我不认为,slick 支持批量 insertOrUpdate 语句。如果底层数据库支持批量 insertOrUpdate,最快的方法是编写普通 SQL。否则编译的 insertOrUpdate
查询应该很快。
代码应该类似于
items.map(tblCompiled.insertOrUpdate)