我可以从 SQL 服务器在 R 中创建一个稀疏矩阵吗

Question

过去我在 R 中使用 "arules" 包运行 Apriori。过去，我在 R studio 中使用平面文件完成此操作，代码如下：

# install.packages('arules');
library(arules);

# the following is how I bring in flat files:
ds = read.csv('somedata.csv', header = FALSE)

# and here is how I import this data but as a sparse matrix:
dsSparse = read.transactions('somedata.csv', sep = ',', rm.duplicates = TRUE)

我第一次在 SQL 服务器中处理数据并在 visual studio 中使用 R 工具。

这是我运行宁的脚本：

#Connection to SQL Server.
connStr = paste("Driver=SQL Server; Server=", "MyServer", ";Database=", "MyDatabase", ";Trusted_Connection=true;", sep = "");
#Get data from SQL Query
SQL_ds = RxSqlServerData(sqlQuery = "SELECT * FROM dbo.SomeData", connectionString = connStr, returnDataFrame = TRUE);
#Run the query and store the data into the table
ds = rxImport(SQL_ds);

有没有一种方法可以像处理静态文件一样将其转换为稀疏矩阵？

我可以编写一个 T-SQL 查询来旋转数据并以这种方式创建一个稀疏矩阵，但我想知道我是否可以在 R 中有效地做到这一点。

这是我正在处理的数据示例：

CREATE TABLE #SomeData
(
SaleId INT
, Item1 NVARCHAR (500)
, Item2 NVARCHAR (500)
, Item3 NVARCHAR (500)
, Item4 NVARCHAR (500)
, Item5 NVARCHAR (500)
, Item6 NVARCHAR (500)
, Item7 NVARCHAR (500)
, Item8 NVARCHAR (500)
, Item9 NVARCHAR (500)
, Item10 NVARCHAR (500)
, Item11 NVARCHAR (500)
, Item12 NVARCHAR (500)
, Item13 NVARCHAR (500)
, Item14 NVARCHAR (500)
, Item15 NVARCHAR (500)
, Item16 NVARCHAR (500)
, Item17 NVARCHAR (500)
, Item18 NVARCHAR (500)
, Item19 NVARCHAR (500)
, Item20 NVARCHAR (500)
)

INSERT INTO #SomeData
VALUES
    (1, N'shrimp', N'almonds', N'avocado', N'vegetables mix', N'green grapes', N'whole weat flour', N'yams', N'cottage cheese', N'energy drink', N'tomato juice', N'low fat yogurt', N'green tea', N'honey', N'salad', N'mineral water'
   , N'salmon', N'antioxydant juice', N'frozen smoothie', N'spinach', N'olive oil')
  , (2, N'burgers', N'meatballs', N'eggs', NULL, NULL, NULL, NULL, NULL, NULL, NULL, NULL, NULL, NULL, NULL, NULL, NULL, NULL, NULL, NULL, NULL)
  , (3, N'chutney', NULL, NULL, NULL, NULL, NULL, NULL, NULL, NULL, NULL, NULL, NULL, NULL, NULL, NULL, NULL, NULL, NULL, NULL, NULL)
  , (4, N'turkey', N'avocado', NULL, NULL, NULL, NULL, NULL, NULL, NULL, NULL, NULL, NULL, NULL, NULL, NULL, NULL, NULL, NULL, NULL, NULL)
  , (5, N'mineral water', N'milk', N'energy bar', N'whole wheat rice', N'green tea', NULL, NULL, NULL, NULL, NULL, NULL, NULL, NULL, NULL, NULL, NULL, NULL, NULL, NULL, NULL)

SELECT * FROM #SomeData

谢谢

Answer 1

如果我理解得很好，你有一个 table 类似于：

id item1 item2 ... itemn
1  a     s         n1
2  a     s         n2
3  c     d         n4
4  c     e         n3
...
m  m1    m2        mn

不幸的是我使用过 R (RStudio) 和，但没有使用 Visual Studio，所以我可以给你一些伪代码作为推理和提示：

首先，您必须将 table 缩减为包含 ID 和产品的两列 table：如果我们有这样的假冒 table：

library(arules)
library(tidyverse)
fake <- data.frame(id = c(1,2,3,4,5),
                   item1 = c('a','a','a',NA,'b'),
                   item2 = c('d','d','d',NA,NA),
                   item3 = c('e','e','c','k','b'))

> fake
  id item item item
1  1    a    d    e
2  2    a    d    e
3  3    a    d    c
4  4 <NA> <NA>    k
5  5    b <NA>    b

colnames(fake) <- c('id','item','item','item')
df <- rbind(fake[,c(1,2)],fake[,c(1,3)],fake[,c(1,4)])

 # here we go
 > df
   id item
1   1    a
2   2    a
3   3    a
4   4 <NA>
5   5    b
6   1    d
7   2    d
8   3    d
9   4 <NA>
10  5 <NA>
11  1    e
12  2    e
13  3    c
14  4    k
15  5    b

更准确地说，您将删除带有 NA 的行，但原理是一样的。
现在您可以创建交易矩阵：

  df <- df %>%
  select(id, item) %>%
  distinct() %>%
  mutate(value = 1) %>%
  spread(item, value, fill = 0)
  > df
  id a b d c e k <NA>
1  1 1 0 1 0 1 0    0
2  2 1 0 1 0 1 0    0
3  3 1 0 1 1 0 0    0
4  4 0 0 0 0 0 1    1
5  5 0 1 0 0 0 0    1
  # here is necessary the arules package
  itemMatrix <- as(as.matrix(df[, -1]), "transactions")
  > itemMatrix
  transactions in sparse format with
  5 transactions (rows) and
  7 items (columns)

最后，您可以应用先验算法：

rules <- apriori(itemMatrix, parameter = list(supp = 0.4, conf = 0.8, target = "rules"))
rules_conf <- sort (rules, by="support", decreasing=TRUE)
inspect(rules_conf)

   lhs      rhs support confidence lift     count
[1] {d}   => {a} 0.6     1          1.666667 3    
[2] {a}   => {d} 0.6     1          1.666667 3    
[3] {e}   => {d} 0.4     1          1.666667 2    
[4] {e}   => {a} 0.4     1          1.666667 2    
[5] {d,e} => {a} 0.4     1          1.666667 2    
[6] {a,e} => {d} 0.4     1          1.666667 2

作为进一步的信息，另请查看包 sqldf 和 RODBC，以在 R 环境中通过查询管理 data.frame 并通过 ODBC 连接 R。

我可以从 SQL 服务器在 R 中创建一个稀疏矩阵吗

Can I create a sparse matrix in R from SQL Server

sql-server

r

microsoft-r