基于多个变量对用户进行聚类?
clustering user's based on multiple variables?
我有一个网站,我收集了很多关于用户行为的日志。他们什么时候登录,他们看什么产品,他们多久看一次等等。我想看看我是否可以基于此进行聚类分析,但我不确定如何合并多个变量。
具体来说,我的问题是当不同的变量对不同的组更重要时,如何加权它们的重要性并将不同的组聚类。例如,我知道那些查看相同产品的人可以分组,但也有一定比例的用户因为工作原因登录购买产品,他们倾向于每周或每月在同一时间登录,所以对他们来说我认为购买时间的一致性很重要。
我不擅长统计,但我决心学习,但谁能给我指点一个资源,让我可以学习如何解决这个问题?我一直在研究 k-mean 和神经网络,但还不清楚如何将其实施到这个问题上。有什么建议吗?
好的,这个答案比计划的要长,但这对我自己来说是一个很好的复习:
这里我假设了很多事情,例如
- 站点访问的持续时间很短(分钟)。
- 每个用户只关心一个任务
- 您将每个会话视为黑盒交易。
您应该从数据集中创建自己的新属性。如有必要,创建一堆属性,例如 "logs_in_on_workdays"、"logs_in_on_weekend"、"logs_in_morning"、"logs_in_afternoon"、"session_duration_minutes"、"logs_out" 等 - 这是基于日期值。
关于你的物品不能说太多。 "looks_at_dairyprod"、"looks_at_softdrinks"...呢?
也许你也可以使用 user_agent 字段 "browser_type"、"os_name"、"is_mobile" 等。也许 "is_authenticated"、remote_host_type ("is_bot") 等
- 无论您的日志文件允许什么。
也许您可以将经过身份验证的用户与其他数据集结合起来,以创建更多属性,例如 "is_male"、"is_employee" 等
您项目中的数据整理部分肯定会很有趣。
最终结果将是一个带有数值的大 table,大多数为 1 或 0 值。
如果您包括其他数字属性,例如 "Age"、"duration",这些数据应标准化为 0 到 1 之间的值。
然后您可以 运行 聚类分析,使用 kmeans 算法,参数化,例如 k = 10, 11, 12... 20 .
您对 k 合理值的最终选择取决于 您的 要求(您 想要多少个集群 找到?你对离群值有什么期望?例如,对于 k =5
,找到 1 个有 36000 个用户的集群和 4 个每个有 100 个用户的集群有意义吗?那么你应该增加簇数希望大的分裂)
您的集群分配必须重新连接到原始数据集-table myview。然后你做交叉制表。在 R 中,您可以通过 运行 宁这样的命令来做到这一点:
(clust2 <- data.frame(sapply(colnames(myview),function(x){
tapply(myview[,x], km20$clusternum, mean)
})))
生成的 table(下面的示例,k=20
)会给你 提示 关于你的数据是如何构造的,但不是一个明确的答案.
但是,处理 kmeans 聚类的结果,您可以回答
这样的问题
哪个集群最符合“经过身份验证的用户在工作日上午进行的定期站点访问”的描述?
## ClusNo Duration Morning Afternoon Periodic Weekd Authenticated Age
## 1 840.0 0.0000 0.0000 1.0000 0.9510 0.0000 48.49
## 2 9335.3 0.3515 0.4485 0.1576 0.6333 0.6333 00.00
## 3 744.7 0.0000 0.8410 0.0000 0.0000 1.0000 28.01
## 4 621.4 1.0000 0.0000 0.0000 0.9975 1.0000 50.14
## 5 617.1 0.0000 0.9871 0.0000 1.0000 1.0000 40.34
## 6 844.8 0.0000 0.9641 0.0000 0.0000 0.9648 49.72
## 7 689.1 0.0000 0.0000 1.0000 0.9941 1.0000 46.77
## 8 729.4 1.0000 0.0000 0.0000 0.9935 0.0000 48.79
## 9 680.7 0.0000 0.9817 0.0000 1.0000 1.0000 54.81
## 10 734.6 0.0000 0.0000 1.0000 0.0000 0.7328 30.73
## 11 586.0 1.0000 0.0000 0.0000 1.0000 1.0000 30.18
## 12 772.1 0.0000 0.0000 1.0000 1.0000 0.0000 28.20
## 13 673.8 0.0000 0.0000 1.0000 1.0000 1.0000 28.37
## 14 646.4 0.0000 0.9226 0.0000 1.0000 1.0000 27.16
## 15 876.1 0.0000 0.9331 0.0000 0.0000 0.0000 32.37
## 16 687.5 1.0000 0.0000 0.0000 1.0000 0.0000 28.93
## 17 767.7 0.0000 0.9900 0.0000 1.0000 0.0000 49.33
## 18 748.6 1.0000 0.0000 0.0000 0.0000 0.6540 34.10
## 19 738.6 0.0000 0.9503 0.0000 1.0000 0.0000 29.03
## 20 45891.4 0.2020 0.1212 0.5758 0.8586 0.7273 00.00
哪些集群可以描述为“工作日晚上的访问时间比平均访问时间短(< n 分钟)”?
还有很多很多。您必须使用商业知识来选择有趣的属性并提出正确的问题。
也许您发现了被忽视的聚类,或者关于您的聚类感兴趣的响应变量(这里是年龄)的提示。这就是基本聚类分析为您提供的。
我在某处读到 k 均值聚类会受到异常值的影响,因此 PAM(围绕中心点划分)聚类是更好的选择。Source
我有一个网站,我收集了很多关于用户行为的日志。他们什么时候登录,他们看什么产品,他们多久看一次等等。我想看看我是否可以基于此进行聚类分析,但我不确定如何合并多个变量。
具体来说,我的问题是当不同的变量对不同的组更重要时,如何加权它们的重要性并将不同的组聚类。例如,我知道那些查看相同产品的人可以分组,但也有一定比例的用户因为工作原因登录购买产品,他们倾向于每周或每月在同一时间登录,所以对他们来说我认为购买时间的一致性很重要。
我不擅长统计,但我决心学习,但谁能给我指点一个资源,让我可以学习如何解决这个问题?我一直在研究 k-mean 和神经网络,但还不清楚如何将其实施到这个问题上。有什么建议吗?
好的,这个答案比计划的要长,但这对我自己来说是一个很好的复习:
这里我假设了很多事情,例如
- 站点访问的持续时间很短(分钟)。
- 每个用户只关心一个任务
- 您将每个会话视为黑盒交易。
您应该从数据集中创建自己的新属性。如有必要,创建一堆属性,例如 "logs_in_on_workdays"、"logs_in_on_weekend"、"logs_in_morning"、"logs_in_afternoon"、"session_duration_minutes"、"logs_out" 等 - 这是基于日期值。
关于你的物品不能说太多。 "looks_at_dairyprod"、"looks_at_softdrinks"...呢?
也许你也可以使用 user_agent 字段 "browser_type"、"os_name"、"is_mobile" 等。也许 "is_authenticated"、remote_host_type ("is_bot") 等 - 无论您的日志文件允许什么。
也许您可以将经过身份验证的用户与其他数据集结合起来,以创建更多属性,例如 "is_male"、"is_employee" 等
您项目中的数据整理部分肯定会很有趣。 最终结果将是一个带有数值的大 table,大多数为 1 或 0 值。
如果您包括其他数字属性,例如 "Age"、"duration",这些数据应标准化为 0 到 1 之间的值。
然后您可以 运行 聚类分析,使用 kmeans 算法,参数化,例如 k = 10, 11, 12... 20 .
您对 k 合理值的最终选择取决于 您的 要求(您 想要多少个集群 找到?你对离群值有什么期望?例如,对于 k =5
,找到 1 个有 36000 个用户的集群和 4 个每个有 100 个用户的集群有意义吗?那么你应该增加簇数希望大的分裂)
您的集群分配必须重新连接到原始数据集-table myview。然后你做交叉制表。在 R 中,您可以通过 运行 宁这样的命令来做到这一点:
(clust2 <- data.frame(sapply(colnames(myview),function(x){
tapply(myview[,x], km20$clusternum, mean)
})))
生成的 table(下面的示例,k=20
)会给你 提示 关于你的数据是如何构造的,但不是一个明确的答案.
但是,处理 kmeans 聚类的结果,您可以回答
这样的问题哪个集群最符合“经过身份验证的用户在工作日上午进行的定期站点访问”的描述?
## ClusNo Duration Morning Afternoon Periodic Weekd Authenticated Age
## 1 840.0 0.0000 0.0000 1.0000 0.9510 0.0000 48.49
## 2 9335.3 0.3515 0.4485 0.1576 0.6333 0.6333 00.00
## 3 744.7 0.0000 0.8410 0.0000 0.0000 1.0000 28.01
## 4 621.4 1.0000 0.0000 0.0000 0.9975 1.0000 50.14
## 5 617.1 0.0000 0.9871 0.0000 1.0000 1.0000 40.34
## 6 844.8 0.0000 0.9641 0.0000 0.0000 0.9648 49.72
## 7 689.1 0.0000 0.0000 1.0000 0.9941 1.0000 46.77
## 8 729.4 1.0000 0.0000 0.0000 0.9935 0.0000 48.79
## 9 680.7 0.0000 0.9817 0.0000 1.0000 1.0000 54.81
## 10 734.6 0.0000 0.0000 1.0000 0.0000 0.7328 30.73
## 11 586.0 1.0000 0.0000 0.0000 1.0000 1.0000 30.18
## 12 772.1 0.0000 0.0000 1.0000 1.0000 0.0000 28.20
## 13 673.8 0.0000 0.0000 1.0000 1.0000 1.0000 28.37
## 14 646.4 0.0000 0.9226 0.0000 1.0000 1.0000 27.16
## 15 876.1 0.0000 0.9331 0.0000 0.0000 0.0000 32.37
## 16 687.5 1.0000 0.0000 0.0000 1.0000 0.0000 28.93
## 17 767.7 0.0000 0.9900 0.0000 1.0000 0.0000 49.33
## 18 748.6 1.0000 0.0000 0.0000 0.0000 0.6540 34.10
## 19 738.6 0.0000 0.9503 0.0000 1.0000 0.0000 29.03
## 20 45891.4 0.2020 0.1212 0.5758 0.8586 0.7273 00.00
哪些集群可以描述为“工作日晚上的访问时间比平均访问时间短(< n 分钟)”?
还有很多很多。您必须使用商业知识来选择有趣的属性并提出正确的问题。
也许您发现了被忽视的聚类,或者关于您的聚类感兴趣的响应变量(这里是年龄)的提示。这就是基本聚类分析为您提供的。
我在某处读到 k 均值聚类会受到异常值的影响,因此 PAM(围绕中心点划分)聚类是更好的选择。Source