Google 优化(贝叶斯模型)中的 SRM 是一回事吗
Is SRM in Google Optimize (Bayesian Model) a thing
因此检查样本比率不匹配对数据质量有好处。
但在 Google 优化中,我无法影响样本量或对其采取任何措施。
我的问题是,在 15 个 A/B 测试中,我只有 2 个没有 SRM 的实验。
(用过这个工具https://www.lukasvermeer.nl/srm/microsite/)
另一方面,贝叶斯模型处理不同的样本大小等问题,我不需要担心,但关于这个话题的意见不同。
SRM 真的是 Google 优化中的问题还是我可以忽略它?
SRM 对贝叶斯实验的影响与对频率论的影响一样大。 SRM 发生在您期望某个流量拆分但最终出现不同的流量拆分时。 Google 优化是一个黑盒子,因此无法判断您遇到的样本大小不均是有意还是无意。
很多事情都可能导致 SRM,例如,如果您的变体 javascript 代码在某些浏览器中存在错误,则可能无法正确跟踪这些用户。另一个常见原因是,如果您的变体导致页面加载时间增加,更多人会放弃该页面,您会看到比预期更小的样本量。
缺乏统计严谨性和透明度是我构建 Growth Book 的原因之一,它是一个开源 A/B 测试平台,具有贝叶斯统计引擎和对每个实验的自动 SRM 检查。
因此检查样本比率不匹配对数据质量有好处。 但在 Google 优化中,我无法影响样本量或对其采取任何措施。
我的问题是,在 15 个 A/B 测试中,我只有 2 个没有 SRM 的实验。 (用过这个工具https://www.lukasvermeer.nl/srm/microsite/) 另一方面,贝叶斯模型处理不同的样本大小等问题,我不需要担心,但关于这个话题的意见不同。
SRM 真的是 Google 优化中的问题还是我可以忽略它?
SRM 对贝叶斯实验的影响与对频率论的影响一样大。 SRM 发生在您期望某个流量拆分但最终出现不同的流量拆分时。 Google 优化是一个黑盒子,因此无法判断您遇到的样本大小不均是有意还是无意。
很多事情都可能导致 SRM,例如,如果您的变体 javascript 代码在某些浏览器中存在错误,则可能无法正确跟踪这些用户。另一个常见原因是,如果您的变体导致页面加载时间增加,更多人会放弃该页面,您会看到比预期更小的样本量。
缺乏统计严谨性和透明度是我构建 Growth Book 的原因之一,它是一个开源 A/B 测试平台,具有贝叶斯统计引擎和对每个实验的自动 SRM 检查。