vstest.console.exe 随机错过了一些测试

vstest.console.exe randomly misses some tests

我正在设置要在构建服务器 (Jenkins) 上执行的单元测试。

我注意到有时 vstest 决定忽略我的一些测试。它们不会被跳过或失败。他们只是被忽略了,就好像他们一开始就不存在一样。我 运行 再次测试构建,没有任何更改,问题消失了。

在下面的趋势图中,红色为失败,蓝色为通过。注意到#78 处的下降了吗?那是我错过了 13 次测试中的 3 次的地方:

这里是两个连续构建的 vstest 摘要,两者之间没有变化:

#78: Total tests: 10. Passed: 6. Failed: 4. Skipped: 0.

#79: Total tests: 13. Passed: 9. Failed: 4. Skipped: 0.

有人遇到过这样的事情吗?我是否应该考虑放弃 vstest 以支持更可靠的测试框架,然后再深入其中?

抱歉这个错误。这是 VS 2015 中的回归。我在一月份修复了这个错误,修复将包含在 VS 2015 Update 2 中。(我是 Microsoft 的软件工程师。)测试实际上是 运行,但结果被异步发回,有时我们会在所有结果发回测试引擎进程之前关闭测试主机进程。