vstest.console.exe 随机错过了一些测试
vstest.console.exe randomly misses some tests
我正在设置要在构建服务器 (Jenkins) 上执行的单元测试。
我注意到有时 vstest 决定忽略我的一些测试。它们不会被跳过或失败。他们只是被忽略了,就好像他们一开始就不存在一样。我 运行 再次测试构建,没有任何更改,问题消失了。
- 控制台日志中似乎没有 vstest 崩溃。看起来测试 运行 已正常完成,只是测试总数有误。
- 我用反编译器检查了测试程序集,所有的测试方法都在那里。
- TRX 输出文件看起来完整且有效。
在下面的趋势图中,红色为失败,蓝色为通过。注意到#78 处的下降了吗?那是我错过了 13 次测试中的 3 次的地方:
这里是两个连续构建的 vstest 摘要,两者之间没有变化:
#78: Total tests: 10. Passed: 6. Failed: 4. Skipped: 0.
#79: Total tests: 13. Passed: 9. Failed: 4. Skipped: 0.
有人遇到过这样的事情吗?我是否应该考虑放弃 vstest 以支持更可靠的测试框架,然后再深入其中?
抱歉这个错误。这是 VS 2015 中的回归。我在一月份修复了这个错误,修复将包含在 VS 2015 Update 2 中。(我是 Microsoft 的软件工程师。)测试实际上是 运行,但结果被异步发回,有时我们会在所有结果发回测试引擎进程之前关闭测试主机进程。
我正在设置要在构建服务器 (Jenkins) 上执行的单元测试。
我注意到有时 vstest 决定忽略我的一些测试。它们不会被跳过或失败。他们只是被忽略了,就好像他们一开始就不存在一样。我 运行 再次测试构建,没有任何更改,问题消失了。
- 控制台日志中似乎没有 vstest 崩溃。看起来测试 运行 已正常完成,只是测试总数有误。
- 我用反编译器检查了测试程序集,所有的测试方法都在那里。
- TRX 输出文件看起来完整且有效。
在下面的趋势图中,红色为失败,蓝色为通过。注意到#78 处的下降了吗?那是我错过了 13 次测试中的 3 次的地方:
这里是两个连续构建的 vstest 摘要,两者之间没有变化:
#78: Total tests: 10. Passed: 6. Failed: 4. Skipped: 0.
#79: Total tests: 13. Passed: 9. Failed: 4. Skipped: 0.
有人遇到过这样的事情吗?我是否应该考虑放弃 vstest 以支持更可靠的测试框架,然后再深入其中?
抱歉这个错误。这是 VS 2015 中的回归。我在一月份修复了这个错误,修复将包含在 VS 2015 Update 2 中。(我是 Microsoft 的软件工程师。)测试实际上是 运行,但结果被异步发回,有时我们会在所有结果发回测试引擎进程之前关闭测试主机进程。