14.1 将测试部署到CDash

NOTE:此示例代码可以在 https://github.com/dev-cafe/cmake-cookbook/tree/v1.0/chapter-14/recipe-01 中找到,其中包含一个C++示例。该示例在CMake 3.5版(或更高版本)中是有效的,并且已经在GNU/Linux、macOS和Windows上进行过测试。

本示例中,我们将扩展第4章第1节的测试示例,并将测试结果部署到https://my.cdash.org/index.php?project=cmake-cookbook ,这是在Kitware为社区提供的公共面板( https://my.cdash.org )的基础上,为本书创建的专属面板。

准备工作

我们将从重用第1节中的示例源代码,该测试将整数作为命令行参数进行求和。该示例由三个源文件组成:main.cppsum_integer.cppsum_integers.hpp。我们还将重用第4章(创建和运行测试)中的test.cpp文件,但这里将它重命名为test_short.cpp。我们将使用test_long.cpp扩展这个例子:

  1. #include "sum_integers.hpp"
  2. #include <numeric>
  3. #include <vector>
  4. int main() {
  5. // creates vector {1, 2, 3, ..., 999, 1000}
  6. std::vector integers(1000);
  7. std::iota(integers.begin(), integers.end(), 1);
  8. if (sum_integers(integers) == 500500) {
  9. return 0;
  10. } else {
  11. return 1;
  12. }
  13. }

然后,将这些文件组织成以下文件树:

  1. .
  2. ├── CMakeLists.txt
  3. ├── CTestConfig.cmake
  4. ├── src
  5. ├── CMakeLists.txt
  6. ├── main.cpp
  7. ├── sum_integers.cpp
  8. └── sum_integers.hpp
  9. └── tests
  10. ├── CMakeLists.txt
  11. ├── test_long.cpp
  12. └── test_short.cpp

具体实施

现在,我们将演示如何配置、构建、测试。最后,将示例项目的测试结果提交到面板的过程:

  1. 源目标在src/CMakeLists.txt中定义,如下:

    1. # example library
    2. add_library(sum_integers "")
    3. target_sources(sum_integers
    4. PRIVATE
    5. sum_integers.cpp
    6. PUBLIC
    7. ${CMAKE_CURRENT_LIST_DIR}/sum_integers.hpp
    8. )
    9. target_include_directories(sum_integers
    10. PUBLIC
    11. ${CMAKE_CURRENT_LIST_DIR}
    12. )
    13. # main code
    14. add_executable(sum_up main.cpp)
    15. target_link_libraries(sum_up sum_integers)
  2. tests/CMakeLists.txt中定义了测试:

    1. add_executable(test_short test_short.cpp)
    2. target_link_libraries(test_short sum_integers)
    3. add_executable(test_long test_long.cpp)
    4. target_link_libraries(test_long sum_integers)
    5. add_test(
    6. NAME
    7. test_short
    8. COMMAND
    9. $<TARGET_FILE:test_short>
    10. )
    11. add_test(
    12. NAME
    13. test_long
    14. COMMAND
    15. $<TARGET_FILE:test_long>
    16. )
  3. CMakeLists.txt文件引用前面的两个文件,这个配置中的新元素是include(CTest),这样就可以向CDash仪表板报告结果:

    1. # set minimum cmake version
    2. cmake_minimum_required(VERSION 3.5 FATAL_ERROR)
    3. # project name and language
    4. project(recipe-01 LANGUAGES CXX)
    5. # require C++11
    6. set(CMAKE_CXX_STANDARD 11)
    7. set(CMAKE_CXX_EXTENSIONS OFF)
    8. set(CMAKE_CXX_STANDARD_REQUIRED ON)
    9. # process src/CMakeLists.txt
    10. add_subdirectory(src)
    11. enable_testing()
    12. # allow to report to a cdash dashboard
    13. include(CTest)
    14. # process tests/CMakeLists.txt
    15. add_subdirectory(tests)
  4. 另外,我们创建文件CTestConfig.cmake与主CMakeLists.txt文件位于同一目录中。这个新文件包含以下几行:

    1. set(CTEST_DROP_METHOD "http")
    2. set(CTEST_DROP_SITE "my.cdash.org")
    3. set(CTEST_DROP_LOCATION "/submit.php?project=cmake-cookbook")
    4. set(CTEST_DROP_SITE_CDASH TRUE)
  5. 我们现在已经准备好配置和构建项目:

    1. $ mkdir -p build
    2. $ cd build
    3. $ cmake ..
    4. $ cmake --build .
  6. 构建后,运行测试集,并向面板报告测试结果:

    1. $ ctest --dashboard Experimental
    2. Site: larry
    3. Build name: Linux-c++
    4. Create new tag: 20180408-1449 - Experimental
    5. Configure project
    6. Each . represents 1024 bytes of output
    7. . Size of output: 0K
    8. Build project
    9. Each symbol represents 1024 bytes of output.
    10. '!' represents an error and '*' a warning.
    11. . Size of output: 0K
    12. 0 Compiler errors
    13. 0 Compiler warnings
    14. Test project /home/user/cmake-recipes/chapter-15/recipe-01/cxx-example/build
    15. Start 1: test_short
    16. 1/2 Test #1: test_short ....................... Passed 0.00 sec
    17. Start 2: test_long
    18. 2/2 Test #2: test_long ........................ Passed 0.00 sec
    19. 100% tests passed, 0 tests failed out of 2
    20. Total Test time (real) = 0.01 sec
    21. Performing coverage
    22. Cannot find any coverage files. Ignoring Coverage request.
    23. Submit files (using http)
    24. Using HTTP submit method
    25. Drop site:http://my.cdash.org/submit.php?project=cmake-cookbook
    26. Uploaded: /home/user/cmake-recipes/chapter-14/recipe-01/cxx-example/build/Testing/20180408-1449/Build.xml
    27. Uploaded: /home/user/cmake-recipes/chapter-14/recipe-01/cxx-example/build/Testing/20180408-1449/Configure.xml
    28. Uploaded: /home/user/cmake-recipes/chapter-14/recipe-01/cxx-example/build/Testing/20180408-1449/Test.xml
    29. Submission successful
  7. 最后,可以在浏览器中看到测试结果(本例中,测试结果上报到 https://my.cdash.org/index.php?project=cmake-cookbook ):

    14.1 将测试部署到CDash - 图1

工作原理

可以从更高级的角度展示工作流,CTest运行测试并在XML文件中记录结果。然后,将这些XML文件发送到CDash服务器,在那里可以浏览和分析它们。通过单击数字2,获得关于通过或失败测试的更多的细节信息(本例中,没有失败的测试)。如下图所示,详细记录了运行测试的机器的信息,以及时间信息。同样,单个测试的测试输出也可以在线浏览。

14.1 将测试部署到CDash - 图2

CTest支持三种不同的提交模式:

  • 实验性构建
  • 夜间构建
  • 持续构建

我们使用了ctest --dashboard Experimental(实验性构建提交),因此,测试结果显示在实验模式之下。实验模式对于测试代码的当前状态、调试新的仪表板脚本、调试CDash服务器或项目非常有用。夜间构建模式,将把代码更新(或降级)到最接近最近夜间构建开始时的存储库,这些可以在CTestConfig.cmake中设置。其为接收更新频繁的项目的所有夜间测试提供一个定义良好的参考。例如,夜间开始时间可以设置为世界时的”午夜”:

  1. set(CTEST_NIGHTLY_START_TIME "00:00:00 UTC")

持续模式对于集成工作流非常有用,它将把代码更新到最新版本。

TIPS:构建、测试和提交到实验面板只需要一个命令—cmake --build . --target Experimental

更多信息

这个示例中,我们直接从测试目标部署到CDash。我们将在本章后面的第3和第4部分中,使用专用的CTest脚本。

CDash不仅可以监视测试是否通过或失败,还可以看到测试时间。可以为测试计时进行配置:如果测试花费的时间超过分配的时间,它将被标记为失败。这对于基准测试非常有用,可以在重构代码时自动检测性能测试用例的性能情况。

有关CDash定义和配置设置的详细讨论,请参见官方CDash文档,网址为 https://public.kitware.com/Wiki/CDash:Documentation