使用 boost 序列化时解决消毒剂错误

Question

我最近尝试使用 boost 序列化来序列化一个 class，其中包含一个 std::vector<std::unique_ptr<Base>>> 作为成员。根据 boost 文档 (https://www.boost.org/doc/libs/1_71_0/libs/serialization/doc/serialization.html#derivedpointers)，我们必须使用存档的方法 register_type 注册派生的 classes 才能使序列化正常工作。一切都确实构建并且运行很好但是地址消毒器构建（我们的 CI 中的运行s）失败并出现以下错误：

ASAN:DEADLYSIGNAL
=================================================================
==3==ERROR: AddressSanitizer: SEGV on unknown address 0x000000100000 (pc 0x559bc5f18288 bp 0x7ffe74fd8d30 sp 0x7ffe74fd8d10 T0)
==3==The signal is caused by a READ memory access.
==3==Hint: address points to the zero page.
    #0 0x559bc5f18287 in boost::serialization::void_cast_detail::void_caster_primitive<Derived, Base>::void_caster_primitive() /usr/include/boost/serialization/void_cast.hpp:188
    #1 0x559bc5f1714a in boost::serialization::singleton<boost::serialization::void_cast_detail::void_caster_primitive<Derived, Base> >::get_instance()::singleton_wrapper::singleton_wrapper() /usr/include/boost/serialization/singleton.hpp:117
    #2 0x559bc5f173be in boost::serialization::singleton<boost::serialization::void_cast_detail::void_caster_primitive<Derived, Base> >::get_instance() /usr/include/boost/serialization/singleton.hpp:118
    #3 0x559bc5ef3294 in __static_initialization_and_destruction_0 /usr/include/boost/serialization/singleton.hpp:155
    ...

检查 void_cast.hpp 中的内容后，我在 void_caster_primitive 的构造函数中发现了有问题的代码：

/* note about displacement:
 * displace 0: at least one compiler treated 0 by not shifting it at all
 * displace by small value (8): caused ICE on certain mingw gcc versions */
reinterpret_cast<std::ptrdiff_t>(
    static_cast<Derived *>(
        reinterpret_cast<Base *>(1 << 20)
    )
) - (1 << 20)

从代码和注释来看，这个表达式计算的是Baseclass在Derived内的位移。但是，它看起来仍然很神奇，尤其是将（看似）随机数投射到 Base 指针时。如果有人能阐明为什么这实际上计算了位移，那就太好了。

编辑：下面是一个简单的例子，使用上面的位移计算方法： https://godbolt.org/z/Bmp7zH如果sanitizer关闭，它编译和运行s，但打开后，程序异常终止。

这也是在编译器资源管理器上重现 SEGV 的原始问题的尝试：https://godbolt.org/z/w8ZNx8但是，链接升压序列化似乎不起作用，而且如果我打开清理选项，构建有时会超时。

Answer 1

这个问题实际上不是由 Asan 引起的，而是由 UBsan 引起的，它在转换期间执行 class 类型的验证（通过读取和分析对象的 vptr）。在您的情况下，尝试读取假地址处的内存会导致崩溃。

这是编译器中的一个错误，因此我强烈建议将此报告给清理程序开发人员：

在 GCC Bugzilla
（如果使用 Clang 重现问题）Github tracker

使用 boost 序列化时解决消毒剂错误

Address sanitizer error when using boost serialization

c++

serialization

boost

address-sanitizer

ubsan