奇偶校验矩阵密度增加时的 LDPC 行为

LDPC behaviour as density of parity-check matrix increases

我的任务是为低密度奇偶校验码实现一个 Loopy Belief Propagation 算法。这段代码使用了一个相当稀疏的奇偶校验矩阵 H(比如 750×1000 二进制矩阵,每列平均约 3 "ones")。生成奇偶校验矩阵的代码是taken from here

总之,其中一个子任务是在矩阵H的密度增加时检查LDPC码的可靠性。因此,我将通道容量固定为 0.5,将代码速度固定为 0.35,并开始增加矩阵的密度。当一列中 "ones" 的平均数以 1 的步长从 3 增加到 7 时,灾难就发生了。使用 3 或 4,代码可以很好地应对。随着更高的密度它开始失败:它不仅有时无法收敛,而且经常收敛到错误的码字并产生错误。

所以我的问题是:当 LDPC 码的稀疏奇偶校验矩阵变得更密集时,预期其行为类型是什么?对于熟练的读心者的奖励问题:在我的情况下(随着代码性能下降)更有可能是因为 Loopy Belief Propagation 算法不能保证收敛,还是因为我在实现它时犯了一个错误?

在与我的助教和其他学生交谈后,我了解到以下内容:

  1. 根据香农定理,码的可靠性应该随着奇偶校验矩阵的密度增加而增加。那只是因为进行了更多检查。
  2. 但是,由于我们使用 Loopy Belief Propagation,当图中的边越来越多形成越来越多的环时,它会遇到很多困难。因此,实际性能下降。
  3. 无法确定我是否仅基于此行为在我的代码中犯了错误。但是,由于我的代码确实适用于稀疏矩阵,因此实现可能没问题。