霍夫曼算法逆匹配
Huffman algorithm inverse matching
我想知道如果给定一个二进制序列,我们是否可以使用霍夫曼算法检查它是否与字符串匹配。
例如,如果我们有一个字符串 "abdcc" 和几个二进制序列,我们可以计算出哪个是 "abdcc" 的可能表示形式,它使用了霍夫曼算法
有趣的谜题。正如 j_random_hacker 在评论中提到的,可以使用回溯搜索来做到这一点。我们可以使用字符串的有效霍夫曼编码来缩小搜索范围:
- 长度为 n 和 m 的两个霍夫曼代码的前 n 或 m 位(以较短者为准)不能相同。这是因为否则 Huffman 解码器将无法判断它在解码时遇到的是更长还是更短的代码。并且显然两个相同长度的代码不可能完全相同。 (1)
- 如果任何时候比特流中剩余的比特数少于我们正在匹配的字符串中剩余的字符数,则该字符串无法匹配。 (2)
- 如果我们到达字符串的末尾并且比特流中仍有剩余比特,则字符串不匹配 (3)
- 如果我们第二次在字符串中遇到一个字符,并且我们已经假设字符串中较早的相同字符的霍夫曼代码,那么比特流中必须存在相同的代码,否则字符串不能比赛。 (4)
我们可以定义一个函数 matchHuffmanString
来匹配具有霍夫曼编码比特流的字符串,并将霍夫曼代码 table 作为全局状态的一部分。首先,代码 table 为空,我们调用 matchHuffmanString
,传递字符串的开头和比特流的开头。
调用该函数时,它会检查流中是否有足够的位来匹配字符串,如果没有则 returns。 (2)
如果字符串为空,则如果比特流也为空,则匹配并输出代码 table。如果流为空但比特流不为空,则不存在匹配项,因此函数 returns。 (3)
如果字符串中仍有字符,则读取第一个字符。该函数检查代码 table 中是否已经存在该字符的条目,如果存在,则比特流中必须存在相同的代码。如果不是,则没有匹配项,因此函数 returns (4)。如果存在,则函数调用自身,移动到下一个字符并通过比特流中的匹配代码。
如果字符没有匹配的代码,则考虑用1位到32位(任意限制)的所有可能长度n的代码表示的可能性。从比特流中读取 n 比特并根据规则 (1) 检查此类代码是否会与任何现有代码冲突。如果不存在冲突,则将代码添加到代码 table,然后函数递归,移动到下一个字符并经过假定的长度为 n 位的代码。返回后,它通过从 table.
中删除代码来回溯
C 中的简单实现:
#include <stdio.h>
// Huffman table:
// a 01
// b 0001
// c 1
// d 0010
char* string = "abdcc";
// 01 0001 0010 1 1
// reverse bit order (MSB first) an add extra 0 for padding to stop getBits reading past the end of the array:
#define MESSAGE_LENGTH (12)
unsigned int message[] = {0b110100100010, 0};
// can handle messages of >32 bits, even though the above message is only 12 bits long
unsigned int getBits(int start, int n)
{
return ((message[start>>5] >> (start&31)) | (message[(start>>5)+1] << (32-(start&31)))) & ((1<<n)-1);
}
unsigned int codes[26];
int code_lengths[26];
int callCount = 0;
void outputCodes()
{
// output the codes:
int i, j;
for(i = 0; i < 26; i++)
{
if(code_lengths[i] != 0)
{
printf("%c ", i + 'a');
for(j = 0; j < code_lengths[i]; j++)
printf("%s", codes[i] & (1 << j) ? "1" : "0");
printf("\n");
}
}
}
void matchHuffmanString(char* s, int len, int startbit)
{
callCount++;
if(len > MESSAGE_LENGTH - startbit)
return; // not enough bits left to encode the rest of the message even at 1 bit per char (2)
if(len == 0) // no more characters to match
{
if(startbit == MESSAGE_LENGTH)
{
// (3) we exactly used up all the bits, this stream matches.
printf("match!\n\n");
outputCodes();
printf("\nCall count: %d\n", callCount);
}
return;
}
// read a character from the string (assume 'a' to 'z'):
int c = s[0] - 'a';
// is there already a code for this character?
if(code_lengths[c] != 0)
{
// check if the code in the bit stream matches:
int length = code_lengths[c];
if(startbit + length > MESSAGE_LENGTH)
return; // ran out of bits in stream, no match
unsigned int bits = getBits(startbit, length);
if(bits != codes[c])
return; // bits don't match (4)
matchHuffmanString(s + 1, len - 1, startbit + length);
}
else
{
// this character doesn't have a code yet, consider every possible length
int i, j;
for(i = 1; i < 32; i++)
{
// are there enough bits left for a code this long?
if(startbit + i > MESSAGE_LENGTH)
continue;
unsigned int bits = getBits(startbit, i);
// does this code conflict with an existing code?
for(j = 0; j < 26; j++)
{
if(code_lengths[j] != 0) // check existing codes only
{
// do the two codes match in the first i or code_lengths[j] bits, whichever is shorter?
int length = code_lengths[j] < i ? code_lengths[j] : i;
if((bits & ((1 << length)-1)) == (codes[j] & ((1 << length)-1)))
break; // there's a conflict (1)
}
}
if(j != 26)
continue; // there was a conflict
// add the new code to the codes array and recurse:
codes[c] = bits; code_lengths[c] = i;
matchHuffmanString(s + 1, len - 1, startbit + i);
code_lengths[c] = 0; // clear the code (backtracking)
}
}
}
int main(void) {
int i;
for(i = 0; i < 26; i++)
code_lengths[i] = 0;
matchHuffmanString(string, 5, 0);
return 0;
}
输出:
match!
a 01
b 0001
c 1
d 0010
Call count: 42
上面的代码可以通过迭代字符串来改进,只要它遇到它已经有代码的字符,并且只有在找到它没有的字符时才递归。此外,它仅适用于没有空格的小写字母 a-z,并且不进行任何验证。我必须对其进行测试才能确定,但我认为即使对于长字符串也是 tractable 问题,因为任何可能的组合爆炸只会在遇到 [= 中尚无代码的新字符时发生49=],即便如此,它也受到限制。
我想知道如果给定一个二进制序列,我们是否可以使用霍夫曼算法检查它是否与字符串匹配。
例如,如果我们有一个字符串 "abdcc" 和几个二进制序列,我们可以计算出哪个是 "abdcc" 的可能表示形式,它使用了霍夫曼算法
有趣的谜题。正如 j_random_hacker 在评论中提到的,可以使用回溯搜索来做到这一点。我们可以使用字符串的有效霍夫曼编码来缩小搜索范围:
- 长度为 n 和 m 的两个霍夫曼代码的前 n 或 m 位(以较短者为准)不能相同。这是因为否则 Huffman 解码器将无法判断它在解码时遇到的是更长还是更短的代码。并且显然两个相同长度的代码不可能完全相同。 (1)
- 如果任何时候比特流中剩余的比特数少于我们正在匹配的字符串中剩余的字符数,则该字符串无法匹配。 (2)
- 如果我们到达字符串的末尾并且比特流中仍有剩余比特,则字符串不匹配 (3)
- 如果我们第二次在字符串中遇到一个字符,并且我们已经假设字符串中较早的相同字符的霍夫曼代码,那么比特流中必须存在相同的代码,否则字符串不能比赛。 (4)
我们可以定义一个函数 matchHuffmanString
来匹配具有霍夫曼编码比特流的字符串,并将霍夫曼代码 table 作为全局状态的一部分。首先,代码 table 为空,我们调用 matchHuffmanString
,传递字符串的开头和比特流的开头。
调用该函数时,它会检查流中是否有足够的位来匹配字符串,如果没有则 returns。 (2)
如果字符串为空,则如果比特流也为空,则匹配并输出代码 table。如果流为空但比特流不为空,则不存在匹配项,因此函数 returns。 (3)
如果字符串中仍有字符,则读取第一个字符。该函数检查代码 table 中是否已经存在该字符的条目,如果存在,则比特流中必须存在相同的代码。如果不是,则没有匹配项,因此函数 returns (4)。如果存在,则函数调用自身,移动到下一个字符并通过比特流中的匹配代码。
如果字符没有匹配的代码,则考虑用1位到32位(任意限制)的所有可能长度n的代码表示的可能性。从比特流中读取 n 比特并根据规则 (1) 检查此类代码是否会与任何现有代码冲突。如果不存在冲突,则将代码添加到代码 table,然后函数递归,移动到下一个字符并经过假定的长度为 n 位的代码。返回后,它通过从 table.
中删除代码来回溯C 中的简单实现:
#include <stdio.h>
// Huffman table:
// a 01
// b 0001
// c 1
// d 0010
char* string = "abdcc";
// 01 0001 0010 1 1
// reverse bit order (MSB first) an add extra 0 for padding to stop getBits reading past the end of the array:
#define MESSAGE_LENGTH (12)
unsigned int message[] = {0b110100100010, 0};
// can handle messages of >32 bits, even though the above message is only 12 bits long
unsigned int getBits(int start, int n)
{
return ((message[start>>5] >> (start&31)) | (message[(start>>5)+1] << (32-(start&31)))) & ((1<<n)-1);
}
unsigned int codes[26];
int code_lengths[26];
int callCount = 0;
void outputCodes()
{
// output the codes:
int i, j;
for(i = 0; i < 26; i++)
{
if(code_lengths[i] != 0)
{
printf("%c ", i + 'a');
for(j = 0; j < code_lengths[i]; j++)
printf("%s", codes[i] & (1 << j) ? "1" : "0");
printf("\n");
}
}
}
void matchHuffmanString(char* s, int len, int startbit)
{
callCount++;
if(len > MESSAGE_LENGTH - startbit)
return; // not enough bits left to encode the rest of the message even at 1 bit per char (2)
if(len == 0) // no more characters to match
{
if(startbit == MESSAGE_LENGTH)
{
// (3) we exactly used up all the bits, this stream matches.
printf("match!\n\n");
outputCodes();
printf("\nCall count: %d\n", callCount);
}
return;
}
// read a character from the string (assume 'a' to 'z'):
int c = s[0] - 'a';
// is there already a code for this character?
if(code_lengths[c] != 0)
{
// check if the code in the bit stream matches:
int length = code_lengths[c];
if(startbit + length > MESSAGE_LENGTH)
return; // ran out of bits in stream, no match
unsigned int bits = getBits(startbit, length);
if(bits != codes[c])
return; // bits don't match (4)
matchHuffmanString(s + 1, len - 1, startbit + length);
}
else
{
// this character doesn't have a code yet, consider every possible length
int i, j;
for(i = 1; i < 32; i++)
{
// are there enough bits left for a code this long?
if(startbit + i > MESSAGE_LENGTH)
continue;
unsigned int bits = getBits(startbit, i);
// does this code conflict with an existing code?
for(j = 0; j < 26; j++)
{
if(code_lengths[j] != 0) // check existing codes only
{
// do the two codes match in the first i or code_lengths[j] bits, whichever is shorter?
int length = code_lengths[j] < i ? code_lengths[j] : i;
if((bits & ((1 << length)-1)) == (codes[j] & ((1 << length)-1)))
break; // there's a conflict (1)
}
}
if(j != 26)
continue; // there was a conflict
// add the new code to the codes array and recurse:
codes[c] = bits; code_lengths[c] = i;
matchHuffmanString(s + 1, len - 1, startbit + i);
code_lengths[c] = 0; // clear the code (backtracking)
}
}
}
int main(void) {
int i;
for(i = 0; i < 26; i++)
code_lengths[i] = 0;
matchHuffmanString(string, 5, 0);
return 0;
}
输出:
match!
a 01
b 0001
c 1
d 0010
Call count: 42
上面的代码可以通过迭代字符串来改进,只要它遇到它已经有代码的字符,并且只有在找到它没有的字符时才递归。此外,它仅适用于没有空格的小写字母 a-z,并且不进行任何验证。我必须对其进行测试才能确定,但我认为即使对于长字符串也是 tractable 问题,因为任何可能的组合爆炸只会在遇到 [= 中尚无代码的新字符时发生49=],即便如此,它也受到限制。