在 d2i_RSAPrivateKey_fp() 中崩溃

Question

我有一个小 VC++ 代码来加载 ASN.1 .der 文件并读取其 private 密钥。它编译并运行良好，但在函数 d2i_RSAPrivateKey_fp 处崩溃。

使用的工具：

Visual Studio 2008 [V90]
OpenSSL 1.0.2d 2015 年 7 月 9 日

我还测试了证书以检查它是否已损坏

检测证书：

C:\OpenSSL-Win32\bin>openssl rsa -in  private.der -check -inform DER
RSA key ok
writing RSA key
-----BEGIN RSA PRIVATE KEY-----
MIICXAIBAAKBgQC/4V4jxRYeFBDh8XBNq2EMs3hXWW5IIN51lM/Oyz0U/Bw8HF0m
/VBJU3SCy2FzoYPa2o3HHYWDMnjmOlXb9aXR3hyLHnvgvE/0YkMXlxh58H1srjw4
FL7cLXe+lwFbZYtxRaHyn/3U3NIkZkCzR74oxHwyWJ1/zz+TzpmNx8AfyQIDAQAB
AoGAMn+9puxXxdLCHrTMOaTBBfa11UdUHueHpKplhqc2jC9NvwQ3/+rrFmFAaKve
GfCIIzEh3yWF3eGKsAzqS9l6qiyAT+LaCPcn7FbAsaMdVGPc4G290/3maASjQMj6
YfNTcmvPaqfq2+B+aNunS0pi6XGv3917KdGo4hTa2xFXwAECQQDfm5Rh0CjDwhjh
urghbvBgGVRJiAFowgp9xdJj8Hm/U+zXK9Tz2SwVcbEKbcqSVZqB8Keb11TEfF3W
JGIHGdOJAkEA260wKNAdWxgEXiSCEx/tSV3bcRQg4ypTqODc0cWtM295/lhV2Hgx
3zWQ5NiBYZsU104DLWlxnqulJKyBECmaQQJAFAjskpcEEAYkFJWWSeiWwQWD99Kn
zasVJY/D+hBh2DK81cqnmfGrcYBuTHDp5ZKl9V6Kpfv1LGW4Qqef4OL/gQJAb1Mp
IMW22r8lF4Bw2rhHS/LgjkGhGP4OP3sU7Mm8qGBJ9ndVqcnfnDpNH2wIxSoOOb4z
JgRVrA9YNWmmTkaHAQJBANiY3RDyEouYoNKN0oWXsZ/N6BwSFOYAAknmdY5uRwu2
tUQHFiW7u2wZCFmIZVqSBZc5XBdZcmffZeEiO1nVYH4=
-----END RSA PRIVATE KEY-----

C:\OpenSSL-Win32\bin>

下面是项目的代码。

我试过的东西:

Win32OpenSSL-0_9_8zg（但同样的问题），OpenSSL 1.0.1
尝试将 libeay 链接到 MD、MDd、MT
设置标志以生成 /MAP、/MAPINFO:EXPORTS、/ASSEMBLYDEBUG
导出到 VS2010 项目并使用 openssl32 为 VS2010 编译

#include <stdio.h>
#include <conio.h>
#include <string.h>
#include <openssl/rsa.h>
#include <openssl/x509.h>
#include <openssl/err.h>
#include <stdio.h>

int main()
{
    int ret;
    RSA *pkey=NULL;//RSA_new();
    RSA *rsa =NULL;//RSA_new();

    unsigned char text[2048/8] = "this is a test string";
    unsigned char  encrypted[4098]={};
    unsigned char decrypted[4098]={};

    OpenSSL_add_all_algorithms();   
    OpenSSL_add_all_ciphers();  
    OpenSSL_add_all_digests();  
    ERR_load_ERR_strings();

    FILE *fp;
    fp = fopen("C:/Users/Public/private.der","rb");

    if (fp != NULL) 
    {
        rsa = d2i_RSAPrivateKey_fp(fp, &pkey);   // <<< CRASH
    }
    else
    {
        //return "Error::Unable to read private key file";
    }

    if (rsa)
    {
        // RSA is good
        ret = RSA_private_encrypt(RSA_size(pkey), text, encrypted, pkey, RSA_NO_PADDING);
        if (ret == -1)
        {
            fclose(fp);
            //return "Error::Failed to encrypt the data";
        }
    }
    else
    {
        fclose(fp);
        //return "Error::Failed to get *RSA Handle1";
    }
    fclose(fp);
}

第二次尝试

我在将私钥从 ASN.1 .der 文件导入到 .pem 文件时遇到问题。

C:\OpenSSL-Win32\bin>openssl rsa -in private.der -inform DER -out privatepem.pem -outform PEM 

writing RSA key

现在，我有 .PEM 文件，其中包含 Base64 格式的私钥，我会将其转换为 RSA *rsa；结构。

int main()
{
    int ret;
    RSA *pkey=NULL;//RSA_new();
    RSA *rsa =NULL;//RSA_new();

    FILE *fp;
    fp = fopen("C:/Users/Public/privatepem.pem","r");

    if(PEM_read_RSAPrivateKey(fp, &rsa, NULL, NULL) == NULL)  // <<<CRASH
    {
        printf("\n%s\n", "Error Reading public key");
    }
    else
    {
        printf("\n%s\n", "Private key Imported");
    }

    return 0;
}

但是在 .pem 文件上运行的新代码在复制到位于 PEM_read_RSAPrivateKey 的 RSA 结构时发生崩溃。

为什么我会崩溃？有没有我想做的事情，可能是某种初始化或密钥有问题？

Answer 1

请参阅 d2i_X509 处的警告。此代码将尝试释放（或重用部分）pkey 对象：

if (fp != NULL) 
    rsa = d2i_RSAPrivateKey_fp(fp, &pkey);   /* CRASH */

OpenSSL 在对参数采取操作之前验证参数并不完全为人所知:)

改为使用：

if (fp != NULL) 
    rsa = d2i_RSAPrivateKey_fp(fp, NULL);

或者：

RSA* pkey = RSA_new();
...

if (fp != NULL) 
    rsa = d2i_RSAPrivateKey_fp(fp, &pkey);

另请参阅 OpenSSL 用户邮件列表中的 Seg fault from d2i_RSAPrivateKey_fp。

至于按指示使用 API 后出现崩溃，听起来您还有其他问题。由于 OpenSSL 是跨平台的，因此它 "write once, run everywhere"。将基于 OpenSSL 的 TLS 逻辑移植到 Linux，并在其上安装像 Valgrind 这样的内存检查器。

Answer 2

问题已通过替换 OpenSSL 二进制文件解决。

代码无需任何更改即可运行。项目具有来自未知来源的 OpenSSL 的预构建依赖项。

因此，仅通过替换“https://slproweb.com/products/Win32OpenSSL.html”中的依赖项，它就像一个魅力。

:) 谢谢大家

在 d2i_RSAPrivateKey_fp() 中崩溃

Crash in d2i_RSAPrivateKey_fp()

c++

windows

visual-c++

visual-studio-2008

openssl