将值复制到从 C++ (nasm) 调用的汇编函数中的指针地址

Question

我正在尝试学习 x86-64 汇编，我找到了《现代 X86 汇编语言编程：涵盖 x86 64 位、AVX、AVX2 和 AVX-512》这本书，但它使用 MASM 和 Visual C++ 和我使用 Linux。所以我试图将其中的一些程序转换为 NASM-syntax，但我遇到了将计算结果存储在传递给函数的指针中的问题。 C++代码是

#include <iostream>
#include <iomanip>
#include <bitset>
using namespace std;
extern "C" int IntegerShift_(unsigned int a, unsigned int count, unsigned int* a_shl, unsigned int* a_shr);
static void PrintResult(const char* s, int rc, unsigned int a, unsigned int count, unsigned int a_shl, unsigned int a_shr)
{
        bitset<32> a_bs(a);
        bitset<32> a_shr_bs(a_shl);
        bitset<32> a_shl_bs(a_shr);
        const int w = 10;
        const char nl = '\n';

        cout << s << nl;
        cout << "count = " << setw(w) << count << nl;
        cout << "a = " << setw(w) << a << " (0b" << a_bs << ")" << nl;

        if (rc == 0)
                cout << "Invalid shift count" << nl;
        else
        {
                cout << "shl = " << setw(w) << a_shl << " (0b" << a_shl_bs << ")" << nl;
                cout << "shr = " << setw(w) << a_shr << " (0b" << a_shr_bs << ")" << nl;
        }
        cout << nl;
}

int main()
{
        int rc;
        unsigned int a, count, a_shl, a_shr;
        a = 3119;
        count = 6;
        rc = IntegerShift_(a, count, &a_shl, &a_shr);
        PrintResult("Test 1", rc, a, count, a_shl, a_shr);

    return 0;
}

这段代码测试了函数IntegerShift_，它是用汇编写的。（主函数中还有一些我没有包含在此处的测试，因为它们与我包含的测试基本相同）。书中原汇编代码为MASM代码：

    
.code
IntegerShift_ proc
xor eax,eax 
cmp edx,31            
ja InvalidCount            
xchg ecx,edx    
mov eax,edx  
shl eax,cl    
mov [r8],eax  
shr edx,cl   
mov [r9],edx    
mov eax,1
InvalidCount:    
ret    
IntegerShift_ endp
end

将其转换为 NASM 代码（至少据我所知）的明显方法如下：

section .text
global IntegerShift_
IntegerShift_:
xor eax,eax
cmp esi,31           
ja InvalidCount            
xchg ecx,esi    
mov eax,esi  
shl eax,cl    
mov [rdx],eax  
shr esi,cl   
mov [rsi],esi    
mov eax,1
InvalidCount:    
ret

然而，组装、编译和运行这与：

nasm -f elf64 [asm filename]
g++ -Wall -no-pie [object file filename] [cpp filename] -o prog
./prog

导致分段错误。我尝试了我能想到的所有方法来解决这个问题，并为此花了几个多小时，但我无法让它工作。我几乎可以肯定问题是我尝试将结果存储在 a_shl 和 a_shr 指针的地址中的方式，但我不明白我做错了什么，我真的会感谢一些帮助。提前致谢！

Answer 1

你能单步执行代码吗？在那种情况下，您应该能够找到它的段错误。

另一种方法是用C 编写代码并查看反汇编列表。如果代码在 C 中工作，您可以使用汇编代码并根据自己的喜好对其进行优化。你试过了吗？

另外，你看过这篇文章吗？ http://left404.com/2011/01/04/converting-x86-assembly-from-masm-to-nasm-3

Answer 2

首先，Windows和Linux的调用约定不同。

https://en.wikipedia.org/wiki/X86_calling_conventions

看来你没有完全改变这个..

其次，虽然您主要可以使用 32 位寄存器，但您必须将地址视为其完整的 64 位值。

最后，您还修改了 esi 然后使用 rsi - 它们是重叠的寄存器 - 这就是导致您的分段错误的原因。

有了这些变化：

;extern "C" int IntegerShift_(unsigned int a, unsigned int count, unsigned int* a_shl, unsigned int* a_shr);
; RDI, RSI, RDX, RCX,

section .text
global IntegerShift_
IntegerShift_:
xor eax,eax
cmp esi,31
ja InvalidCount
xchg rcx,rsi    ; Need full 64-bit exchange
mov eax,edi     ; (r)di is the 'a' value
shl eax,cl
mov [rdx],eax
shr edi,cl      
mov [rsi],edi
mov eax,1
InvalidCount:
ret

将值复制到从 C++ (nasm) 调用的汇编函数中的指针地址

copying a value into the address of a pointer in an assembly function called from c++ (nasm)

c++

assembly

x86-64

nasm

calling-convention