将值复制到从 C++ 调用的汇编函数中的指针地址nasm

问题描述

我正在尝试学习 x86-64 汇编，我找到了“现代 X86 汇编语言编程：涵盖 x86 64 位、AVX、AVX2 和 AVX-512”一书，但它使用 MASM 和 Visual C++ 和我使用Linux。所以我试图将其中的一些程序转换为 NASM 语法，但是我遇到了将计算结果存储在传递给函数的指针中的问题。 C++ 代码是

#include <iostream>
#include <iomanip>
#include <bitset>
using namespace std;
extern "C" int IntegerShift_(unsigned int a,unsigned int count,unsigned int* a_shl,unsigned int* a_shr);
static void PrintResult(const char* s,int rc,unsigned int a,unsigned int a_shl,unsigned int a_shr)
{
        bitset<32> a_bs(a);
        bitset<32> a_shr_bs(a_shl);
        bitset<32> a_shl_bs(a_shr);
        const int w = 10;
        const char nl = '\n';

        cout << s << nl;
        cout << "count = " << setw(w) << count << nl;
        cout << "a = " << setw(w) << a << " (0b" << a_bs << ")" << nl;

        if (rc == 0)
                cout << "Invalid shift count" << nl;
        else
        {
                cout << "shl = " << setw(w) << a_shl << " (0b" << a_shl_bs << ")" << nl;
                cout << "shr = " << setw(w) << a_shr << " (0b" << a_shr_bs << ")" << nl;
        }
        cout << nl;
}

int main()
{
        int rc;
        unsigned int a,count,a_shl,a_shr;
        a = 3119;
        count = 6;
        rc = IntegerShift_(a,&a_shl,&a_shr);
        PrintResult("Test 1",rc,a,a_shr);

    return 0;
}

此代码测试用汇编编写的函数 IntegerShift_。 （在 main 函数中还有一些测试我没有在这里包含，因为它们与我包含的测试基本相同）。 书中原始汇编代码为MASM代码：

    
.code
IntegerShift_ proc
xor eax,eax 
cmp edx,31            
ja InvalidCount            
xchg ecx,edx    
mov eax,edx  
shl eax,cl    
mov [r8],eax  
shr edx,cl   
mov [r9],1
InvalidCount:    
ret    
IntegerShift_ endp
end

将其转换为 NASM 代码的明显方法（至少据我所知）如下：

section .text
global IntegerShift_
IntegerShift_:
xor eax,eax
cmp esi,31           
ja InvalidCount            
xchg ecx,esi    
mov eax,esi  
shl eax,cl    
mov [rdx],eax  
shr esi,cl   
mov [rsi],1
InvalidCount:    
ret 

然而，组装、编译和运行它：

nasm -f elf64 [asm filename]
g++ -Wall -no-pie [object file filename] [cpp filename] -o prog
./prog

导致分段错误。我尝试了所有我能想到的方法来解决这个问题，并在这上面花了几个多小时，但我无法让它工作。我几乎可以肯定问题是我尝试将结果存储在 a_shl 和 a_shr 指针的地址中的方式，但我无法理解我做错了什么，我真的很感激一些帮助。 提前致谢！

解决方法

首先，Windows 和 Linux 的调用约定不同。

https://en.wikipedia.org/wiki/X86_calling_conventions

• 看来你没有完全改变这个..

其次，虽然您主要可以使用 32 位寄存器，但您必须将地址视为其完整的 64 位值。

最后，您还要修改 esi，然后使用 rsi - 它们是重叠的寄存器 - 这就是导致您的分段错误的原因。

随着这些变化：

;extern "C" int IntegerShift_(unsigned int a,unsigned int count,unsigned int* a_shl,unsigned int* a_shr);
; RDI,RSI,RDX,RCX,section .text
global IntegerShift_
IntegerShift_:
xor eax,eax
cmp esi,31
ja InvalidCount
xchg rcx,rsi    ; Need full 64-bit exchange
mov eax,edi     ; (r)di is the 'a' value
shl eax,cl
mov [rdx],eax
shr edi,cl      
mov [rsi],edi
mov eax,1
InvalidCount:
ret

,

你能单步执行代码吗？在这种情况下，您应该能够找到它的段错误。

另一种方法是用 C 编写代码并查看反汇编列表。 如果代码在 C 中工作，您可以使用汇编代码并根据您的喜好对其进行优化。 你试过了吗？

另外，你看过这篇文章吗？ http://left404.com/2011/01/04/converting-x86-assembly-from-masm-to-nasm-3