函数调用约定是对函数调用时如何传递参数的一种约定。调用函数前要先把参数压入栈然后再传递给函数。栈就是定义在进程中的一段内存空间,向低地址扩展,且其大小被记录在PE头中。也就是说进程运行时确定栈内存大小(与mallow/new动态分布内存不同)。
提问1.函数执行完成后,栈中参数如何处理?
由于只是临时使用存储在栈中的值,即使不再使用,清除工作也会浪费CPU资源。下一次再向栈存入其他值时,原有值会被自然覆盖掉,并且栈内存是固定的,所以既不能也没必要释放内存。
提问2.函数执行完毕后,ESP值如何变化
栈内存是固定的,ESP用来指示栈的当前位置,若ESP指向栈底,则无法再使用该栈。函数调用后如何处理ESP,这就是函数调用约定要解决的问题。主要函数调用约定如下。
cdecl、stdcall、fastcall
应用程序的调试中,cdecl与stdcall的区别非常明显。不管采用哪种方式,通过栈来传递的基本概都一样。

调用者:调用函数的一方。
被调用者:被调用的函数。

cdecl

cdecl是主要在C语言中使用的方式,调用者负责处理栈。
{SL@{%3)C]]LP6JCP4DHYUJ.png
$7KMP~`V){2)M`4]B93O`OI.png
从图中401013~40101C地址间的代码可以发现,add()函数的参数1、2以逆序方式入栈,调用add()函数(401000)后,使用ADD ESP,8命令整理栈。调用者main()函数直接清理其压入栈的函数参数,这样的方式即是cdecl。
![3F@1WZIT%69{6}KCIF%2SA.png
cdecl方式的好处在于,它可以像C语言的printf()函数一样,向被调用函数传递长度可变的参数。这种长度可变的参数在其它调用约定中很难实现。

stdcall

stdcall方式常用于Win32 API,该方式由被调用者清理栈。C语言默认的函数调用方式为cdecl。使用stdcall方式编译源码时,只需使用_stdcall关键字即可。
![JA)A]3Q{1Y(_BW0M3C`@{L.png
由图中可见,在main()函数中调用add()函数后,省略了清理栈的代码(ADD ESP,8)。栈的清理工作由add()函数中最后(40100A)的RETN 8命令来执行。RETN 8命令含义为RETN+POP 8字节,即返回后使ESP增加到指定大小。
WK5Z2]0495T$WO2HS)WBPMG.png
在被调用者add()函数内部清理栈的方式即为stdcall方式。stdcall方式的好处在于,被调用者函数内部存在着栈清理代码,与每次调用函数时都要用ADD ESP,XXX命令的cdecl方式相比,代码尺寸要小。虽然Win32API是使用C语言编写的库,但它使用的是stdcall方式,而不是C语言默认的cdecl方式。这是为了获得更好的兼容性,使C语言之外的其他语言(Delphi(Pascal)、Visual Basic等)也能直接调用API。

fastcall

该方式与stdcall方式基本类似,但该方式通常会使用寄存器(而非栈内存)去传播那些需要传递给函数的部分参数(前2个)。若某函数有4个参数,则前2个参数分别使用ECX、EDX寄存器传递。
fastcall方式的优势在于可以实现对函数的快速调用(从CPU的立场看,访问寄存器的速度要远比内存块的多)。单从函数调用本身来看,fastcall方式非常快,但是有时需要额外的系统开销来管理ECX、EDX寄存器。倘若调用函数前ECX、EDX中存有重要数据,那么使用他们前必须先备份。此外,如果函数本身很复杂,需要把ECX、EDX寄存器用作其他用途时,也需要将它们中的参数值存储到另外某个地方。