接上一节,schedinit完成调度系统初始化后,返回到rt0go函数中开始调用newproc() 创建一个新的goroutine用于执行mainPC所对应的runtime·main函数,看下面的代码:
    _runtime/asm_amd64.s : 197

    1. # create a new goroutine to start program
    2. MOVQ $runtime·mainPC(SB), AX# entry,mainPC是runtime.main
    3. # newproc的第二个参数入栈,也就是新的goroutine需要执行的函数
    4. PUSHQ AX # AX = &funcval{runtime·main},
    5. # newproc的第一个参数入栈,该参数表示runtime.main函数需要的参数大小,因为runtime.main没有参数,所以这里是0
    6. PUSHQ $0
    7. CALL runtime·newproc(SB) # 创建main goroutine
    8. POPQ AX
    9. POPQ AX
    10. # start this M
    11. CALL runtime·mstart(SB) # 主线程进入调度循环,运行刚刚创建的goroutine
    12. # 上面的mstart永远不应该返回的,如果返回了,一定是代码逻辑有问题,直接abort
    13. CALL runtime·abort(SB)// mstart should never return
    14. RET
    15. DATA runtime·mainPC+0(SB)/8,$runtime·main(SB)
    16. GLOB Lruntime·mainPC(SB),RODATA,$8

    在后面的分析过程中我们会看到这个runtime.main最终会调用我们写的main.main函数,在分析runtime·main之前我们先把重点放在newproc这个函数上。
    newproc函数用于创建新的goroutine,它有两个参数,先说第二个参数fn,新创建出来的goroutine将从fn这个函数开始执行,而这个fn函数可能也会有参数,newproc的第一个参数正是fn函数的参数以字节为单位的大小。比如有如下go代码片段:

    1. func start(a, b, c int64) {
    2. ......
    3. }
    4. func main() {
    5. go start(1, 2, 3)
    6. }

    编译器在编译上面的go语句时,就会把其替换为对newproc函数的调用,编译后的代码逻辑上等同于下面的伪代码

    1. func main() {
    2. push 0x3
    3. push 0x2
    4. push 0x1
    5. runtime.newproc(24, start)
    6. }

    编译器编译时首先会用几条指令把start函数需要用到的3个参数压栈,然后调用newproc函数。因为start函数的3个int64类型的参数共占24个字节,所以传递给newproc的第一个参数是24,表示start函数需要24字节大小的参数。

    那为什么需要传递fn函数的参数大小给newproc函数呢?原因就在于newproc函数将创建一个新的goroutine来执行fn函数,而这个新创建的goroutine与当前这个goroutine会使用不同的栈,因此就需要在创建goroutine的时候把fn需要用到的参数先从当前goroutine的栈上拷贝到新的goroutine的栈上之后才能让其开始执行,而newproc函数本身并不知道需要拷贝多少数据到新创建的goroutine的栈上去,所以需要用参数的方式指定拷贝多少数据。

    了解完这些背景知识之后,下面我们开始分析newproc的代码。newproc函数是对newproc1的一个包装,这里最重要的准备工作有两个,一个是获取fn函数第一个参数的地址(代码中的argp),另一个是使用systemstack函数切换到g0栈,当然,对于我们这个初始化场景来说现在本来就在g0栈,所以不需要切换,然而这个函数是通用的,在用户的goroutine中也会创建goroutine,这时就需要进行栈的切换。
    runtime/proc.go : 3232

    1. // Create a new g running fn with siz bytes of arguments.
    2. // Put it on the queue of g's waiting to run.
    3. // The compiler turns a go statement into a call to this.
    4. // Cannot split the stack because it assumes that the arguments
    5. // are available sequentially after &fn; they would not be
    6. // copied if a stack split occurred.
    7. //go:nosplit
    8. func newproc(siz int32, fn *funcval) {
    9. //函数调用参数入栈顺序是从右向左,而且栈是从高地址向低地址增长的
    10. //注意:argp指向fn函数的第一个参数,而不是newproc函数的参数
    11. //参数fn在栈上的地址+8的位置存放的是fn函数的第一个参数
    12. argp := add(unsafe.Pointer(&fn), sys.PtrSize)
    13. gp:= getg() //获取正在运行的g,初始化时是m0.g0
    14. //getcallerpc()返回一个地址,也就是调用newproc时由call指令压栈的函数返回地址,
    15. //对于我们现在这个场景来说,pc就是CALLruntime·newproc(SB)指令后面的POPQ AX这条指令的地址
    16. pc := getcallerpc()
    17. //systemstack的作用是切换到g0栈执行作为参数的函数
    18. //我们这个场景现在本身就在g0栈,因此什么也不做,直接调用作为参数的函数
    19. systemstack(func() {
    20. newproc1(fn, (*uint8)(argp), siz, gp, pc)
    21. })
    22. }

    newproc1函数的第一个参数fn是新创建的goroutine需要执行的函数,注意这个fn的类型是funcval结构体类型,其定义如下:

    1. type funcval struct{
    2. fn uintptr
    3. // variable-size, fn-specific data here
    4. }

    newproc1的第二个参数argp是fn函数的第一个参数的地址,第三个参数是fn函数的参数以字节为单位的大小,后面两个参数我们不用关心。这里需要注意的是,newproc1是在g0的栈上执行的。该函数很长也很重要,所以我们分段来看。
    runtime/proc.go : 3248

    1. // Create a new g running fn with narg bytes of arguments starting
    2. // at argp. callerpc is the address of the go statement that created
    3. // this. The new g is put on the queue of g's waiting to run.
    4. func newproc1(fn *funcval, argp *uint8, narg int32, callergp *g, callerpc uintptr) {
    5. //因为已经切换到g0栈,所以无论什么场景都有 _g_ = g0,当然这个g0是指当前工作线程的g0
    6. //对于我们这个场景来说,当前工作线程是主线程,所以这里的g0 = m0.g0
    7. _g_ := getg()
    8. ......
    9. _p_ := _g_.m.p.ptr() //初始化时_p_ = g0.m.p,从前面的分析可以知道其实就是allp[0]
    10. newg := gfget(_p_) //从p的本地缓冲里获取一个没有使用的g,初始化时没有,返回nil
    11. if newg == nil {
    12. //new一个g结构体对象,然后从堆上为其分配栈,并设置g的stack成员和两个stackgard成员
    13. newg = malg(_StackMin)
    14. casgstatus(newg, _Gidle, _Gdead) //初始化g的状态为_Gdead
    15. //放入全局变量allgs切片中
    16. allgadd(newg) // publishes with a g->status of Gdead so GC scanner doesn't look at uninitialized stack.
    17. }
    18. ......
    19. //调整g的栈顶置针,无需关注
    20. totalSize := 4*sys.RegSize+uintptr(siz) +sys.MinFrameSize// extra space in case of reads slightly beyond frame
    21. totalSize += -totalSize&(sys.SpAlign-1) // align to spAlign
    22. sp := newg.stack.hi-totalSize
    23. spArg := sp
    24. ......
    25. if narg > 0 {
    26. //把参数从执行newproc函数的栈(初始化时是g0栈)拷贝到新g的栈
    27. memmove(unsafe.Pointer(spArg), unsafe.Pointer(argp), uintptr(narg))
    28. // ......
    29. }

    无论用于封装的这个GO函数的G是否全新,运行时系统都会对他进行一次初始化,包括go函数以及设置G的状态和ID等步骤。在初始化完成之后,这个G会立即被存储到本地P的runnext字段中,该字段用于存储刚出炉的G,以便于更好的运行它。如果这时runnext字段已经存有一个G,那么这个已有的G就会被放到该P的可运行G队列的末尾。如果该队列已满,那么这个G就只能追加到调度器的可运行G队列中了

    这段代码主要从堆上分配一个g结构体对象并为这个newg分配一个大小为2048字节的栈,并设置好newg的stack成员,然后把newg需要执行的函数的参数从执行newproc函数的栈(初始化时是g0栈)拷贝到newg的栈,完成这些事情之后newg的状态如下图所示:
    image.png
    我们可以看到,经过前面的代码之后,程序中多了一个我们称之为newg的g结构体对象,该对象也已经获得了从堆上分配而来的2k大小的栈空间,newg的stack.hi和stack.lo分别指向了其栈空间的起止位置。
    接下来我们继续分析newproc1函数。
    runtime/proc.go : 3314

    1. //把newg.sched结构体成员的所有成员设置为0
    2. memclrNoHeapPointers(unsafe.Pointer(&newg.sched), unsafe.Sizeof(newg.sched))
    3. //设置newg的sched成员,调度器需要依靠这些字段才能把goroutine调度到CPU上运行。
    4. newg.sched.sp = sp //newg的栈顶
    5. newg.stktopsp = sp
    6. //newg.sched.pc表示当newg被调度起来运行时从这个地址开始执行指令
    7. //把pc设置成了goexit这个函数偏移1(sys.PCQuantum等于1)的位置,
    8. //至于为什么要这么做需要等到分析完gostartcallfn函数才知道
    9. newg.sched.pc = funcPC(goexit) + sys.PCQuantum// +PCQuantum so that previous instruction is in same function
    10. newg.sched.g = guintptr(unsafe.Pointer(newg))
    11. gostartcallfn(&newg.sched, fn)//调整sched成员和newg的栈

    这段代码首先对newg的sched成员进行了初始化,该成员包含了调度器代码在调度goroutine到CPU运行时所必须的一些信息,其中sched的sp成员表示newg被调度起来运行时应该使用的栈的栈顶,sched的pc成员表示当newg被调度起来运行时从这个地址开始执行指令,然而从上面的代码可以看到,new.sched.pc被设置成了goexit函数的第二条指令的地址而不是fn.fn,这是为什么呢?要回答这个问题,必须深入到gostartcallfn函数中做进一步分析。

    1. // adjust Gobuf as if it executed a call to fn
    2. // and then did an immediate gosave.
    3. func gostartcallfn(gobuf *gobuf, fv *funcval) {
    4. var fn unsafe.Pointer
    5. if fv != nil {
    6. fn = unsafe.Pointer(fv.fn) //fn: gorotine的入口地址,初始化时对应的是runtime.main
    7. } else {
    8. fn = unsafe.Pointer(funcPC(nilfunc))
    9. }
    10. gostartcall(gobuf, fn, unsafe.Pointer(fv))
    11. }

    gostartcallfn首先从参数fv中提取出函数地址(初始化时是runtime.main),然后继续调用gostartcall函数。

    1. // adjust Gobuf as if it executed a call to fn with context ctxt
    2. // and then did an immediate gosave.
    3. func gostartcall(buf *gobuf, fn, ctxt unsafe.Pointer) {
    4. sp := buf.sp//newg的栈顶,目前newg栈上只有fn函数的参数,sp指向的是fn的第一参数
    5. if sys.RegSize > sys.PtrSize {
    6. sp -= sys.PtrSize
    7. *(*uintptr)(unsafe.Pointer(sp)) = 0
    8. }
    9. sp -= sys.PtrSize//为返回地址预留空间,
    10. //这里在伪装fn是被goexit函数调用的,使得fn执行完后返回到goexit继续执行,从而完成清理工作
    11. *(*uintptr)(unsafe.Pointer(sp)) = buf.pc//在栈上放入goexit+1的地址
    12. buf.sp = sp//重新设置newg的栈顶寄存器
    13. //这里才真正让newg的ip寄存器指向fn函数,注意,这里只是在设置newg的一些信息,newg还未执行,
    14. //等到newg被调度起来运行时,调度器会把buf.pc放入cpu的IP寄存器,
    15. //从而使newg得以在cpu上真正的运行起来
    16. buf.pc = uintptr(fn)
    17. buf.ctxt = ctxt
    18. }

    gostartcall函数的主要作用有两个:

    1. 调整newg的栈空间,把goexit函数的第二条指令的地址入栈,伪造成goexit函数调用了fn,从而使fn执行完成后执行ret指令时返回到goexit继续执行完成最后的清理工作;

    2. 重新设置newg.buf.pc 为需要执行的函数的地址,即fn,我们这个场景为runtime.main函数的地址。

    调整完成newg的栈和sched成员之后,返回到newproc1函数,我们继续往下看,

    1. newg.gopc = callerpc //主要用于traceback
    2. newg.ancestors = saveAncestors(callergp)
    3. //设置newg的startpc为fn.fn,该成员主要用于函数调用栈的traceback和栈收缩
    4. //newg真正从哪里开始执行并不依赖于这个成员,而是sched.pc
    5. newg.startpc = fn.fn
    6. ......
    7. //设置g的状态为_Grunnable,表示这个g代表的goroutine可以运行了
    8. casgstatus(newg, _Gdead, _Grunnable)
    9. ......
    10. //把newg放入_p_的运行队列,初始化的时候一定是p的本地运行队列,其它时候可能因为本地队列满了而放入全局队列
    11. runqput(_p_, newg, true)
    12. ......
    13. }

    newproc1函数最后这点代码比较直观,首先设置了几个与调度无关的成员变量,然后修改newg的状态为_Grunnable并把其放入了运行队列,到此程序中第一个真正意义上的goroutine已经创建完成。
    这时newg也就是main goroutine的状态如下图所示:
    image.png

    这个图看起来比较复杂,因为表示指针的箭头实在是太多了,这里对其稍作一下解释。

    • 首先,main goroutine对应的newg结构体对象的sched成员已经完成了初始化,图中只显示了pc和sp成员,pc成员指向了runtime.main函数的第一条指令,sp成员指向了newg的栈顶内存单元,该内存单元保存了runtime.main函数执行完成之后的返回地址,也就是runtime.goexit函数的第二条指令,预期runtime.main函数执行完返回之后就会去执行runtime.exit函数的CALL runtime.goexit1(SB)这条指令;
    • 其次,newg已经放入与当前主线程绑定的p结构体对象的本地运行队列,因为它是第一个真正意义上的goroutine,还没有其它goroutine,所以它被放在了本地运行队列的头部;
    • 最后,newg的m成员为nil,因为它还没有被调度起来运行,也就没有跟任何m进行绑定。

    这一节我们分析了程序中第一个goroutine也就是main goroutine的创建,下一节我们继续分析它是怎么被主工作线程调度到CPU上去执行的。