主流的编译器前端遵循词法解析、语法解析、语义解析等流程,然后才是基于中间表示的层层优化并最终产生目标代码。在得到抽象的语法树之后就表示完成了语法解析的工作。不过在进行中间优化或代码生成之前还需要对抽象语法树进行语义分析。语义分析需要更深层次理解代码的语义,比如两个变量相加是否合法,外层作用域有多个同名的变量时如何选择等。

语义错误

虽然Go语言是基于包和目录来组织代码,但是Go语言在语法树解析阶段并不关心包之间的依赖关系。这是因为在语法树解析阶段并不对代码本身做语义检测,因此很多语法正确但是语义错误的代码也可以生成语法树。

  1. func main() {
  2. fset := token.NewFileSet()
  3. f, err := parser.ParseFile(fset, "hello.go", src, parser.AllErrors)
  4. if err != nil {
  5. log.Fatal(err)
  6. }
  7. ast.Print(fset, f)
  8. }
  9. const src = `package pkg
  10. func hello() {
  11. var _ = "a" + 1
  12. }
  13. `

在被解析的代码的hello函数,可以正常生成语法树。但是hello函数中唯一的语句var _ = “a” + 1的语义却是错误的,因为Go语言中不能将一个字符串和一个数字进行相加。如何识别这种语义层面的错误是go/types包需要完成的工作。

go/types包

使用go/types包来检查之前例子中的语法错误

  1. func main() {
  2. fset := token.NewFileSet()
  3. f, err := parser.ParseFile(fset, "hello.go", src, parser.AllErrors)
  4. if err != nil {
  5. log.Fatal(err)
  6. }
  7. pkg, err := new(types.Config).Check("hello.go", fset, []*ast.File{f}, nil)
  8. if err != nil {
  9. log.Fatal(err)
  10. }
  11. _ = pkg
  12. }
  13. const src = `package pkg
  14. func hello() {
  15. var _ = "a" + 1
  16. }
  17. `

在通过parser.ParseFile解析单文件得到语法树之后,通过new(types.Config).Check函数来解析语法树中的语义错误。new(types.Config)首先是构造一个用于类型检查的配置对象,然后调用其唯一的Check方法检测语法树的语义。Check方法的签名如下:

运行这个程序将产生以下的错误信息:

  1. hello.go:4:10: cannot convert "a" (untyped string constant) to untyped int

错误提示在hello.go文件的第4行第10个字符位置的”a”字符串语法错误,无法将字符串常量转化为无类型的int类型。这样我们就可以轻易定位代码中出现错误的位置和错误产生的原因。

跨包的类型检查

真实的代码总是由多个包组成的,而go/parser包只处理当前包,如何处理导入包的类型是一个重要问题。比如有以下的代码:

  1. package main
  2. import "math"
  3. func main() {
  4. var _ = "a" + math.Pi
  5. }

代码导入的是math包,然后引用了其中的math.Pi元素。要验证当前代码是否语义正确的前提,首先需要获取math.Pi元素的类型,因此首先要处理包的导入问题。
如果依然采用new(types.Config).Check方式验证将得到以下的错误:

  1. hello.go:3:8: could not import math (Config.Importer not installed)

错误产生的原因是types.Config类型的检查对象并不知道如何加载math包的信息。types.Config对象的Importer成员负责导入依赖包,其定义如下:

  1. type Config struct {
  2. Importer Importer
  3. }
  4. type Importer interface {
  5. Import(path string) (*Package, error)
  6. }

包中导出元素的信息。
对于标准库的math包,可以采用go/importer提供的默认包导入实现。代码如下:

  1. // import "go/importer"
  2. conf := types.Config{Importer: importer.Default()}
  3. pkg, err := conf.Check("hello.go", fset, []*ast.File{f}, nil)
  4. if err != nil {
  5. log.Fatal(err)
  6. }

其中types.Config对象的Importer成员对应包导入对象,由importer.Default()初始化。然后就可以正常处理输入代码了。
不过importer.Default()处理的是Go语义当前环境的代码结构。Go语义代码结构是比较复杂的,其中包含标准库和用户的模块代码,每个包还可能启动了CGO特性。为了便于理解,我们可以手工构造一个简单的math包,因此包导入过程也可以简化。
为了简化,我们继续假设每个包只有一个源代码文件。定义Program结构体表示一个完整的程序对象,代码如下:

  1. type Program struct {
  2. fs map[string]string
  3. ast map[string]*ast.File
  4. pkgs map[string]*types.Package
  5. fset *token.FileSet
  6. }
  7. func NewProgram(fs map[string]string) *Program {
  8. return &Program{
  9. fs: fs,
  10. ast: make(map[string]*ast.File),
  11. pkgs: make(map[string]*types.Package),
  12. fset: token.NewFileSet(),
  13. }
  14. }

其中fs表示每个包对应的源代码字符串,ast表示每个包对应的语法树,pkgs表示经过语义检查的包对象,fset则表示文件的位置信息。

首先为Program类型增加包加载LoadPackage方法:

  1. func (p *Program) LoadPackage(path string) (pkg *types.Package, f *ast.File, err error) {
  2. if pkg, ok := p.pkgs[path]; ok {
  3. return pkg, p.ast[path], nil
  4. }
  5. f, err = parser.ParseFile(p.fset, path, p.fs[path], parser.AllErrors)
  6. if err != nil {
  7. return nil, nil, err
  8. }
  9. conf := types.Config{Importer: nil}
  10. pkg, err = conf.Check(path, p.fset, []*ast.File{f}, nil)
  11. if err != nil {
  12. return nil, nil, err
  13. }
  14. p.ast[path] = f
  15. p.pkgs[path] = pkg
  16. return pkg, f, nil
  17. }

因为没有初始化types.Config的Importer成员,因此目前该方法只能加载没有导入其他包的叶子类型的包(对应math包就是这种类型)。比如叶子类型的math包被加载成功之后,则会被记录到Program对象的ast和pkgs成员中。然后当遇到已经被记录过的叶子包被导入时,就可以复用这些信息。
因此可以为Program类型实现types.Importer接口,只有一个Import方法:

  1. func (p *Program) Import(path string) (*types.Package, error) {
  2. if pkg, ok := p.pkgs[path]; ok {
  3. return pkg, nil
  4. }
  5. return nil, fmt.Errorf("not found: %s", path)
  6. }

现在Program类型实现了types.Importer接口,就可以用于types.Config的包加载工作:

  1. func (p *Program) LoadPackage(path string) (pkg *types.Package, f *ast.File, err error) {
  2. // ...
  3. conf := types.Config{Importer: p} // 用 Program 作为包导入器
  4. pkg, err = conf.Check(path, p.fset, []*ast.File{f}, nil)
  5. if err != nil {
  6. return nil, nil, err
  7. }
  8. // ...
  9. }

然后可以通过手工方式先加载叶子类型的math包,然后再加载主包:

  1. func main() {
  2. prog := NewProgram(map[string]string{
  3. "hello": `
  4. package main
  5. import "math"
  6. func main() { var _ = 2 * math.Pi }
  7. `,
  8. "math": `
  9. package math
  10. const Pi = 3.1415926
  11. `,
  12. })
  13. _, _, err := prog.LoadPackage("math")
  14. if err != nil {
  15. log.Fatal(err)
  16. }
  17. pkg, f, err := prog.LoadPackage("hello")
  18. if err != nil {
  19. log.Fatal(err)
  20. }
  21. }

这种依赖包的导入包的加载是递归的,因此可以在导入环节的Import方法增加递归处理:

  1. func (p *Program) Import(path string) (*types.Package, error) {
  2. if pkg, ok := p.pkgs[path]; ok {
  3. return pkg, nil
  4. }
  5. pkg, _, err := p.LoadPackage(path)
  6. return pkg, err
  7. }

当pkgs成员没有包信息时,通过LoadPackage方法加载。如果LoadPackage要导入的包是非叶子类型的包,会再次递归回到Import方法。因为Go语义禁止循环包导入,因此最终会在导入叶子包的时刻由LoadPackage函数返回结束递归。当然在真实的代码中,需要额外记录一个状态用于检查递归导入类型的错误。
这样我们就实现了一个支持递归包导入的功能,从而可以实现对于任何一个加载的语法树进行完整的类型检查。