扩展是Colly附带的小助手实用程序。插件列表在这里是可用的。

使用

下面的示例启用随机用户代理切换器和引用setter扩展,并访问httpbin.org两次。

  1. import (
  2. "log"
  3. "github.com/gocolly/colly"
  4. "github.com/gocolly/colly/extensions"
  5. )
  6. func main() {
  7. c := colly.NewCollector()
  8. visited := false
  9. extensions.RandomUserAgent(c)
  10. extensions.Referer(c)
  11. c.OnResponse(func(r *colly.Response) {
  12. log.Println(string(r.Body))
  13. if !visited {
  14. visited = true
  15. r.Request.Visit("/get?q=2")
  16. }
  17. })
  18. c.Visit("http://httpbin.org/get")
  19. }