Golang实现简易Web爬虫教程

Golang小白一枚，正在不断学习积累知识，现将学习到的知识记录一下，也是将我的所得分享给大家！而今天这篇文章《Golang实现简单Web爬虫教程》带大家来了解一下##content_title##，希望对大家的知识积累有所帮助，从而弥补自己的不足，助力实战开发！

用Golang实现一个简单的Web爬虫需先发起HTTP请求获取网页内容，再解析HTML提取信息，然后控制频率与并发避免被封，最后处理相对路径和去重。首先使用net/http库发起GET请求或设置Header模拟浏览器获取网页源码；接着用goquery库解析HTML并提取所需数据如链接；通过带缓冲的channel限制并发数并加入随机延时控制请求频率；最后用map记录已访问URL防止重复，并用net/url包处理相对路径拼接完整URL。

用Golang实现一个简单的Web爬虫并不难，尤其适合刚入门的新手。它不像Python那样生态丰富，但Go在并发和性能方面有天然优势，特别适合做网络请求密集型的任务，比如爬虫。

这篇文章会从最基础的步骤讲起，帮你快速写出一个能抓取网页内容的小工具。

获取网页内容：发起HTTP请求

爬虫的第一步是访问目标网页，获取HTML源码。Go语言标准库中的net/http已经足够完成这个任务。

你可以使用如下方式发起GET请求：

resp, err := http.Get("https://example.com")
if err != nil {
    log.Fatal(err)
}
defer resp.Body.Close()

body, _ := io.ReadAll(resp.Body)
fmt.Println(string(body))

上面这段代码就完成了对一个网页的请求，并读取了它的响应内容。需要注意几点：

• 一定要记得关闭resp.Body，否则会造成资源泄露。
• 有些网站会设置User-Agent检查，这时候需要手动设置Header：

req, _ := http.NewRequest("GET", "https://example.com", nil)
req.Header.Set("User-Agent", "Mozilla/5.0")
client := &http.Client{}
resp, _ := client.Do(req)

解析HTML内容：提取所需信息

拿到网页内容之后，下一步就是解析HTML，提取你感兴趣的数据。Go里常用的库是goquery，它模仿了jQuery的语法，用起来非常方便。

举个例子，你想提取所有标签里的链接：

doc, _ := goquery.NewDocumentFromReader(strings.NewReader(html))
doc.Find("a").Each(func(i int, s *goquery.Selection) {
    href, _ := s.Attr("href")
    fmt.Println(href)
})

这里的关键点在于：

• 使用goquery.NewDocumentFromReader将字符串HTML转成可操作的文档对象。
• 使用类似jQuery的选择器语法进行查找。
• 多注意Attr()返回的第二个值是否为true，避免空指针。

如果你只是想提取结构化的数据，也可以考虑用标准库里的golang.org/x/net/html包，不过写起来会稍微麻烦一点。

控制频率与并发：别让网站把你封了

爬虫跑得太快容易被网站识别为异常行为，甚至封IP。所以控制请求频率和并发数量是很重要的一步。

Go的goroutine和channel机制在这方面非常好用。你可以通过带缓冲的channel来限制最大并发数：

sem := make(chan struct{}, 3) // 最多同时3个请求
for _, url := range urls {
    sem <- struct{}{}
    go func(u string) {
        // 抓取逻辑
        <-sem
    }(u)
}

另外，建议每次请求之间加个随机延时，例如：

time.Sleep(time.Duration(rand.Intn(2)+1) * time.Second)

这样可以更贴近真实用户的行为，减少被屏蔽的风险。

小贴士：处理相对路径和去重

实际开发中你会发现很多问题：

• 链接可能是相对路径，比如/page/1，你需要拼接成完整URL。
• 同一个页面可能被多次抓取，需要记录已访问的URL防止重复。

可以用一个map或set结构保存已抓取的URL：

visited := make(map[string]bool)
if !visited[url] {
    visited[url] = true
    // 继续抓取
}

至于拼接URL，可以用url.JoinURL(base, href)或者标准库里的net/url包来处理。

基本上就这些了。用Go写一个简单的爬虫不复杂，但要注意细节。刚开始不用追求功能齐全，先跑通流程，再慢慢加功能，比如持久化存储、代理支持等。

以上就是本文的全部内容了，是否有顺利帮助你解决问题？若是能给你带来学习上的帮助，请大家多多支持golang学习网！更多关于Golang的相关知识，也可关注golang学习网公众号。