使用 go-colly 解析 HTML,函数返回一个空切片
在使用 go-colly 框架解析 HTML 时,遇到函数返回空切片的问题。分析后发现,这是由于切片标头更新发生在回调函数中,而返回的值是旧的切片标头。为了解决此问题,建议使用切片指针作为函数参数或返回值,以确保切片标头的更新反映在主函数中。通过这种方式,可以正确获取解析后的数据。
我正在使用 colly 框架解析网站,但发生了一些错误。我有一个非常基本的函数 getweeks()
来抓取并返回一些东西,但我得到的是一个空切片。
func getWeeks(c *colly.Collector) []string { var wks []string c.OnHTML("div.ltbluediv", func(div *colly.HTMLElement) { weekName := div.DOM.Find("span").Text() // a string Week 1, Week 2 etc wks = append(wks, weekName) // weekName has actual value is not empty // If `wks` printed here it shows correctly how the slice gets populated on each iteration }) return wks // returns [] } func main() { c := colly.NewCollector( ) w := getWeeks(c) fmt.Println(w) // [] c.OnRequest(func(r *colly.Request) { r.Headers.Set("User-Agent", "Mozilla/5.0 (Windows NT 6.1; Win64; x64)") }) c.Visit("target url") }
正确答案
tl;dr:切片标头在 onhtml
回调内更新,但您在 main
中打印的值是旧的切片标头。您应该使用 *[]string
来代替。
首先,您传递给 c.onhtml
的回调实际上只会在您调用 c.visit
之后运行,因此在 getweeks
之后立即打印 w
,在任何情况下都会显示一个空切片。
但是,即使在 c.visit
之后打印它也会是一个空切片,为什么?
go 中的切片是作为一种数据结构实现的 - 称为切片头(更多信息:1、2)。
当您分配 getweeks
的返回值时,您实际上是在复制切片标头,包括其字段 data
、len
和 cap
。您可以通过使用 %p
动词打印切片的地址来在 this playground 中看到它(使用其他结构而不是 go-colly 使示例自包含):
func getweeks(c *foo) []string { var wks []string c.onhtml("div.ltbluediv", func(text string) { weekname := text wks = append(wks, weekname) }) fmt.printf("%p\n", &wks) return wks } func main() { c := &foo{} w := getweeks(c) c.visit("target url") fmt.printf("%p\n", &w) }
打印两个不同的内存地址:
0xc0000ac030 0xc0000ac018
现在,如果您继续在 stack overflow 上查找有关切片和 append
行为的信息,您可能会发现,如果切片具有足够的容量(1、2、3),则不会重新分配后备数组。
但是,即使您通过使用足够的容量初始化 wks
来确保后备数组相同,w
的值仍然是原始切片标头的副本,因此长度为 0。 this playground 对此进行了演示,其中打印:
in getweeks reflect.sliceheader{data:0xc0000121b0, len:0, cap:3} in callback reflect.sliceheader{data:0xc0000121b0, len:1, cap:3} in callback reflect.sliceheader{data:0xc0000121b0, len:2, cap:3} in callback reflect.sliceheader{data:0xc0000121b0, len:3, cap:3} [] in main reflect.sliceheader{data:0xc0000121b0, len:0, cap:3}
您可以通过重新切片来调整 w
的长度 (playground):
c.visit("target url") w = w[0:3] fmt.println(w) // [foo bar baz]
但这意味着您需要事先知道不会导致重新分配的合理容量,以及重新切片的最终长度。
相反,返回一个指向切片的指针:
func getweeks(c *colly.collector) *[]string { wks := &[]string{} c.onhtml("div.ltbluediv", func(div *colly.htmlelement) { weekname := div.dom.find("span").text() *wks = append(*wks, weekname) }) return wks }
或者将指针传递给 getweeks
:
func getWeeks(c *colly.Collector, wks *[]string) { c.OnHTML("div.ltbluediv", func(div *colly.HTMLElement) { weekName := div.DOM.Find("span").Text() *wks = append(*wks, weekName) }) }
固定演示:https://go.dev/play/p/yhq8YYnkFsv
今天带大家了解了的相关知识,希望对你有所帮助;关于Golang的技术知识我们会一点点深入介绍,欢迎大家关注golang学习网公众号,一起学习编程~

- 上一篇
- PHP 自动加载的艺术:精雕细琢,优化性能

- 下一篇
- Java Kubernetes 与 Java:从入门到精通的完整指南
-
- Golang · Go问答 | 1年前 |
- 在读取缓冲通道中的内容之前退出
- 139浏览 收藏
-
- Golang · Go问答 | 1年前 |
- 戈兰岛的全球 GOPRIVATE 设置
- 204浏览 收藏
-
- Golang · Go问答 | 1年前 |
- 如何将结构作为参数传递给 xml-rpc
- 325浏览 收藏
-
- Golang · Go问答 | 1年前 |
- 如何用golang获得小数点以下两位长度?
- 477浏览 收藏
-
- Golang · Go问答 | 1年前 |
- 如何通过 client-go 和 golang 检索 Kubernetes 指标
- 486浏览 收藏
-
- Golang · Go问答 | 1年前 |
- 将多个“参数”映射到单个可变参数的习惯用法
- 439浏览 收藏
-
- Golang · Go问答 | 1年前 |
- 将 HTTP 响应正文写入文件后出现 EOF 错误
- 357浏览 收藏
-
- Golang · Go问答 | 1年前 |
- 结构中映射的匿名列表的“复合文字中缺少类型”
- 352浏览 收藏
-
- Golang · Go问答 | 1年前 |
- NATS Jetstream 的性能
- 101浏览 收藏
-
- Golang · Go问答 | 1年前 |
- 如何将复杂的字符串输入转换为mapstring?
- 440浏览 收藏
-
- Golang · Go问答 | 1年前 |
- 相当于GoLang中Java将Object作为方法参数传递
- 212浏览 收藏
-
- Golang · Go问答 | 1年前 |
- 如何确保所有 goroutine 在没有 time.Sleep 的情况下终止?
- 143浏览 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 542次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 508次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 497次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 484次学习
-
- 茅茅虫AIGC检测
- 茅茅虫AIGC检测,湖南茅茅虫科技有限公司倾力打造,运用NLP技术精准识别AI生成文本,提供论文、专著等学术文本的AIGC检测服务。支持多种格式,生成可视化报告,保障您的学术诚信和内容质量。
- 26次使用
-
- 赛林匹克平台(Challympics)
- 探索赛林匹克平台Challympics,一个聚焦人工智能、算力算法、量子计算等前沿技术的赛事聚合平台。连接产学研用,助力科技创新与产业升级。
- 51次使用
-
- 笔格AIPPT
- SEO 笔格AIPPT是135编辑器推出的AI智能PPT制作平台,依托DeepSeek大模型,实现智能大纲生成、一键PPT生成、AI文字优化、图像生成等功能。免费试用,提升PPT制作效率,适用于商务演示、教育培训等多种场景。
- 58次使用
-
- 稿定PPT
- 告别PPT制作难题!稿定PPT提供海量模板、AI智能生成、在线协作,助您轻松制作专业演示文稿。职场办公、教育学习、企业服务全覆盖,降本增效,释放创意!
- 55次使用
-
- Suno苏诺中文版
- 探索Suno苏诺中文版,一款颠覆传统音乐创作的AI平台。无需专业技能,轻松创作个性化音乐。智能词曲生成、风格迁移、海量音效,释放您的音乐灵感!
- 60次使用
-
- GoLand调式动态执行代码
- 2023-01-13 502浏览
-
- 用Nginx反向代理部署go写的网站。
- 2023-01-17 502浏览
-
- Golang取得代码运行时间的问题
- 2023-02-24 501浏览
-
- 请问 go 代码如何实现在代码改动后不需要Ctrl+c,然后重新 go run *.go 文件?
- 2023-01-08 501浏览
-
- 如何从同一个 io.Reader 读取多次
- 2023-04-11 501浏览