当前位置:首页 > 文章列表 > 文章 > 前端 > Rvest抓取NPB比赛数据实战教程

Rvest抓取NPB比赛数据实战教程

2026-03-02 14:09:53 0浏览 收藏
本文手把手教你用R语言rvest包稳定抓取日本职业棒球联盟(NPB)官网的多维比赛数据表,直击SSL证书错误、DOM结构动态变化与CSS选择器失效等实战痛点,通过本地缓存绕过HTTPS验证、精准定位.stdtblmain容器、启用fill=TRUE处理跨行合并单元格,并辅以编码声明和请求头模拟,提供一套开箱即用、高鲁棒性的爬虫解决方案——无论你是R新手还是数据分析师,都能快速获取干净、对齐、可直接分析的NPB结构化数据。

Rvest 网页爬虫实战:高效抓取日本职业棒球联盟(NPB)数据表

本文详解如何使用 R 语言的 rvest 包稳定抓取 npb.jp 网站上的多表格统计数据,重点解决 SSL 证书错误、动态结构识别与 CSS 选择器失效等常见问题,并提供可复用的健壮代码方案。

在使用 rvest 抓取日本职业棒球联盟(NPB)官网(如 https://npb.jp/bis/eng/2022/stats/std_c.html)时,许多用户会遇到“无法定位表格”的问题——即使 HTML 成功加载,html_nodes() 却返回空结果。这通常并非代码逻辑错误,而是由三方面原因导致:HTTPS 证书验证失败、网页实际 DOM 结构与开发者工具显示不一致、以及目标表格缺乏稳定 ID 或 class 标识

首先,直接通过 URL 调用 read_html() 可能触发 SSL 证书错误(尤其在 Windows 或某些 R 版本下),导致页面解析中断或返回不完整 HTML。此时建议采用「本地缓存」策略:手动保存网页源码为 .html 文件(浏览器右键 → “查看页面源代码” → 全选复制 → 保存为 UTF-8 编码的 baseball.html),再从本地读取:

library(rvest)
library(magrittr)

# ✅ 推荐:绕过证书问题,确保 HTML 完整加载
url <- "baseball.html"  # 替换为你的本地路径
doc <- read_html(url)

其次,原问题中使用的 CSS 选择器 #stdivmaintbl > table > tbody > tr > td > div:nth-child(1) 过于具体且依赖 DOM 深层嵌套,极易因网页微小更新而失效。经检查,NPB 页面中所有主统计表格均包裹在具有统一类名 stdtblmain 的

中,这是更鲁棒的选择器:

# ✅ 正确:定位所有主数据表容器
tables <- doc %>% html_nodes(".stdtblmain") %>% html_table(fill = TRUE)

html_table(fill = TRUE) 中的 fill = TRUE 参数至关重要——它能自动对齐跨行合并单元格(如 NPB 表中常见的“Team”跨行标题),避免列错位。最终 tables 是一个列表,其中 tables[[1]] 对应球队总览表,tables[[2]] 通常为投手/打者进阶统计表(依页面结构而定)。

⚠️ 注意事项:

  • 编码处理:若出现乱码(如日文字符显示为 ?),请在 read_html() 后显式声明编码:read_html(url, encoding = "UTF-8");
  • 反爬机制:NPB 官网虽无强反爬,但仍建议添加请求头模拟浏览器访问(适用于直连 URL 场景):
    url <- "https://npb.jp/bis/eng/2022/stats/std_c.html"
    doc <- read_html(url, 
                     timeout = 30,
                     httr::user_agent("Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36"))
  • 数据清洗提示:原始表格常含空行、合并标题行及占位符(如 "***" 表示“自身交锋”)。建议后续使用 dplyr::filter(!is.na(X1)) 清理空行,并用 tidyr::pivot_longer() 重构宽表。

总结而言,成功抓取 NPB 数据的关键在于:规避网络层障碍(证书/超时)、选用语义化 CSS 类选择器(.stdtblmain)、启用 fill = TRUE 处理复杂表格结构,并始终以本地 HTML 快照作为调试基准。该模式同样适用于 NPB 其他年份/赛季页面(只需替换 URL 路径),具备良好的可迁移性。

到这里,我们也就讲完了《Rvest抓取NPB比赛数据实战教程》的内容了。个人认为,基础知识的学习和巩固,是为了更好的将其运用到项目中,欢迎关注golang学习网公众号,带你了解更多关于的知识点!

千问AI提升文章文采与可读性技巧千问AI提升文章文采与可读性技巧
上一篇
千问AI提升文章文采与可读性技巧
笔记本不充电,电池损耗怎么办?
下一篇
笔记本不充电,电池损耗怎么办?
查看更多
最新文章
资料下载
查看更多
课程推荐
  • 前端进阶之JavaScript设计模式
    前端进阶之JavaScript设计模式
    设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
    543次学习
  • GO语言核心编程课程
    GO语言核心编程课程
    本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
    516次学习
  • 简单聊聊mysql8与网络通信
    简单聊聊mysql8与网络通信
    如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
    500次学习
  • JavaScript正则表达式基础与实战
    JavaScript正则表达式基础与实战
    在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
    487次学习
  • 从零制作响应式网站—Grid布局
    从零制作响应式网站—Grid布局
    本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
    485次学习
查看更多
AI推荐
  • ChatExcel酷表:告别Excel难题,北大团队AI助手助您轻松处理数据
    ChatExcel酷表
    ChatExcel酷表是由北京大学团队打造的Excel聊天机器人,用自然语言操控表格,简化数据处理,告别繁琐操作,提升工作效率!适用于学生、上班族及政府人员。
    4104次使用
  • Any绘本:开源免费AI绘本创作工具深度解析
    Any绘本
    探索Any绘本(anypicturebook.com/zh),一款开源免费的AI绘本创作工具,基于Google Gemini与Flux AI模型,让您轻松创作个性化绘本。适用于家庭、教育、创作等多种场景,零门槛,高自由度,技术透明,本地可控。
    4454次使用
  • 可赞AI:AI驱动办公可视化智能工具,一键高效生成文档图表脑图
    可赞AI
    可赞AI,AI驱动的办公可视化智能工具,助您轻松实现文本与可视化元素高效转化。无论是智能文档生成、多格式文本解析,还是一键生成专业图表、脑图、知识卡片,可赞AI都能让信息处理更清晰高效。覆盖数据汇报、会议纪要、内容营销等全场景,大幅提升办公效率,降低专业门槛,是您提升工作效率的得力助手。
    4342次使用
  • 星月写作:AI网文创作神器,助力爆款小说速成
    星月写作
    星月写作是国内首款聚焦中文网络小说创作的AI辅助工具,解决网文作者从构思到变现的全流程痛点。AI扫榜、专属模板、全链路适配,助力新人快速上手,资深作者效率倍增。
    5805次使用
  • MagicLight.ai:叙事驱动AI动画视频创作平台 | 高效生成专业级故事动画
    MagicLight
    MagicLight.ai是全球首款叙事驱动型AI动画视频创作平台,专注于解决从故事想法到完整动画的全流程痛点。它通过自研AI模型,保障角色、风格、场景高度一致性,让零动画经验者也能高效产出专业级叙事内容。广泛适用于独立创作者、动画工作室、教育机构及企业营销,助您轻松实现创意落地与商业化。
    4699次使用
微信登录更方便
  • 密码登录
  • 注册账号
登录即同意 用户协议隐私政策
返回登录
  • 重置密码