登录
首页 >  文章 >  前端

Rvest抓取NPB比赛数据实战教程

时间:2026-03-02 14:09:53 329浏览 收藏

本文手把手教你用R语言rvest包稳定抓取日本职业棒球联盟(NPB)官网的多维比赛数据表,直击SSL证书错误、DOM结构动态变化与CSS选择器失效等实战痛点,通过本地缓存绕过HTTPS验证、精准定位.stdtblmain容器、启用fill=TRUE处理跨行合并单元格,并辅以编码声明和请求头模拟,提供一套开箱即用、高鲁棒性的爬虫解决方案——无论你是R新手还是数据分析师,都能快速获取干净、对齐、可直接分析的NPB结构化数据。

Rvest 网页爬虫实战:高效抓取日本职业棒球联盟(NPB)数据表

本文详解如何使用 R 语言的 rvest 包稳定抓取 npb.jp 网站上的多表格统计数据,重点解决 SSL 证书错误、动态结构识别与 CSS 选择器失效等常见问题,并提供可复用的健壮代码方案。

在使用 rvest 抓取日本职业棒球联盟(NPB)官网(如 https://npb.jp/bis/eng/2022/stats/std_c.html)时,许多用户会遇到“无法定位表格”的问题——即使 HTML 成功加载,html_nodes() 却返回空结果。这通常并非代码逻辑错误,而是由三方面原因导致:HTTPS 证书验证失败、网页实际 DOM 结构与开发者工具显示不一致、以及目标表格缺乏稳定 ID 或 class 标识

首先,直接通过 URL 调用 read_html() 可能触发 SSL 证书错误(尤其在 Windows 或某些 R 版本下),导致页面解析中断或返回不完整 HTML。此时建议采用「本地缓存」策略:手动保存网页源码为 .html 文件(浏览器右键 → “查看页面源代码” → 全选复制 → 保存为 UTF-8 编码的 baseball.html),再从本地读取:

library(rvest)
library(magrittr)

# ✅ 推荐:绕过证书问题,确保 HTML 完整加载
url <- "baseball.html"  # 替换为你的本地路径
doc <- read_html(url)

其次,原问题中使用的 CSS 选择器 #stdivmaintbl > table > tbody > tr > td > div:nth-child(1) 过于具体且依赖 DOM 深层嵌套,极易因网页微小更新而失效。经检查,NPB 页面中所有主统计表格均包裹在具有统一类名 stdtblmain 的

中,这是更鲁棒的选择器:

# ✅ 正确:定位所有主数据表容器
tables <- doc %>% html_nodes(".stdtblmain") %>% html_table(fill = TRUE)

html_table(fill = TRUE) 中的 fill = TRUE 参数至关重要——它能自动对齐跨行合并单元格(如 NPB 表中常见的“Team”跨行标题),避免列错位。最终 tables 是一个列表,其中 tables[[1]] 对应球队总览表,tables[[2]] 通常为投手/打者进阶统计表(依页面结构而定)。

⚠️ 注意事项:

  • 编码处理:若出现乱码(如日文字符显示为 ?),请在 read_html() 后显式声明编码:read_html(url, encoding = "UTF-8");
  • 反爬机制:NPB 官网虽无强反爬,但仍建议添加请求头模拟浏览器访问(适用于直连 URL 场景):
    url <- "https://npb.jp/bis/eng/2022/stats/std_c.html"
    doc <- read_html(url, 
                     timeout = 30,
                     httr::user_agent("Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36"))
  • 数据清洗提示:原始表格常含空行、合并标题行及占位符(如 "***" 表示“自身交锋”)。建议后续使用 dplyr::filter(!is.na(X1)) 清理空行,并用 tidyr::pivot_longer() 重构宽表。

总结而言,成功抓取 NPB 数据的关键在于:规避网络层障碍(证书/超时)、选用语义化 CSS 类选择器(.stdtblmain)、启用 fill = TRUE 处理复杂表格结构,并始终以本地 HTML 快照作为调试基准。该模式同样适用于 NPB 其他年份/赛季页面(只需替换 URL 路径),具备良好的可迁移性。

到这里,我们也就讲完了《Rvest抓取NPB比赛数据实战教程》的内容了。个人认为,基础知识的学习和巩固,是为了更好的将其运用到项目中,欢迎关注golang学习网公众号,带你了解更多关于的知识点!

资料下载
最新阅读
更多>
课程推荐
更多>
  • 前端进阶之JavaScript设计模式
    前端进阶之JavaScript设计模式
    设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
    立即学习 543次学习
  • GO语言核心编程课程
    GO语言核心编程课程
    本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
    立即学习 516次学习
  • 简单聊聊mysql8与网络通信
    简单聊聊mysql8与网络通信
    如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
    立即学习 500次学习
  • JavaScript正则表达式基础与实战
    JavaScript正则表达式基础与实战
    在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
    立即学习 487次学习
  • 从零制作响应式网站—Grid布局
    从零制作响应式网站—Grid布局
    本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
    立即学习 485次学习