读取HTML内容技巧全解析
时间:2026-03-14 08:11:37 350浏览 收藏
本文深入解析了在不同环境下读取和解析HTML文件的核心技巧与常见陷阱:浏览器中直接用fetch加载本地file://协议HTML会因CORS策略被拦截,必须通过本地HTTP服务或XMLHttpRequest绕过;使用DOMParser解析HTML字符串比innerHTML更安全可靠,能避免脚本执行和DOM污染;Node.js中需用fs模块正确读取文件并注意编码与路径问题,再结合cheerio(轻量高效、适合批量提取)或jsdom(更完整但较重)进行解析;最后强调编码识别(如GBK/Big5)这一极易被忽视却直接影响解析成败的关键环节。

用 fetch 读取本地 HTML 文件会触发 CORS 错误
浏览器直接用 fetch('./page.html') 加载本地 HTML 文件时,如果页面是通过 file:// 协议打开的,绝大多数现代浏览器会拒绝请求,并抛出类似 Blocked by CORS policy: Cross origin requests are only supported for protocol schemes: http, data, chrome, chrome-extension, https. 的错误。
这不是代码写错了,而是浏览器安全策略限制——file:// 协议不被视作合法的跨域请求源。解决方法只有两个:
- 把页面部署到本地 HTTP 服务上(推荐),比如用
npx serve、python3 -m http.server或 VS Code 的 Live Server 插件 - 改用
XMLHttpRequest并设置responseType = 'document'(仅限同源且非file://场景)
别试图用 readAsText + FileReader 去读取用户选择的 HTML 文件——那只能用于 <input type="file"> 显式选取的场景,不适用于预设路径加载。
用 DOMParser 解析 HTML 字符串比 innerHTML 更安全可靠
当你拿到一段 HTML 字符串(比如从 fetch 返回的 text() 结果),想提取其中的 或某个 class="content" 元素,不要直接往 div.innerHTML 里塞再查——这会执行内联脚本、触发图片加载、污染当前页面 DOM。
DOMParser 是专为此设计的轻量级解析器,它生成的是独立文档对象,完全隔离:
const parser = new DOMParser();
const doc = parser.parseFromString(htmlString, 'text/html');
const title = doc.querySelector('title')?.textContent;
const mainContent = doc.querySelector('.content')?.outerHTML;
注意两点:
- MIME 类型必须写成
'text/html',写成'application/xml'或漏掉会导致解析失败或行为异常 doc是完整文档,所以querySelector能直接匹配和下的元素,无需额外包裹
Node.js 环境下读取 HTML 文件要用 fs.readFileSync 或 fs.promises.readFile
在 Node.js 里没有 fetch,也不能用 DOMParser(原生不支持),得靠第三方库补全 DOM 能力。但第一步永远是把文件内容读成字符串:
const fs = require('fs');
const html = fs.readFileSync('./index.html', 'utf8');
或者用 Promise 版本:
const { readFile } = require('fs').promises;
const html = await readFile('./index.html', 'utf8');
常见坑:
- 忘记传
'utf8'编码参数,结果得到Buffer,后续parseFromString会报错 - 路径写相对路径却没注意工作目录(
process.cwd()),建议用path.resolve(__dirname, 'index.html')定位
之后才能交给 jsdom 或 cheerio 处理。例如 cheerio 的典型用法:
const $ = require('cheerio');
const html = fs.readFileSync('./index.html', 'utf8');
const $html = $.load(html);
const title = $html('title').text();
用 cheerio 提取元素比原生 DOM API 更适合服务端批量处理
如果你在 Node.js 中要批量分析几十个 HTML 文件、提取标题、链接、元数据,cheerio 是更优选择:它模拟了 jQuery API,语法简洁,不渲染、不执行 JS、内存占用低。
对比 jsdom:
cheerio没有window、document全局对象,不能运行脚本,但解析速度通常快 3–5 倍cheerio.load()返回的是“伪 DOM”,所有选择器操作都基于字符串分析,因此不支持:has()、:nth-child(2n)等复杂 CSS4 伪类(除非升级到 v1.0+ 并启用xmlMode: false)- 若 HTML 不规范(如自闭合标签写成
而非),cheerio默认能容错,DOMParser在严格模式下可能报错
一个真实场景示例:提取所有带 href 的外链,并排除站内路径:
const $ = require('cheerio');
const html = fs.readFileSync('page.html', 'utf8');
const $html = $.load(html);
const externalLinks = [];
$html('a[href]').each((i, el) => {
const href = $html(el).attr('href');
if (href && /^https?:\/\//.test(href)) {
externalLinks.push(href);
}
});
实际处理 HTML 时,最易被忽略的是编码识别——特别是老站点用 gbk 或 big5 编码却没声明 ,这时 fs.readFileSync 或 fetch 拿到的内容会乱码,后续所有解析都失效。遇到这类情况,得先用 iconv-lite 或 encoding-sniffer 探测真实编码再转 UTF-8。理论要掌握,实操不能落!以上关于《读取HTML内容技巧全解析》的详细介绍,大家都掌握了吧!如果想要继续提升自己的能力,那么就来关注golang学习网公众号吧!
-
502 收藏
-
501 收藏
-
501 收藏
-
501 收藏
-
501 收藏
-
146 收藏
-
353 收藏
-
372 收藏
-
339 收藏
-
484 收藏
-
142 收藏
-
213 收藏
-
419 收藏
-
282 收藏
-
210 收藏
-
262 收藏
-
238 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 立即学习 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 立即学习 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 立即学习 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 立即学习 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 立即学习 485次学习