Go io.TeeReader 记录上传流量而不改变数据流
来源:17golang原创
时间:2026-09-28 22:52:42 379浏览 收藏
上传文件时,如果直接把请求体读入 []byte 再统计,内存和延迟都会跟着文件大小增长。更稳妥的做法是把原始 io.Reader 交给 io.TeeReader,再把已经读出的字节同步写给一个只计数的 io.Writer。下游仍然从 TeeReader 读取同一份数据,统计器不会改写内容。
io.TeeReader没有内部缓冲,读取一段数据后会同步写入旁路 Writer。- 统计量代表“实际被读取并成功写入统计器”的字节数,不等同于请求头的 Content-Length。
- 包装 HTTP 请求体时要保留原始 Close,统计器写入失败也必须当作上传失败处理。
io.TeeReader 的核心是读取时复制,不是事后回放
它接收一个 Reader 和一个 Writer,返回的仍是 Reader。每次下游调用 Read,TeeReader 先从源 Reader 取得数据,再把这段数据写入 Writer,写入完成后才返回读取结果。Go 官方实现明确没有内部缓冲,因此旁路 Writer 变慢时,上传读取也会变慢;Writer 返回错误时,这个错误会从 Read 传回调用方。

用只计数 Writer 记录真正经过的字节
计数 Writer 不需要保存上传内容,只要按 Write 收到的切片长度累加,并返回完整长度即可。下面的包装器还保留了原请求体的 Close,避免为了统计而把资源生命周期改掉:
type byteCounter struct {
n int64
}
func (c *byteCounter) Write(p []byte) (int, error) {
// 统计已经被 TeeReader 读到的字节,不复制上传内容。
c.n += int64(len(p))
return len(p), nil
}
type readCloser struct {
io.Reader
io.Closer
}
func withUploadCount(body io.ReadCloser) (*byteCounter, io.ReadCloser) {
counter := new(byteCounter)
// TeeReader 只负责旁路写入,Close 仍委托给原始请求体。
wrapped := readCloser{
Reader: io.TeeReader(body, counter),
Closer: body,
}
return counter, wrapped
}
这个计数器是单个请求内使用的。如果多个 goroutine 会同时消费同一个 Reader,应先重新设计读取模型;Go 的 io 原语默认也不能推断为并发安全。
把包装后的 Reader 接到上传转发链路
统计器准备好后,直接把返回的 Reader 交给 io.Copy。复制成功时,返回值是实际从流中读出的字节数;复制提前失败时,计数器可能已经包含部分数据,不能把它当成完整上传量。
func saveUpload(dst io.Writer, body io.ReadCloser) (int64, error) {
counter, countedBody := withUploadCount(body)
defer countedBody.Close()
// io.Copy 按需读取;每次读取都会先经过计数器的 Write。
written, err := io.Copy(dst, countedBody)
if err != nil {
// 这里同时覆盖源 Reader、目标 Writer 和旁路统计器的错误。
return counter.n, fmt.Errorf("保存上传流失败,已统计 %d 字节: %w", counter.n, err)
}
if written != counter.n {
// 正常的全量复制中两者应一致,差异提示链路实现有问题。
return counter.n, fmt.Errorf("统计字节数不一致: copy=%d count=%d", written, counter.n)
}
return counter.n, nil
}
生产代码还可以把 counter.n 写入请求日志或进度指标,但不要把完整上传内容写入日志。若要限制体积,应在 TeeReader 外层配合 http.MaxBytesReader 或 io.LimitReader,限制与统计是两个不同职责。

三个容易混淆的流量口径
| 口径 | 含义 | 适合用途 |
|---|---|---|
| Content-Length | 请求方声明的长度,可能缺失或不可信 | 预估、限额和协议层判断 |
| byteCounter.n | 已经从源 Reader 读出并成功写入统计器的字节 | 实时进度与实际读取量 |
| io.Copy 返回值 | 目标 Writer 接收的字节数 | 落盘或转发结果判断 |
TeeReader 不是异步镜像器,也不会替下游缓存数据。旁路 Writer 写得慢,读取就会被反压;旁路写失败,上传不能继续当作成功。若业务只想观测而不希望观测系统拖慢主链路,应另行设计有界缓冲、丢弃策略和可观测性指标,不能误以为 TeeReader 自带这些能力。
常见问题
io.TeeReader 会把上传内容完整保存下来吗?
不会。它只把当前 Read 返回的字节写给 Writer,是否保存由 Writer 决定;只计数 Writer 只保留一个数字。
为什么统计值比 Content-Length 小?
请求可能没有读完就因目标错误、限制或业务提前退出。TeeReader 统计的是实际经过读取链路的数据,不是请求头声明值。
能不能用 io.MultiWriter 替代 TeeReader?
两者位置不同。MultiWriter 复制写入端已经拥有的数据,TeeReader 在读取端旁路观察数据;对上传 Reader 做流式统计时,TeeReader 更直接。
-
188 收藏
-
278 收藏
-
151 收藏
-
101 收藏
-
323 收藏
-
233 收藏
-
265 收藏
-
295 收藏
-
344 收藏
-
187 收藏
-
222 收藏
-
412 收藏
-
246 收藏
-
174 收藏
-
493 收藏
-
348 收藏
-
129 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 立即学习 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 立即学习 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 立即学习 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 立即学习 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 立即学习 485次学习