登录
推荐 文章 Go 技术 课程 下载 专题 AI
首页 >  Golang >  Go教程

Go bufio.Scanner 怎样处理超过默认限制的长行

来源:17golang原创

时间:2026-11-17 07:31:19 290浏览 收藏

用 bufio.Scanner 按行读取日志或 JSON Lines 时,最容易遇到的现象是:短行可以正常读取,一旦某一行变长,Scan() 提前停止,后面却没有看到明显的业务错误。原因通常不是文件突然结束,而是 token 放不进 Scanner 的缓冲区。

处理方法是:在第一次调用 Scan() 之前执行 scanner.Buffer,把初始缓冲和允许的最大 token 尺寸设到符合输入协议的范围;循环结束后再检查 scanner.Err()。如果需要保留当前行,还要复制 scanner.Bytes() 返回的内容。

先分清默认限制和真正的错误

Scanner 默认使用内部缓冲,并把最大 token 尺寸设为 MaxScanTokenSize,当前标准库源码中这个常量是 64×1024 字节。默认的 ScanLines 还要考虑行结束符,因此业务字符串长度接近上限时,仍可能因为没有空间容纳完整 token 而失败。

不要只用 for scanner.Scan() 后的计数判断成功。扫描停止后要读取 Err();EOF 会被 Scanner 当作正常结束,而 token 太长会返回 bufio.ErrTooLong 这一类非 EOF 错误。

Scanner 默认缓冲、Buffer 参数和 token 上限之间的静态关系说明图
图1:Scanner 的缓冲容量关系说明图,展示初始缓冲、max 上限和 Scan 的静态边界;这是说明图,不是运行截图。

在第一次 Scan 前扩大 Buffer

Buffer 的第一个参数提供初始缓冲,第二个参数限制扫描期间允许分配的最大缓冲。对于能够估算上限的日志行、单条 JSON 记录或导入字段,可以先给一个适中的初始容量,再给出更大的最大值:

package main

import (
    "bufio"
    "fmt"
    "io"
    "strings"
)

func readLongLines(r io.Reader) error {
    scanner := bufio.NewScanner(r)
    // 初始缓冲用于减少扩容;max 是单个 token 允许使用的最大字节数。
    scanner.Buffer(make([]byte, 32*1024), 2*1024*1024)

    lineNumber := 0
    for scanner.Scan() {
        lineNumber++
        // Bytes 只在下一次 Scan 前保证有效;需要异步处理时应先复制。
        line := append([]byte(nil), scanner.Bytes()...)
        fmt.Printf("line=%d bytes=%d value=%q\n", lineNumber, len(line), line)
    }
    // EOF 不算错误;长 token、底层读取失败等情况必须返回给调用方。
    if err := scanner.Err(); err != nil {
        return fmt.Errorf("scan line %d: %w", lineNumber+1, err)
    }
    return nil
}

func main() {
    // 示例输入只用于展示调用方式,不代表文章发布时执行过这段代码。
    _ = readLongLines(strings.NewReader("short line\n"))
}

这里有两个关键顺序。第一,Buffer 必须放在第一次 Scan 前;Scanner 已经开始扫描后再调用会触发 panic。第二,max 控制的是 Scanner 为 token 准备的最大缓冲,不是“允许业务字段正好占用的字符数”。多字节 UTF-8、行结束符和自定义 split 规则都会影响字节需求。

max 怎么设才不会卡在边界

把 max 直接设成协议中的“最大文本长度”并不稳妥。Scanner 面向的是字节缓冲;如果使用 ScanLines,缓冲还可能需要容纳换行符或等待更多输入才能确认一行结束。因此应把业务上限换算成字节预算,再增加明确的边界余量。

输入情况建议原因
日志行通常小于 16 KB初始 16–32 KB,max 留到协议上限以上减少常见路径扩容,同时容纳行尾
JSON Lines 单条可到 1 MBmax 按字节预算设置,并限制异常输入避免无限制扩大内存
长度没有可靠上限评估 bufio.Reader 或分块解析Scanner 会在 token 超限时不可恢复地停止

不要为了“保证不报错”把 max 调到非常大。这个值既是正确性边界,也是内存风险边界:输入如果来自网络或不可信文件,过大的单 token 上限可能让单次读取占用远超预期。更稳妥的做法是让上限对应业务协议,并在超限时记录上下文、拒绝该记录或切换到能分块处理的读取方案。

Bytes 为什么要复制

scanner.Bytes() 返回的是 Scanner 内部缓冲中的切片。下一次 Scan() 可能复用或覆盖这块空间,所以不要把它直接交给异步任务、缓存或跨循环保存的集合。如果只在当前循环内同步消费,可以直接读取;如果要长期持有,就像示例那样 append([]byte(nil), scanner.Bytes()...) 复制一份。

如果业务只需要字符串,也可以在当前循环中转成 string(scanner.Bytes()),但这会产生自己的字符串数据。选择复制字节还是转换字符串,要看下游接口和生命周期,而不是把 Scanner 的内部切片当成永久存储。

什么时候应该换用 bufio.Reader

扩大 Buffer 适合“每条记录有清晰且可接受的最大尺寸”的输入。若单条内容可能持续增长,或你需要在超长记录后继续读取后续内容、细粒度处理底层 I/O 错误,Scanner 就不是理想边界。官方文档也提示,需要更强错误控制或处理大 token 时应考虑 bufio.Reader。

长 token、换行余量、ErrTooLong 和 Reader 选择边界的静态关系说明图
图2:长行处理边界说明图,展示 token 尺寸、行尾余量、错误处理和 Reader 取舍之间的静态关系;这是说明图,不是运行截图。

可以按下面的判断做选择:

  • 输入是按行或按词切分,最大尺寸明确:继续用 Scanner,并在 Scan 前设置 Buffer。
  • 最大尺寸明确但较大:设置合理 max,同时对来源和内存预算做限制。
  • 最大尺寸不明确、需要分块、或超限后必须继续恢复:改用 Reader 方案,不把 Scanner 的不可恢复停止当成可忽略异常。

一份可直接复用的检查清单

  1. 确认默认 split 是不是 ScanLines,以及业务长度按字节还是字符计算。
  2. 在第一次 Scan() 前调用 Buffer,并让 max 覆盖行尾和编码余量。
  3. 循环结束后检查 Err(),不要把 token 过长误判成正常 EOF。
  4. 跨循环或异步保存 token 时复制 Bytes()。
  5. 对外部输入设置内存预算;没有可靠上限时重新评估 Reader。

常见问题

Buffer 可以在 Scan 之后设置吗?

不可以。Scanner 已开始扫描后调用会 panic,应在创建 Scanner 后、第一次 Scan 前设置。

max 写成 2 MB 就代表每行都能读到 2 MB 吗?

不一定。它是缓冲上限,实际 token 还要满足 split 函数和行结束符等条件;应给协议边界留出余量。

扫描失败后还能从原 Reader 接着用 Scanner 吗?

不要把它当成可靠的恢复机制。Scanner 遇到过大 token 或 I/O 错误后会停止,Reader 可能已经向前读取了不确定的范围;需要恢复和精细控制时,应从一开始选择更合适的 Reader 设计。

声明:本文转载于:17golang原创 如有侵犯,请联系study_golang@163.com删除
相关阅读
更多>
最新阅读
更多>
课程推荐
更多>