Go csv.Reader 遇到列数不一致时怎么保留异常行
来源:17golang原创
时间:2026-10-13 02:22:17 248浏览 收藏
我第一次把 CSV 导入接到批处理任务时,最不想看到的不是错误本身,而是错误行直接消失:表头有 5 列,某一条数据只有 4 列,Read 返回了错误,代码却马上 continue,最后只剩一份“不完整但看起来成功”的结果。
先给结论:列数不一致时,csv.Reader.Read 仍可能返回已经解析出的 record,同时返回 csv.ErrFieldCount。把这条 record 单独存到异常列表,再决定是否继续读取;只有需要保留未改写的原始字节时,才需要额外设计原始输入留存。
官方文档:https://pkg.go.dev/encoding/csv#Reader.FieldsPerRecord
先看懂 FieldsPerRecord 的三种模式
FieldsPerRecord 决定的是“读到一条记录后要不要检查列数”,不是“遇到异常后要不要停止整个文件”。它有三种常用状态:

| 取值 | 含义 | 适合场景 |
|---|---|---|
| 大于 0 | 每条记录必须有固定列数 | 格式契约明确的正式导入 |
| 等于 0 | 第一条记录决定后续期望列数 | 表头或首条数据就是基准 |
| 小于 0 | 不做列数检查 | 先接收,再由业务代码分流 |
默认值是 0,所以很多代码实际上是在“第一条记录定标”。如果首行是表头,后续数据列数变化就会触发 ErrFieldCount;如果没有固定格式要求,可以显式设置为负数,再自己判断 len(record)。
捕获 ErrFieldCount,异常行也能留下
严格模式并不等于异常记录不可见。下面的读取循环把错误分成三类:普通记录直接保存,列数错误保存到 badRows 后继续,其他解析错误则交给调用方决定是否停止。
package main
import (
"encoding/csv"
"errors"
"fmt"
"io"
"strings"
)
type BadRow struct {
Index int
Fields []string
Err error
}
func collectRows(input string) ([][]string, []BadRow, error) {
r := csv.NewReader(strings.NewReader(input))
r.FieldsPerRecord = 3 // 固定三列,异常时仍让 Read 返回已解析字段
var goodRows [][]string
var badRows []BadRow
for index := 0; ; index++ {
record, err := r.Read()
if errors.Is(err, csv.ErrFieldCount) {
// ErrFieldCount 不等于 record 丢失,把异常字段复制后单独存档。
badRows = append(badRows, BadRow{Index: index, Fields: append([]string(nil), record...), Err: err})
continue
}
if errors.Is(err, io.EOF) {
// 文件读完后返回已经收集的正常记录和异常记录。
return goodRows, badRows, nil
}
if err != nil {
// 引号未闭合等结构错误不能伪装成一条可用数据。
return nil, badRows, fmt.Errorf("读取第 %d 条记录失败: %w", index+1, err)
}
goodRows = append(goodRows, record)
}
}
这里最关键的是判断顺序:先判断 ErrFieldCount,因为这时 record 可能已经包含了本次读取到的字段;只有其他错误才直接返回。生产代码还应给异常记录附上输入文件、批次号和业务主键,避免后续只能看到一行孤立数组。
如果字段数可变,先读取再自行分流
有些供应商文件允许尾部列缺省,也有些文件会不断追加扩展列。这时可以关闭内置列数校验,让业务代码明确决定哪些记录能入库:
func routeVariableRows(input string) error {
r := csv.NewReader(strings.NewReader(input))
r.FieldsPerRecord = -1 // 允许每条记录拥有不同列数
for rowNo := 1; ; rowNo++ {
record, err := r.Read()
if errors.Is(err, io.EOF) {
// 文件读完后结束分流。
return nil
}
if err != nil {
if errors.Is(err, csv.ErrUnexpectedEOF) {
// 引号未闭合时输入结构不完整,不能把半条记录当成正常数据。
return fmt.Errorf("第 %d 条记录未闭合: %w", rowNo, err)
}
return err
}
if len(record) != 3 {
// 业务层定义异常边界,并保留解析后的字段供人工或重试任务使用。
fmt.Printf("异常记录 %d: %v\\n", rowNo, record)
continue
}
// 只有满足业务列数的记录才进入正式写入路径。
fmt.Printf("正常记录 %d: %v\\n", rowNo, record)
}
}
这段示例把“语法能否解析”和“业务是否接受”拆开了。需要注意,FieldsPerRecord = -1 后通常不会再由 Reader 报列数错误,因此主要判断会落在 len(record) 上。
InputOffset 能定位位置,但不等于原始异常行
CSV 支持带引号字段和字段内换行,所以一条逻辑记录不一定对应一行文本。InputOffset 适合记录下一次读取位置或帮助定位输入范围,但它不能把已经解析后的 []string 还原成原始字节。

如果异常记录只需要供人工查看,保存 record、错误类型、记录序号和 InputOffset 就够了;如果合规或重放任务要求保留完全原样的 CSV 片段,则应在读取前复制输入流,或设计能按偏移读取原始数据的存储层,不要把 strings.Join(record, ",") 当作原文。
正式导入时怎样决定继续还是拒绝
我通常把策略写成一张很小的决策表:
| 情况 | 处理 | 原因 |
|---|---|---|
| 固定格式且列数正确 | 进入正常列表 | 满足输入契约 |
| 列数不一致但字段可人工修复 | 保存 record、错误和定位信息 | 保留重试材料 |
| 引号未闭合或语法损坏 | 停止当前文件并报告 | 记录边界本身不可靠 |
| 供应商允许扩展列 | 宽松读取后由业务规则分流 | 避免把合法变体当成解析失败 |
这样做的好处是,异常记录不会悄悄混进正式数据,也不会因为一条坏记录而让整份文件的诊断信息丢掉。是否继续读取,应该由导入策略决定,而不是由 ErrFieldCount 这个错误名替你做决定。
最后记住三条边界
FieldsPerRecord > 0是固定列数校验,= 0让第一条记录定标,则交给业务层判断。- 遇到
ErrFieldCount时先检查返回的record,它可以成为异常存档,而不是必须丢弃的返回值。 record是解析后的字段集合;要保存完全原始的 CSV 字节,必须另做输入留存设计。
相关问题:
- 为什么第一条记录正常,第二条就报 ErrFieldCount? 因为默认的 0 会用第一条记录设置后续期望列数。
- 把 FieldsPerRecord 设为负数是不是更安全? 不是。它只是关闭 Reader 的列数校验,业务代码仍要明确接受哪些字段组合。
- 异常行能不能直接重新拼成 CSV? 可以生成新的诊断文本,但它不一定等于原始输入,尤其是引号、空白和字段内换行存在时。
-
477 收藏
-
463 收藏
-
Golang · Go问答 | 39分钟前 | net/http · HTTP客户端 · Go问答 · Go net/http gzip Transport.DisableCompression Accept-Encoding 响应解压318 收藏
-
Golang · Go问答 | 44分钟前 | HTTP服务 · Go问答 · Go net/http 连接生命周期 StateHijacked StateClosed http.Server.ConnState 会话资源123 收藏
-
175 收藏
-
311 收藏
-
340 收藏
-
274 收藏
-
266 收藏
-
329 收藏
-
339 收藏
-
107 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 立即学习 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 立即学习 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 立即学习 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 立即学习 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 立即学习 485次学习