登录
首页 >  Golang >  Go问答

处理Kafka读取和PostgreSQL写入时的错误:Go中的错误处理

来源:stackoverflow

时间:2024-02-07 16:39:23 448浏览 收藏

亲爱的编程学习爱好者,如果你点开了这篇文章,说明你对《处理Kafka读取和PostgreSQL写入时的错误:Go中的错误处理》很感兴趣。本篇文章就来给大家详细解析一下,主要介绍一下,希望所有认真读完的童鞋们,都有实质性的提高。

问题内容

我正在构建一个 go 应用程序,它从 kafka 主题读取消息并将其写入 postgresql 数据库。

我设置了一个循环,使用 kafka.reader 从 kafka 读取消息,并使用 sql.db 将它们插入数据库。如果读取消息或将其插入数据库时​​出错,我会记录该错误并继续处理下一条消息。

但是,我不确定如何处理将数据插入 postgresql 数据库后提交 kafka 消息时发生的错误。具体来说,如果手动提交出现错误,该怎么办?我应该重试提交操作吗?我应该记录错误并继续查看下一条消息吗?处理这些类型的错误的最佳实践是什么?

for {
        kafkaMessage, err := kafkaReader.ReadMessage(context.Background())
        if err != nil {
            fmt.Printf("Failed to read message from Kafka: %s\n", err)
            continue
        }

        _, err = db.Exec("INSERT INTO mytable (payload) VALUES ($1)", kafkaMessage.Value)
        if err != nil {
            fmt.Printf("Failed to insert payload into database: %s\n", err)
            continue
        }

        // What should I do if the commit operation fails?
        err = kafkaReader.CommitMessages(context.Background(), kafkaMessage)
        if err != nil {
            // What's the best practice for handling this error?
        }
    }

正确答案


当遇到错误时,只需 continuefor 循环的下一次迭代。

如果由于任何原因未能提交kafka消息,kafka将在下一次reader.readmessage(ctx)中再次返回相同的消息。

但是为了确保您的代码不会继续徒劳地多次执行相同的失败工作、耗尽资源、用相同的错误消息淹没日志等,请在之后使用简单的 sleep每个错误,或者如果确实需要,请为您的函数使用断路器逻辑。

if err != nil {
   log.Errorf("...", ...)
   time.Sleep(5 * time.Second)
   continue
}

理论要掌握,实操不能落!以上关于《处理Kafka读取和PostgreSQL写入时的错误:Go中的错误处理》的详细介绍,大家都掌握了吧!如果想要继续提升自己的能力,那么就来关注golang学习网公众号吧!

声明:本文转载于:stackoverflow 如有侵犯,请联系study_golang@163.com删除
相关阅读
更多>
最新阅读
更多>
课程推荐
更多>