Golang 编写Tcp服务器的解决方案
来源:脚本之家
时间:2022-12-26 21:35:13 102浏览 收藏
对于一个Golang开发者来说,牢固扎实的基础是十分重要的,golang学习网就来带大家一点点的掌握基础知识点。今天本篇文章带大家了解《Golang 编写Tcp服务器的解决方案》,主要介绍了gotcp、服务器,希望对大家的知识积累有所帮助,快点收藏起来吧,否则需要时就找不到了!
Golang 开发 Tcp 服务器及拆包粘包、优雅关闭的解决方案
Golang 作为广泛用于服务端和云计算领域的编程语言,tcp socket 是其中至关重要的功能。您可以在 github.com/hdt3213/godis/tcp 中看到本文所述 TCP 服务器的完整代码及其应用。
早期的 Tomcat/Apache 服务器使用的是阻塞 IO 模型。它使用一个线程处理一个连接,在没有收到新数据时监听线程处于阻塞状态,直到数据就绪后线程被唤醒。因为阻塞 IO 模型需要开启大量线程并且频繁地进行上下文切换,所以效率很差。
IO 多路复用技术为了解决上述问题采用了一个线程监听多路连接的方案。一个线程持有多个连接并阻塞等待,当其中某个连接可读写时线程被唤醒进行处理。因为多个连接复用了一个线程所以 IO 多路复用需要的线程数少很多。
主流操作系统都提供了IO多路复用技术的实现,比如 Linux上的 epoll,freeBSD 上的 kqueue 以及 Windows 平台上的 iocp。有得必有失,因为 epoll 等技术提供的接口面向 IO 事件而非面向连接,所以需要编写复杂的异步代码,开发难度很大。
Golang 的 netpoller
基于IO多路复用和 goroutine scheduler 构建了一个简洁高性能的网络模型,并给开发者提供了 goroutine-per-connection
风格的极简接口。
更多关于 netpoller
的剖析可以参考Golang实现四种负载均衡的算法(随机,轮询等), 接下来我们尝试用 netpoller
编写我们的服务器。
Echo 服务器
作为开始我们来实现一个简单的 Echo 服务器。它会接受客户端连接并将客户端发送的内容原样传回客户端。
package main import ( "fmt" "net" "io" "log" "bufio" ) func ListenAndServe(address string) { // 绑定监听地址 listener, err := net.Listen("tcp", address) if err != nil { log.Fatal(fmt.Sprintf("listen err: %v", err)) } defer listener.Close() log.Println(fmt.Sprintf("bind: %s, start listening...", address)) for { // Accept 会一直阻塞直到有新的连接建立或者listen中断才会返回 conn, err := listener.Accept() if err != nil { // 通常是由于listener被关闭无法继续监听导致的错误 log.Fatal(fmt.Sprintf("accept err: %v", err)) } // 开启新的 goroutine 处理该连接 go Handle(conn) } } func Handle(conn net.Conn) { // 使用 bufio 标准库提供的缓冲区功能 reader := bufio.NewReader(conn) for { // ReadString 会一直阻塞直到遇到分隔符 '\n' // 遇到分隔符后会返回上次遇到分隔符或连接建立后收到的所有数据, 包括分隔符本身 // 若在遇到分隔符之前遇到异常, ReadString 会返回已收到的数据和错误信息 msg, err := reader.ReadString('\n') if err != nil { // 通常遇到的错误是连接中断或被关闭,用io.EOF表示 if err == io.EOF { log.Println("connection close") } else { log.Println(err) } return } b := []byte(msg) // 将收到的信息发送给客户端 conn.Write(b) } } func main() { ListenAndServe(":8000") }
使用 telnet 工具测试我们编写的 Echo 服务器:
$ telnet 127.0.0.1 8000 Trying 127.0.0.1... Connected to 127.0.0.1. Escape character is '^]'. > a a > b b Connection closed by foreign host.
拆包与粘包问题
某些朋友可能看到"拆包与粘包"后表示极度震惊,并再三强调: TCP是个字节流协议,不存在粘包问题。
我们常说的 TCP 服务器并非「实现 TCP 协议的服务器」而是「基于TCP协议的应用层服务器」。TCP 是面向字节流的协议,而应用层协议大多是面向消息的,比如 HTTP 协议的请求/响应,Redis 协议的指令/回复都是以消息为单位进行通信的。
作为应用层服务器我们有责任从 TCP 提供的字节流中正确地解析出应用层消息,在这一步骤中我们会遇到「拆包/粘包」问题。
socket 允许我们通过 read 函数读取新收到的一段数据(当然这段数据并不对应一个 TCP 包)。在上文的 Echo 服务器示例中我们用\n
表示消息结束,从 read 函数读取的数据可能存在下列几种情况:
- 收到两段数据: "abc", "def\n" 它们属于一条消息 "abcdef\n" 这是拆包的情况
- 收到一段数据: "abc\ndef\n" 它们属于两条消息 "abc\n", "def\n" 这是粘包的情况
应用层协议通常采用下列几种思路之一来定义消息,以保证完整地进行读取:
- 定长消息
- 在消息尾部添加特殊分隔符,如示例中的Echo协议和FTP控制协议。bufio 标准库会缓存收到的数据直到遇到分隔符才会返回,它可以帮助我们正确地分割字节流。
- 将消息分为 header 和 body, 并在 header 中提供 body 总长度,这种分包方式被称为 LTV(length,type,value) 包。这是应用最广泛的策略,如HTTP协议。当从 header 中获得 body 长度后, io.ReadFull 函数会读取指定长度字节流,从而解析应用层消息。
在没有具体应用层协议的情况下,我们很难详细地讨论拆包与粘包问题。在本系列的第二篇文章: 实现 Redis 协议解析器 中我们可以看到 Redis 序列化协议(RESP)对分隔符和 LTV 包的结合应用,以及两种分包方式的具体解析代码。
优雅关闭
在生产环境下需要保证TCP服务器关闭前完成必要的清理工作,包括将完成正在进行的数据传输,关闭TCP连接等。这种关闭模式称为优雅关闭,可以避免资源泄露以及客户端未收到完整数据导致故障。
TCP 服务器的优雅关闭模式通常为: 先关闭listener阻止新连接进入,然后遍历所有连接逐个进行关闭。首先修改一下TCP服务器:
// handler 是应用层服务器的抽象 type Handler interface { Handle(ctx context.Context, conn net.Conn) Close()error } // 监听并提供服务,并在收到 closeChan 发来的关闭通知后关闭 func ListenAndServe(listener net.Listener, handler tcp.Handler, closeChan接下来修改应用层服务器:
// 客户端连接的抽象 type Client struct { // tcp 连接 Conn net.Conn // 当服务端开始发送数据时进入waiting, 阻止其它goroutine关闭连接 // wait.Wait是作者编写的带有最大等待时间的封装: // https://github.com/HDT3213/godis/blob/master/src/lib/sync/wait/wait.go Waiting wait.Wait } type EchoHandler struct { // 保存所有工作状态client的集合(把map当set用) // 需使用并发安全的容器 activeConn sync.Map // 关闭状态标识位 closing atomic.AtomicBool } func MakeEchoHandler()(*EchoHandler) { return &EchoHandler{} } func (h *EchoHandler)Handle(ctx context.Context, conn net.Conn) { // 关闭中的 handler 不会处理新连接 if h.closing.Get() { conn.Close() return } client := &Client { Conn: conn, } h.activeConn.Store(client, struct{}{}) // 记住仍然存活的连接 reader := bufio.NewReader(conn) for { msg, err := reader.ReadString('\n') if err != nil { if err == io.EOF { logger.Info("connection close") h.activeConn.Delete(client) } else { logger.Warn(err) } return } // 发送数据前先置为waiting状态,阻止连接被关闭 client.Waiting.Add(1) // 模拟关闭时未完成发送的情况 //logger.Info("sleeping") //time.Sleep(10 * time.Second) b := []byte(msg) conn.Write(b) // 发送完毕, 结束waiting client.Waiting.Done() } } // 关闭客户端连接 func (c *Client)Close()error { // 等待数据发送完成或超时 c.Waiting.WaitWithTimeout(10 * time.Second) c.Conn.Close() return nil } // 关闭服务器 func (h *EchoHandler)Close()error { logger.Info("handler shutting down...") h.closing.Set(true) // 逐个关闭连接 h.activeConn.Range(func(key interface{}, val interface{})bool { client := key.(*Client) client.Close() return true }) return nil }文中关于golang的知识介绍,希望对你的学习有所帮助!若是受益匪浅,那就动动鼠标收藏这篇《Golang 编写Tcp服务器的解决方案》文章吧,也可关注golang学习网公众号了解相关技术文章。
-
347 收藏
-
245 收藏
-
456 收藏
-
420 收藏
-
385 收藏
-
233 收藏
-
322 收藏
-
181 收藏
-
316 收藏
-
244 收藏
-
300 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 立即学习 542次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 立即学习 507次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 立即学习 497次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 立即学习 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 立即学习 484次学习
-
- 独特的红酒
- 太给力了,一直没懂这个问题,但其实工作中常常有遇到...不过今天到这,帮助很大,总算是懂了,感谢老哥分享博文!
- 2023-03-03 08:59:02
-
- 轻松的抽屉
- 这篇技术贴出现的刚刚好,细节满满,真优秀,已收藏,关注老哥了!希望老哥能多写Golang相关的文章。
- 2023-02-18 02:05:17
-
- 清秀的仙人掌
- 这篇技术文章出现的刚刚好,很详细,很好,mark,关注楼主了!希望楼主能多写Golang相关的文章。
- 2023-01-17 20:19:39
-
- 俭朴的小天鹅
- 受益颇多,一直没懂这个问题,但其实工作中常常有遇到...不过今天到这,看完之后很有帮助,总算是懂了,感谢作者大大分享文章内容!
- 2023-01-16 10:21:40
-
- 缓慢的乌冬面
- 真优秀,一直没懂这个问题,但其实工作中常常有遇到...不过今天到这,帮助很大,总算是懂了,感谢作者大大分享技术贴!
- 2023-01-14 06:09:11
-
- 坚定的美女
- 太详细了,码住,感谢大佬的这篇文章,我会继续支持!
- 2023-01-09 18:59:54
-
- 安静的歌曲
- 好细啊,已加入收藏夹了,感谢老哥的这篇技术文章,我会继续支持!
- 2023-01-06 00:35:57
-
- 潇洒的酒窝
- 这篇博文真是及时雨啊,很详细,太给力了,收藏了,关注师傅了!希望师傅能多写Golang相关的文章。
- 2023-01-01 06:47:35
-
- 过时的吐司
- 这篇技术文章真及时,很详细,太给力了,已收藏,关注up主了!希望up主能多写Golang相关的文章。
- 2022-12-31 16:05:48
-
- 洁净的小白菜
- 这篇技术文章太及时了,太细致了,很有用,已收藏,关注作者了!希望作者能多写Golang相关的文章。
- 2022-12-30 08:08:38
-
- 精明的板凳
- 这篇技术文章太及时了,太细致了,感谢大佬分享,已加入收藏夹了,关注作者了!希望作者能多写Golang相关的文章。
- 2022-12-29 00:43:34
-
- 过时的歌曲
- 细节满满,mark,感谢楼主的这篇博文,我会继续支持!
- 2022-12-27 20:02:19
-
- 温婉的树叶
- 赞 👍👍,一直没懂这个问题,但其实工作中常常有遇到...不过今天到这,帮助很大,总算是懂了,感谢楼主分享技术贴!
- 2022-12-27 16:10:09