TCP 连接关闭时，会有 4 次通讯（四次挥手），来确认双方都停止收发数据了。如上图，主动关闭方，最后发送 ACK 时，会进入 TIME_WAIT 状态，要等 2MSL 时间后，这条连接才真正消失。
io_uring是Linux内核在v5.1引入的一套异步IO接口，随着其迅速发展，现在的io_uring已经远远超过了纯IO的范畴。从Linux v5.3版本开始，io_uring陆续添加了网络编程相关的API，对用户提供sendmsg、recvmsg、accept、connect等接口的异步支持，将io_uring的生态范围扩大到了网络领域。
本篇侧重点在于 TCP负载均衡，或者可以说，没有多少HTTP负载均衡相关的。所以如果不是你的菜，可以省些时间。
事实证明，读过Linux内核源码确实有很大的好处，尤其在处理问题的时刻。当你看到报错的那一瞬间，就能把现象/原因/以及解决方案一股脑的在脑中闪现。甚至一些边边角角的现象都能很快的反应过来是为何。笔者读过一些Linux TCP协议栈的源码，就在解决下面这个问题的时候有一种非常流畅的感觉。
本文引用了“蔷薇Nina”的“Nginx 相关介绍(Nginx是什么?能干嘛?)”一文部分内容，感谢作者的无私分享。 1、引言 Nginx（及其衍生产品）是目前被大量使用的服务端反向代理和负载均衡方案
1. Requests per second（RPS）：Nginx 每秒处理的请求数（也就是 QPS）。
nginx-gateway部署在公有云 A, 业务测试服务器部署在办公区机房B, 公有云region A 和 办公区机房 B通过soft V**互连。B机房中有不同类型的应用服务器【nodejs,java(tomcat)】做nginx-gateway的后端upstream节点。nginx-gateway编译安装了ngx_http_upstream_check_module插件，ngx_http_upstream_check_module用于做后端upstream节点的健康监测, healthcheck为每个upstream的后端节点配置有一个raise_counts/fall_couts状态的计数器。业务方同事反馈:从外部访问内部某些应用有概率出现超时, 经观察, nodejs,java(tomcat)的raise_counts计数器概率性地重置为0，
MSL是Maximum Segment Lifetime英文的缩写,中文可以译为“报文最大生存时间”.
1、TCP_NODELAY 你怎么可以强制 socket 在它的缓冲区里发送数据？ 一个解决方案是 TCP 堆栈的 TCP_NODELAY选项。这样就可以使缓冲区中的数据立即发送出去。
HTTP 协议因其易用性和普适性得到了大规模的普及，我们说HTTP协议是互联网的基石一点也不为过，当前提供HTTP服务的Server性能要求越来越高，如何提高 HTTP 服务器的性能变得非常重要。近年来网卡性能快速发展，给高性能HTTP服务提供了硬件支持，但是linux 内核却越来越成为高性能网络服务器的瓶颈。 HTTP 的传输层协议为 TCP ，TCP作为面向连接的协议能够提供可靠传输，但是在性能有非常大的短板，尤其在短连接网络业务服务中，受限于PCB表锁竞争等因素，系统内核大并发创建 T
HTTP 基础知识大家掌握的怎么样呀？对于长连接这一块的内容应该也不是什么新鲜东西了吧。毕竟 HTTP1.1 都已经发布这么久了。今天主要来看的就是长连接相关的配置，另外还会介绍几个和连接有关的内容。同时，今天的内容除了 HTTP 外，还需要一点 TCP 的知识。没办法，毕竟 Ngxin 本身就是一个网络代理服务器软件，离不开的就是各种网络相关的知识。相信大家肯定没问题的，毕竟很早前在短视频中就说过，基础能比我差的程序员估计在全国范围内都找不到几个了。
线上有几台QPS每秒几万请求的服务器，大致访问链路如下：client -> nginx -> web 服务器，由于每台机器上混布了多个web服务并通过nginx反向代理统一分发请求，在服务升级的时候经常出现端口被占用的情况，排查问题时，发现系统过存在几万多个 time_wait状态。统计命令如下：
本文介绍了如何使用 F-Stack 实现高性能的 HTTP 服务器，通过实例测试验证了 F-Stack 的性能和优势。
** 若TIME_WAIT事件设置过短, 会导致错误后果 TIME_WAIT结束过早, 导致之前迷失的第三次握手突然到达, 新连接突然成功
Nginx 的特点: 1.处理静态文件 2.反向代理加速 3.fastCGI,简单的负载均衡和容错 4.模块化的结构 5.分阶段资源分配技术，使得它的 CPU 与内存占用率非常低,保持 10,000 个没有活动的连接，它只占 2.5M 内存 6.支持内核 Poll 模型，能经受高负载的考验,有报告表明能支持高达 50,000 个并发连接数 7.采用 master-slave 模型,能够充分利用 SMP 的优势，且能够减少工作进程在磁盘 I/O 的阻塞延迟。当采用 select()/poll() 调用时，还可
上一篇文章(CLB是怎么均衡client流量的-短连接篇)，测试验证了CLB与RS之间是短连接时，CLB是按照客户端的每个HTTP请求来均衡，无论client与CLB是长连接还是短连接。
深入了解nginx，get到nginx的一些性能优化方向。除了了解如何保持长连接，也通过本案例学习到开源中间件的一些常用定位思路和优化方法。
HTTP1.1之后，HTTP协议支持持久连接，也就是长连接，优点在于在一个TCP连接上可以传送多个HTTP请求和响应，减少了建立和关闭连接的消耗和延迟。
一说起CLB的负载均衡策略， 可能很多人都耳熟能详：轮询、加权轮询、源地址hash、目标地址hash，但知道这些就够了吗？
Nginx Ingress Controller 基于 Nginx 实现了 Kubernetes Ingress API，Nginx 是公认的高性能网关，但如果不对其进行一些参数调优，就不能充分发挥出高性能的优势。Nginx Ingress工作原理：
nginx一般使用七层代理也就是http应用层代理，可以反向代理和负载均衡。但是项目要使用长连接，此时内网服务器肯定不能暴漏，还是需要接入层网关进行转发，一般有使用lvs，lvs专门用作四层代理和负载均衡基于内核态，并发量很大。但是lvs配置相对复杂，我们的这个项目长连接数不会太多，所以不需要使用lvs。就直接使用nginx的四层代理，nginx的四层代理需要使用nginx的stream模块在编译的时候需要编译进去，在nginx.conf文件中配置如下：
本节介绍Nginx的基础配置，包括事件模型配置、虚拟主机配置、错误页面配置、长连接配置、访问日志配置等。然后，本节还会介绍在配置过程中可能会使用到的Nginx内置变量。
keepalive是HTTP/1.1协议中的一个特性，它允许客户端和服务器之间的TCP连接在一个HTTP请求/响应周期结束后保持打开状态，以便在后续的请求中重复使用。这样可以减少TCP连接的建立和关闭次数，从而提高性能。
前阵子因为工作上的变故，有一阵子没有写东西，接下来继续开始写东西，仍以运维为主，可能会把自己学习业务知识方面的一些有趣的心得也一并写写。
执行主动关闭的那端经历了这个状态，并停留MSL（最长分节生命期）的2倍，即2MSL。
使用golang实现websocket通讯，单机可以支持百万连接，使用gin框架、nginx负载、可以水平部署、程序内部相互通讯、使用grpc通讯协议。
高性能网站架构方案（二）——优化网站响应时间 （原创内容，转载请注明来源，谢谢） 一、概述 优化网站响应时间是保证网站受用户关注的要点，主要方案有： 1、减少HTTP请求 当需要加载图片、css、js等内容时，尽量减少加载的次数。可以合并加载，另外当改动量很少时，尽量将内容进行缓存。 图片的缓存可以设定更新时间，定时去服务器查看是否有需要更新的内容。通常可以定时在1周甚至更久的时间。 CSS、JS的缓存，通常可以通过文件名的方式来判断是否需要重新加载。当网页确定需要加载某些js和c
ngxin 相对于 apache 来说，占用资源更少，这是高度模块化设计的优势。 nginx 模块编写相对简单，各种高性能模块在社区上频繁亮相。 由于 apache 是同步多进程模型，每个连接对应一个进程，而 nginx 是异步非阻塞模型，因此在资源消耗和并发能力上都优于 apache，而 apache 不仅因为在连接量大时需要为每个连接提供一个处理进程而需要消耗大量资源，进程的创建和销毁也会伴随着较大的代价。 当然了，apache 的 prefork 机制在一定程度上缓解了这个问题。
云豆贴心提醒，本文阅读时间5分钟 隐藏nginx header里版本号信息 1.查看版本号 2.隐藏版本号 在nginx配置文件的http标签内加入“server_tokens off; ”参数，也
只要系统之间有交互，那么就会有连接数，连接数的告警阈值一般设置个几万，当连接数开始告警之后，怎么来排查呢？
学习了一些东西，如何才是真正自己能用的呢？好像就是看自己的潜意识的反应，例如解决了一个问题，那么下次再碰到类似的问题，能直接下意识的去找到对应的信息，从而解决，而不是和第一次碰到一样，从头开始查一遍，如果是，那么这个问题对于你来说，可能依旧是一个新的问题。
php作为排名top2 互联网开发工具，非常流行，可以参考：中国最大的25个网站采用技术选型方案 php这个名称实际上有两层含义 广义的php 是指用后缀名为.php的脚本，就是程序员编写的php代码： 狭义的php 是指php部署程序，比如说 lnmp，这个php 就是 php-fpm php-fpm是什么 直接定义： php-fpm是一个内置php解析器，采用prefork+异步IO 模型的高性能服务器程序 php-fpm从php5.3.3开始已经进入到php源代码包，之前是作为patch存在的 很少人
小明初到一家公司做运维的工作，刚来的第一天就开始部署LNMP(Linux+Nginx+MySQL+PHP)环境，结果出现了问题。 他来向我请教。
很久没更新文章了，今天突然想到这个问题，打算深入理解一下。我们知道建立tcp连接的代价是比较昂贵的，三次握手，慢开始，或者建立一个连接只为了传少量数据。这时候如果能保存连接，那会大大提高效率。下面我们通过源码来看看keep-alive的原理。本文分成两个部分
最近业务方反馈线上 Nginx 经常会打出一些『奇怪』的 access 日志，奇怪之处在于这些日志的 request_time 值总是正好 upstream_response_time 的值大5秒，于是我就帮他们查看了一下导致这个问题的原因，本文记录一下最终调查的结论以及过程。
当你接手一个老项目，可能发现程序在服务器上运行性能低得可怕，与此同时现网流量还在逐渐增长。也许运用最新框架、微服务容器化、异步协程等方法来次彻底的重构，能够挽狂澜于既倒。可惜时不我待，运维已经在要求加机器了，而坏消息是，原有框架还不支持水平扩展，没法通过堆机器解决。有没有办法在不进行大改的情况下，度过难关呢？
没有content - length 字段 因为要对方是http长连接，需要根据长度获取包体，性能好一些。 长连接有沾包的问题，要用Content-length切割body
简单看下即可，由于含有定制化业务背景，架构图看不懂也没关系，后面我会对里面的核心技术点单独剖析讲解
1.看日志发现正常日志和错误日志比例几乎1：1 2.错误日志全部是104: Connection reset by peer) while reading upstream 3.看访问日志也没有其他http错误状态码
最近遇到一个非常有趣的问题。其中有一组HAProxy，频繁出现问题。登录上服务器，cpu、内存、网络、io一顿猛查。最终发现，机器上处于TIME_WAIT状态的连接，多达6万多个。
跳票许久许久的LD_PRELOAD功能模块（后续以 libff_syscall.so 代替）在 F-Stack dev 分支的 adapter/sysctall 目录下已经提交，支持 hook 系统内核 socket 相关接口的代码，降低已有应用迁移到 F-Stack 的门槛。下面将分进行具体介绍， 主要包括libff_syscall.so 相关的架构涉及其中的一些思考，支持的几种模式以及如何使用等内容。 总体结论： 原有应用程序的接入门槛比原本的 F-Stack 有所降低，大部分情况下可以不修改原有的用户
功能测试用python、shell之类的脚本，勉强可以胜任。性能压力测试再手动写脚本，就有点力不从心了。
剩下的一些配置指令没有大的归属，不过也有一些是比较常见的，这部分内容学习完成之后，整个 http 模块相关的核心基础配置指令就全部学习完成了。今晚可以举杯庆祝一下了，咱们远程干杯。但是，还是要泼个冷水哦，咱们的学习还有很长的路要走。如果你看过 Nginx 的官方文档，就会知道仅仅是 HTTP 模块本身，就还有一大堆核心模块之外的模块。
在使用http的时候，有1.0的协议，有1.1的协议，两者最大的区别就是1.0的协议会将connection设置为close，从而是一种短连接的状态，从而每次进行传输数据的时候，都要三次握手，损耗性能，从而在1.1的协议中进行了改进，默认使用的连接保持的属性，从而提高了性能。
“世间可称之为天经地义的事情没几样，复杂的互联网架构也是如此，万丈高楼平地起，架构都是演变而来，那么演变的本质是什么？”
在基础架构部浸润了半年，有一些认知刷新想和童靴们交代一下， 不一定全面，仅代表此时的认知， 也欢迎筒靴们提出看法。
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
实时音视频
对象存储
即时通信 IM
