开源项目|超越Nginx的性能代理框架-Pingora

用户1904552

发布于 2025-02-27 10:26:12

9500

代码可运行

文章被收录于专栏：周末程序猿周末程序猿

运行总次数：0

代码可运行

什么是Pingora？

Pingora是Cloudflare弃用Nginx，选择使用Rust重新构建新的代理Pingora框架，已经在Cloudflare的云服务上运行多年，支持每秒处理每秒处理超过4000万个互联网请求。

Github地址：https://github.com/cloudflare/pingora

功能

异步 Rust：快速且可靠
HTTP 1/2 端到端代理
基于 OpenSSL 或 BoringSSL 的 TLS
gRPC 和 websocket 代理
优雅的重载
可定制的负载平衡和故障转移策略
支持多种观测工具

为什么放弃Nginx，再构建一个代理框架

根据Cloudflare官方博客，我整理了几个点（详细博客：https://blog.cloudflare.com/how-we-built-pingora-the-proxy-that-connects-cloudflare-to-the-internet）：

1、Nginx的性能瓶颈

对于一个普通的Server框架来说，Nginx的性能已经非常好了，比如 golang 和 Nginx 对比：

Nginx:      Requests per second:    23770.74 [#/sec] (mean)
Golang:     Requests per second:    21807.00 [#/sec] (mean)
Swoole:     Requests per second:    19711.22 [#/sec] (mean)
Node.js:    Requests per second:    6680.53 [#/sec] (mean)

可见在众多Server框架中，Nginx本身的性能是比较高的，但是对于代理服务来说，这个性能可能有时满足不了需求，因此需要一个更好的Server框架来支持。

2、Nginx的架构需要优化

（1）Nginx是多进程架构，每个请求只能通过单个worker处理，这样可能会导致CPU之间的负载不均的问题，从而在整理性能上变慢；（2）连接池问题：由于Nginx的连接池是单worker对应的，当请求在到达单个worker时，只能重用该worker内的连接，这样导致会维护更多的代理连接；

nginx架构

（3）功能难以添加，比如如果要在Nginx上增加功能，要么通过C扩展功能，要么通过脚本语言（lua或者新增支持的javascript）；

3、Pingora的优势

（1）性能更高，根据Pingora在Cloudflare上应用的总体流量显示，TTFB中位数减少了5毫秒，第95个百分位数减少了80毫秒，由于跨所有线程共享连接，这意味着更好的连接重用率，在TCP和TLS握手上花费的时间更少；

Pingora架构

（2）Pingora根据社区可以提供更多的功能，方便扩展；（3）由于使用Rust开发，可以在不影响性能的情况下以内存安全的方式完成 C 语言可以做的事情，同时在开发过程中调试更方便，内存更加安全；

Pingora使用

1、创建HTTP代理

pub struct LB();

#[async_trait]
impl ProxyHttp for LB {
    async fn upstream_peer(...) -> Result<Box<HttpPeer>> {
        todo!()
    }
}

2、将代理绑定到pingora_proxy上

fn main() {
    let mut upstreams = LoadBalancer::try_from_iter(["1.1.1.1:443", "1.0.0.1:443"]).unwrap();

    let mut lb = pingora_proxy::http_proxy_service(&my_server.configuration, LB(upstreams));
    lb.add_tcp("127.0.0.1:6188");

    let mut my_server = Server::new(None).unwrap();
    my_server.add_service(lb);
    my_server.run_forever();
}