首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

C++ 高性能服务器网络框架设计细节

这篇文章我们将介绍服务器的开发,并从多个方面探究如何开发一款高性能高并发的服务器程序。需要注意的是一般大型服务器,其复杂程度在于其业务,而不是在于其代码工程的基本框架。...大型服务器一般有多个服务组成,可能会支持 CDN,或者支持所谓的“分布式”等,这篇文章不会介绍这些东西,因为不管结构多么复杂的服务器,都是由单个服务器组成的。...文中的代码示例虽然是以 C++ 为例,但同样适合Java(我本人也是Java开发者),原理都是一样的,只不过Java可能在基本的操作系统网络通信API的基础上用虚拟机包裹了一层接口而已(Java甚至可能基于一些常用的网络通信框架思想提供了一些现成的...所谓高性能就是服务器能流畅地处理各个客户端的连接并尽量低延迟地应答客户端的请求;所谓高并发,不仅指的是服务器可以同时支持多的客户端连接,而且这些客户端在连接期间内会不断与服务器有数据来往。...只不过层次二的函数通知我们的方式是各不相同,比如 WSAAsyncSelect 是利用 Windows 窗口消息队列的事件机制来通知我们设定的窗口过程函数,IOCP 是利用 GetQueuedCompletionStatus

1.7K62
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    高性能消息队列中间件MQ

    一致性问题 A系统处理完业务,通过MQ给B、C、D三个系统发消息数据,如果B系统、C系统处理成功,D系统处理失败,则会造成数据处理的不一致。...为了保证订单系统的高性能,应该直接返回订单结果,之后让MQ通知子系统做其他非实时的业务操作。这样能保证核心业务的高效及时。...无论是发布消息、接收消息、订阅队列都是通过信道完成的。 Broker 消息队列服务器实体。即RabbitMQ服务器 Virtual host 虚拟主机。...每个vhost本质上就是一个mini版的 RabbitMQ服务器,拥有自己的队列、交换机、绑定和权限机 制。当多个不同的用户使用同一个RabbitMQ服务器时,可以划 分出多个虚拟主机。...用来接收生产者发送的消息,并根据分发规则,将这些 消息分发给服务器中的队列中。不同的交换机有不同的分发规 则。 Queue 消息队列。用来保存消息直到发送给消费者。

    59220

    Nginx:高性能服务器

    Nginx nginx的应用场景 简介 Nginx (“engine x”) 是一个高性能的 HTTP和反向代理服务器,特点是占有内存少,并发能 力强,事实上 nginx的并发能力确实在同类型的网页服务器中表现较好...,中国大陆使用 nginx 网站用户有:百度、京东、新浪、网易、腾讯、淘宝等 作为 web 服务器的功能 Nginx可以作为静态页面的 web服务器,同时还支持 CGI协议的动态语言,比如 perl、...反向代理 由反向代理服务器去选择目标服务器获取数据后,在返 回给客户端,此时反向代理服务器和目标服务器对外就是一个服务器,暴露的是代理服务器 地址,隐藏了真实服务器 IP地址。...降低原来单个服务器的压力。...,如果后端服务器 dow n 掉,能自动剔除。

    1.5K20

    C++ 高性能服务器网络框架设计细节(节选)

    前言 这篇文章我们将介绍服务器的开发,并从多个方面探究如何开发一款高性能高并发的服务器程序。需要注意的是一般大型服务器,其复杂程度在于其业务,而不是在于其代码工程的基本框架。...所谓高性能就是服务器能流畅地处理各个客户端的连接并尽量低延迟地应答客户端的请求;所谓高并发,不仅指的是服务器可以同时支持多的客户端连接,而且这些客户端在连接期间内会不断与服务器有数据来往。...只不过层次二的函数通知我们的方式是各不相同,比如WSAAsyncSelect是利用windows窗口消息队列的事件机制来通知我们设定的窗口过程函数,IOCP是利用GetQueuedCompletionStatus...bool ReadInt64(int64_t& i); 20 bool ReadShort(short& i); 21 bool ReadChar(char& c)...5writeStream.WriteString(retData); 6writeStream.Flush(); 解码: 1BinaryReadStream readStream(strMsg.c_str

    2.3K40

    高性能消息中间件 nsq 解析-介绍

    Nsq 模块介绍 NSQ 最初是由 bitly 公司开源出来的一款简单易用的分布式消息中间件,它可用于大规模系统中的实时消息服务,并且每天能够处理数亿级别的消息。 ?...每当一个发布者发送一条消息到一个 topic,消息会被复制到所有消费者连接的 channel 上,消费者通过这个特殊的 channel 读取消息,实际上,在消费者第一次订阅时就会创建 channel。...Channel 会将消息进行排列,如果没有消费者读取消息消息首先会在内存中排队,当量太大时就会被保存到磁盘中。...Messages:消息构成了我们数据流的中坚力量,消费者可以选择结束消息,表明它们正在被正常处理,或者重新将他们排队待到后面再进行处理。...每个消息包含传递尝试的次数,当消息传递超过一定的阀值次数时,我们应该放弃这些消息,或者作为额外消息进行处理。

    1.1K10

    高性能消息队列 CKafka 核心原理介绍(上)

    作者:闫燕飞 1.背景 Ckafka是基础架构部开发的高性能、高可用消息中间件,其主要用于消息传输、网站活动追踪、运营监控、日志聚合、流式处理、事件追踪、提交日志等等需要高性能的场景,,目前已经上线腾讯云...2.3.2.4 Broker 消息缓存代理,Kafka集群包含一个或多个服务器,这些服务器被称为Broker,负责消息的存储于转发,作为代理对外提供生产和消费服务。...以上图为例Consumer group1中C1和C2同时订阅了Topic 1所以将Topic1下面的P0 ~ P3四个partition均分给C1和C2。...同样Consumer group1中只有C1订阅了Topic0故Topic0中的两个partition只分配给了C1未分配给C2。 2.3.2.12 Message 消息,是通信和存储的最小单位。...下一篇:《高性能消息队列 CKafka 核心原理介绍(下)》

    3.7K51

    如何理解高性能服务器高性能、高并发?

    随着机器学习、深度学习的快速发展,人们对高性能服务器这一概念不再陌生。...GPU服务器是遥感测绘、医药研发、生命科学和高性能计算的理想选择。本文将为大家全面介绍高性能GPU服务器所涉及技术以及如何搭建。...如果你有一个IM服务器,当三次握手建议长连接成功以后,我们会调用accept来获取一个链接,调用该函数我们同样会得到一个文件描述符,通过这个文件描述符就可以处理客户端发送的聊天消息并且把消息转发给接收者...高性能服务器到底是如何实现的?当你在阅读文章的时候,有没有想过,服务器是怎么把这篇文章发送给你的呢?说起来很简单不就是一个用户请求吗?服务器根据请求从数据库中捞出这篇文章,然后通过网络发回去吗。...虽然基于事件编程有这样那样的缺点,但是在当今的高性能高并发服务器上基于事件编程方式依然非常流行,但已经不是纯粹的基于单一线程的事件驱动了,而是 event loop + multi thread + user

    1.4K00

    高性能消息队列 CKafka 核心原理介绍(下)

    作者:闫燕飞 接上篇:《高性能消息队列 CKafka 核心原理介绍(上)》 3 Kafka技术原理 Kafka设计目的就是为业界提供一套高性能、高可靠的消息中间件,故下面将会从高性能、高可靠几个方面对Kafka...I/O Scheduler会将连续的小块写组装成大块的物理写从而提高性能 b. I/O Scheduler会尝试将一些写操作进行重新排序,从而减少磁盘头的移动时间 c....为了方便查看用C的伪代码可以如下表示v1消息的格式 3、批量消息及压缩详解 通过上图,可以看出Kafka通过消息嵌套(Kafka要求消息仅能嵌套一层)的方式,实现了消息的批量压缩,既保证了格式的一致...对于客户端和后端的存储采用同一套编码方式,这样就导致了不用来回编解码和格式转换,节省了Broker及客户端的资源,让整个消息流转及存储更加的高效。 c....高性能,Kafka的性能远超过传统的ActiveMQ, RabbitMQ等消息队列。 高可用性,通过副本方式和ISR的选举算法,使得Kafka有相当高的可用性。

    4.2K32

    高性能网络编程2—-TCP消息的发送

    当我们调用发送方法时,会把我们代码中构造好的消息流作为参数传递。这个消息流可大可小,例如几个字节,或者几兆字节。当消息流较大时,将有可能出现分片。我们先来讨论分片问题。...若TCP层在以太网中试图发送一个大于1500字节的消息,调用IP网络层方法发送消息时,IP层会自动的获取所在局域网的MTU值,并按照所在网络的MTU大小来分片。...IP层同时希望这个分片对于传输层来说是透明的,接收方的IP层会根据收到的多个IP包头部,将发送方IP层分片出的IP包重组为一个消息。...从图1的10个步骤中可知,无论是使用阻塞还是非阻塞套接字,发送方法成功返回时(无论全部成功或者部分成功),既不代表TCP连接的另一端主机接收到了消息,也不代表本机把消息发送到了网络上,只是说明,内核将会试图保证把消息送达对方...下一篇我们探讨如何接收TCP消息,以及接收到ack后内核做了些什么。

    82931

    高性能服务器程序框架

    ---- 服务器模型 C/S模型 结构: ? 特点: 逻辑简单。 工作流程: ? I/O复用技术:select,同时监听多个客户请求。 优点:适合资源相对集中的场合。...结构b比结构a增加了发现服务器,用于主机之间的互相发现,尽快找到自己需要的资源。 特点: 摒弃了服务器为中心的格局,让网络上所有主机处于对等的地位。...模块说明: 模块 单个服务器程序 服务器集群 IO处理单元 处理客户连接,读写网络数据 作为接入服务器,实现负载均衡 逻辑单元 业务进程或线程 逻辑服务器 网络存储单元 本地数据库、文件或缓存 数据库服务器...更符合之前提到的服务器编程框架。    ...服务器编程的路很深,但技术方面也是稳定的,不像前端技术那样技术革新很频繁和有趣。 参考资料: 《Linux高性能服务器编程》

    2.1K20

    高性能服务器的优势

    一般来讲,企业用户在选择服务器业务时,都会经过慎重的考虑。服务器业务涵盖了服务器托管和服务器租用。服务器租用又可以选择高防服务器租用和服务器带宽租用。总的来讲,服务器租用的选择更为丰富。...像选择的数据中心距离远,就可以选择服务器租用,相反,以北京为例,如果企业用户在北京,就可以选择北京服务器托管,距离近选择服务器托管是很好的选择。...在北京可以选择三里屯数据中心或者燕郊数据中心,进行服务器业务。 服务器性能稳定 用户在进行服务器业务,肯定是需要越高性能服务器为佳。...像进行高防服务器租用,选择高性能服务器,能够在用户访问量大时,能够保障服务不中断,提高用户的使用效果。 充足的带宽 带宽,是用户在进行服务器业务考虑的重要一环。带宽的数量,直接决定了网络速度的快慢。...因而会有些用户直接租用带宽,进行服务器带宽租用业务,以满足自身追求高速度的需求。 BGP稳定线路 服务器线路稳定同样代表着服务器的可访问性。线路不稳定波动大,很多互联网应用就无法正常运行。

    2K20

    高性能网络编程2----TCP消息的发送

    当我们调用发送方法时,会把我们代码中构造好的消息流作为参数传递。这个消息流可大可小,例如几个字节,或者几兆字节。当消息流较大时,将有可能出现分片。我们先来讨论分片问题。...若TCP层在以太网中试图发送一个大于1500字节的消息,调用IP网络层方法发送消息时,IP层会自动的获取所在局域网的MTU值,并按照所在网络的MTU大小来分片。...IP层同时希望这个分片对于传输层来说是透明的,接收方的IP层会根据收到的多个IP包头部,将发送方IP层分片出的IP包重组为一个消息。...从图1的10个步骤中可知,无论是使用阻塞还是非阻塞套接字,发送方法成功返回时(无论全部成功或者部分成功),既不代表TCP连接的另一端主机接收到了消息,也不代表本机把消息发送到了网络上,只是说明,内核将会试图保证把消息送达对方...下一篇我们探讨如何接收TCP消息,以及接收到ack后内核做了些什么。

    84320
    领券