在一个工作中的实践项目中，项目是一个部署到linux下的中间件项目，当收到一个Client登录的时候，需要为这个Client打开四个文件，当进行 多用户的大压力测试的时候，程序就出问题了： too many opened files。 网上一查，发现有人也碰到过类似的socket/File: Can’t open so many files问题。 在此总结一下这个问题，希望对后来之人有点帮助。
通常的分析手法如下(转自：https://blog.csdn.net/xiaolli/article/details/56012228)： (1). 确定是哪类文件打开太多，没有关闭.
“too many open files”这个错误大家经常会遇到，因为这个是Linux系统中常见的错误，也是云服务器中经常会出现的，而网上的大部分文章都是简单修改一下打开文件数的限制，根本就没有彻底的解决问题。
1.概述 在实际工作中会经常遇到一些bug，有些就需要用到文件句柄，文件描述符等概念，比如报错： too many open files, 如果你对相关知识一无所知，那么debug起来将会异常痛苦。在Linux操作系统中，文件句柄（包括Socket句柄）、打开文件、文件指针、文件描述符的概念比较绕，而且windows的文件句柄又与此有何关联和区别？这一系列的问题是我们不得不面对的。 这里先笼统的将一下自己对上面的问题的一些理解： 句柄，熟悉Windows编程的人知道：句柄是Windows用来标识被应用程序
在配置我们的 Red Hat Linux 服务器时，确保文件句柄的最大数量足够大是非常关键的。文件句柄设置表示您在 Linux 系统中可以打开的文件数量。
为了让系统能够支持更大的并发，除了必须安装event扩展之外，优化linux内核也是重中之重。
首先我们来看如何标识一个TCP连接？系统是通过一个四元组来识别，(src_ip,src_port,dst_ip,dst_port)即源IP、源端口、目标IP、目标端口。比如我们有一台服务192.168.0.1，开启端口80.那么所有的客户端都会连接到这台服务的80端口上面。有一种误解，就是我们常说一台机器有65536个端口，那么承载的连接数就是65536个，这个说法是极其错误的，这就混淆了源端口和访问目标端口。我们做压测的时候，利用压测客户端，这个客户端的连接数是受到端口数的限制，但是服务器上面的连接数可以达到成千上万个，一般可以达到百万（4C8G配置），至于上限是多少，需要看优化的程度。具体做法如下：
为了让系统能够支持更大的并发，除了必须安装event扩展之外，优化linux内核也是重中之重，以下优化每一项都非常非常重要，请务必按逐一完成。
再开始这个问题之前，我们先的准备一下环境， mysql 8.027 8G 内存 SSD 磁盘 4核心CPU 。同时通过sysbench来对系统进行测试数据的填充。
在 Linux 平台上运行的进程都会从系统资源申请一定数量的句柄，而且系统控制了进程能够申请的最大句柄数量。用户程序如果不及时释放无用的句柄，将会引起句柄泄露，从而可能造成申请资源失败，导致系统文件句柄用光连接不能建立。本文主要介绍Linux下如何查看和修改进程打开的文件句柄数，避免这类问题的发生。
可以发现，很明显是Nginx返回的错误。但是从接口返回看不出太多的细节问题，需要打印nginix日志查看
ERROR 1040(HY000): Too many connections：DB连接池里已有太多连接，不能再和你建立新连接。
本文出自:[url]http://www.nsfocus.com[/url] 维护:小四 6. /etc/system可调资源限制 6.1 Solaris下如何限制每个用户可拥有的最大进程数 6.2 如何配置系统使之支持更多的伪终端 6.3 如何增加每个进程可打开文件句柄数 6.4 6.5 做了setuid()这类调用的程序如何产生core dump 6.6 消息队列调整 -------------------------------------------------------------------------- 6. /etc/system可调资源限制 6.1 Solaris下如何限制每个用户可拥有的最大进程数 A: Casper Dik 在/etc/system设置 set maxuprc = Q: maxusers参数究竟影响了什么 A: Casper Dik 下面以/etc/system语法格式举例说明： * set maxusers = <以MB为单位计的可用物理内存数量> * 系统所允许的最大进程数，通常最多30000 set max_nprocs = 10 + 16 * maxusers * 每个用户可以拥有的最大进程数(为超级用户保留5个) set maxuprc = max_nprocs - 5; # sysdef | sed -n '/System Configuration/,$p' 6.2 如何配置系统使之支持更多的伪终端 A: Argoth 不要试图通过'/usr/bin/adb -k'到达目的。 a. 如果Solaris版本小于7，修改/etc/system，增加如下行 set pt_cnt= 执行/usr/sbin/reboot -- -r，或者Stop-A，执行boot -r b. 对于Solaris 8，支持的伪终端数目根据需要动态改变，系统依然有一个内部限制， 但是这个值非常大。如果"pt_cnt"变量小于这个内部限制，将被忽略。一般情况 下，不再需要指定"pt_cnt"变量。但还是有某些罕见的情形，需要设置"pt_cnt" 变量大于内部限制。 6.3 如何增加每个进程可打开文件句柄数 A: Casper Dik 从Solaris 2.4开始，可以通过修改/etc/system实现 * set hard limit on file descriptors set rlim_fd_max = 4096 * set soft limit on file descriptors set rlim_fd_cur = 1024 软限制超过256时，某些应用程序会出问题，尤其BCP程序。软限制超过1024时，那些 使用select()的应用程序可能会出问题。Solaris 7之前，select()使用的文件句柄 数不能超过1024。Solaris 2.6的RPC代码被重写过了，使用poll()代替select()，可 以使用超过1024的文件句柄。Solaris 2.6之前，如果软限制超过1024，所有RPC服务 很可能崩溃。 Solaris 7下select()可以使用最多达65536的文件句柄，64-bit应用程序缺省情况如 此。如果是32-bit应用程序，需要指定给FD_SETSIZE一个更大的值，重新编译。 如果程序使用标准输入/输出(stdio)，或者调用那些使用stdio的库函数，当打开的 文件超过256时，程序可能会出问题，这个限制是stdio的限制。当程序需要大量文件 句柄时，应该想办法保留一些小数字的文件句柄，让stdio使用它们。 Solaris 7下64-bit应用程序不再受这个stdio限制的影响。如果你的确需要超过256 个FILE *，而又不能使用Solaris 7，或者需要运行32-bit代码，考虑使用来自AT&T 的SFIO([url]http://www.research.att.com/sw/tools/sfio/[/url])。 A: [email]qaz@smth.org[/email] 检查当前设置 # ulimit -H -n 1024 # ulimit -S -n 64 # 对于Solaris，建议修改/etc/system后重启 * set hard limit on file descriptors set rlim_fd_max=0x8000 * set soft limit on file descriptors set rlim_fd_cur=0x8000 然后 ulimit -S -n 8192 对于Linux echo 65536 > /proc/sys/fs/file-max 然后 ulimit -S -n 8192 对于FreeBSD 编辑/etc
欢迎支持笔者新作：《深入理解Kafka:核心设计与实践原理》和《RabbitMQ实战指南》，同时欢迎关注笔者的微信公众号：朱小厮的博客。
Linux内核是高并发服务的关键组件之一。以下是一些可用于优化Linux内核的配置。
单台服务器可以支持的并发TCP连接数取决于多个因素，包括硬件性能、操作系统限制、网络带宽和应用程序设计。以下是一些影响并发TCP连接数的因素：
Redis的高性能和他的事件模型是密不可分的，最大程度上利用了单线程、非阻塞IO模型来快速的处理请求（单线程处理多链接）。这里存在一个问题，其实严格意义上来讲，Redis 是单线程对外提供服务，redis内部并不单线程的，还存在一些关于数据持久化的线程。
网络编程 在tcp应用中，server事先在某个固定端口监听，client主动发起连接，经过三路握手后建立tcp连接。那么对单机，其最大并发tcp连接数是多少？
IO多路复用技术把多个IO的阻塞复用到同一个select的阻塞上，使得系统在单线程的情况下可以同时处理多个客户端请求。
日常我们开发时，我们会遇到各种各样的奇奇怪怪的问题（踩坑o(╯□╰)o），这个常见问题系列就是我日常遇到的一些问题的记录文章系列，这里整理汇总后分享给大家，让其还在深坑中的小伙伴有绳索能爬出来。 同时在这里也欢迎大家把自己遇到的问题留言或私信给我，我看看其能否给大家解决。
查看系统默认的最大文件句柄数，系统默认是1024 #ulimit -n 1024
Nginx反向代理并发能力的强弱，直接影响到系统的稳定性。安装Nginx过程，默认配置并不涉及到过多的并发参数，作为产品运行，不得不考虑这些因素。Nginx作为产品运行，官方建议部署到Linux64位系统，基于该建议，本文中从系统线之上考虑Nginx的并发优化。
io_uring是Linux内核在v5.1引入的一套异步IO接口，随着其迅速发展，现在的io_uring已经远远超过了纯IO的范畴。从Linux v5.3版本开始，io_uring陆续添加了网络编程相关的API，对用户提供sendmsg、recvmsg、accept、connect等接口的异步支持，将io_uring的生态范围扩大到了网络领域。
最近工作的时候一个接入服务需要测性能测试，万万没想到测出了一个把 linux 句柄打满的问题
Oracle 不同平台的数据库安装指导为我们部署Oracle提供了一些系统参数设置的建议值，然而建议值是在通用的情况下得出的结论，并非能完全满足不同的需求。使用不同的操作系统内核参数将使得数据库性能相差甚远。本文描述了linux下几个主要内核参数的设置，供参考。
•MapReduce写入Hbase原理：封装了一个TableOutputFormat来实现写入Hbase的数据 •要求 –写入Hbase的数据的V的类型必须为Put类型
最近遇到一个非常有趣的问题。其中有一组HAProxy，频繁出现问题。登录上服务器，cpu、内存、网络、io一顿猛查。最终发现，机器上处于TIME_WAIT状态的连接，多达6万多个。
我们知道单机的端口最多65536，除去系统使用的端口， 留给程序使用的也就6万个端口， 在需要对单机做长连接压力测试的时候，如果要测60W的长连接并发，就得找10台机器，而一般情况下我们并没有这么多的空闲机器去做这种规模的测试，那如何用两台机器模拟百万连接呢？对于TCP的连接，系统用一个4四元组来唯一标识：{server ip, server port,client ip,client port}。这里有两个变量是固定的， server ip与clinet ip。能做文章的也就是两台服务器的端口号了。如果server port 只开启一个端口的话， 那一台client最多也就 6W个连接能连上，多了因为端口的限制无法创建新的连接。如果server端多开几个端口，根据TCP的唯一标识，我们便能够模拟超过6W的连接测试了。处面是具体的代码，项目依赖netty，版本为4.1.25.Final。
epoll简介 epoll 是Linux内核中的一种可扩展IO事件处理机制，最早在 Linux 2.5.44内核中引入，可被用于代替POSIX select 和 poll 系统调用，并且在具有大量应用程序请求时能够获得较好的性能（ 此时被监视的文件描述符数目非常大，与旧的 select 和 poll 系统调用完成操作所需 O(n) 不同， epoll能在O(1)时间内完成操作，所以性能相当高），epoll 与 FreeBSD的kqueue类似，都向用户空间提供了自己的文件描述符来进行操作。 [cpp]
在确定最大连接数之前，先来看看系统如何标识一个tcp连接。系统用一个4四元组来唯一标识一个TCP连接：{local ip, local port,remote ip,remote port}。
一位工作5年的小伙伴面试时被问到IO相关的问题，说，谈谈你对IO多路复用机制的理解。当时他说只是听过多路复用，具体细节没有了解过。今天，我给大家分享一下我的理解。
网上说什么的也有，你抄我的我抄你的，也是醉了，故自己综合查阅的资料，根据自己的理解和判断以及部分的实践整理下吧，也不敢保证都是对的，如果有比较大的错误，希望看到这篇文章的你提出来，大家共同进步！
这几天在做一个性能测试，写了一个模拟发送http的程序。模拟100并发的情况下，随机发http get的请求。放到服务器上运行一段时间抛出Too many open files的异常。 异常信息简单的信息如下： I/O exception (java.net.SocketException) caught when processing request: Too many open files 大致了解下，是文件句柄数设置太低导致的。一般linux服务器默认的句柄数都是1024，执行ulimit -n，查
作者简介 宋顺，携程框架研发部技术专家。2016年初加入携程，主要负责中间件产品的相关研发工作。毕业于复旦大学软件工程系，曾就职于大众点评，担任后台系统技术负责人。 说起Too many open files这个报错，想必大家一定不陌生。在Linux系统下，如果程序打开文件句柄数（包括网络连接、本地文件等）超出系统设置，就会抛出这个错误。 不过最近发现Tomcat的类加载机制在某些情况下也会触发这个问题。今天就来分享下问题的排查过程、问题产生的原因以及后续优化的一些措施。 在正式分享之前，先简单介绍下背景。
上一篇文章中，谈了一些网络编程的基本概念。在现实使用中，用的最多的就是I/O复用了，无非就是select,poll,epoll 很多人提到网络就说epoll,认为epoll效率是最高的。单纯的这么认为，其实有失偏颇。epoll固然高效，可是它是怎么做到高效的，它到底比select或poll优异在哪儿？ 我们通过调用流程来简单分析下。 首先以select为例（poll类似），看下其调用过程 1.选择想要处理的套接字，通过接口FD_SET(fd, &set)加入到set中; 2.调用select(max+1,
如果调大了maxConns，还是出现 too many open connections 的报错，也可能跟系统的ulimit限制有关。
什么是epoll epoll是什么？按照man手册的说法：是为处理大批量句柄而作了改进的poll。当然，这不是2.6内核才有的，它是在2.5.44内核中被引进的(epoll(4) is a new API introduced in Linux kernel 2.5.44)，它几乎具备了之前所说的一切优点，被公认为Linux2.6下性能最好的多路I/O就绪通知方法。 epoll的相关系统调用 epoll只有epoll_create,epoll_ctl,epoll_wait 3个系统调用。 1. int ep
步骤： 1、--查看当前各个进程打开的文件句柄数，其结果的第一列表示句柄数，第二列表示进程号 lsof -n|awk '{print $2}'|sort|uniq -c |sort -nr|more 2、--查看单个进程能够打开的最大文件句柄数量(socket连接也算在里面) ulimit -n 3、对比1和2的结果，如果1接近或超过2了，需要将2的配置调大 ulimit -n <最大文件句柄数> 4、如果想知道打开的文件句柄数最多的进程是哪个应用程序，可以使用如下命令 ps -aef|grep <进程号> 5、如果句柄数调的非常大了，还是不行，可能需要看看/proc/sys/fs/file-max中的值，该值表示系统全局的可用句柄数，可修改 vim /proc/sys/fs/file-max 6、对于正在使用(分配出去)的所有的句柄数、未使用的所有的句柄数、可使用的最大的句柄数这3个值，可以通过以下只读文件查看 vim /proc/sys/fs/file-nr 提示：当分配出去的句柄数接近最大句柄数，而“未使用的句柄数”远大于零时，表明你遇到了一个“句柄”使用高峰，这意为着你不需要增加file-max的值。 原文如下： When the allocated file handles come close to the maximum, but the number of unused file handles is significantly greater than 0, you’ve encountered a peak in your usage of file handles and you don’t need to increase the maximum.
系统性能一直是一个受关注的话题，如何通过最简单的设置来实现最有效的性能调优，如何在有限资源的条件下保证程序的运作，ulimit 是我们在处理这些问题时，经常使用的一种简单手段。ulimit 是一种 linux 系统的内键功能，它具有一套参数集，用于为由它生成的 shell 进程及其子进程的资源使用设置限制。
同步阻塞IO在等待数据就绪上花去太多时间，而传统的同步非阻塞IO虽然不会阻塞进程，但是结合轮询来判断运维
无论对Spark集群，还是Hadoop集群等大数据相关的集群进行调优，对linux系统层面的调优都是必不可少的，这里主要介绍3种常用的调优：
以下测试都是在没有优化或修改内核的前提下测试的结果 1. 测试目的：ext3文件系统下filename最大字符长度 测试平台：RHEL5U3_x64 测试过程： LENTH=`for i in {1..255};do for x in a;do echo -n $x;done;done` touch $LENTH 当增加到256时，touch报错，File name too long linux系统下ext3文件系统内给文件/目录命名，最长只能支持127个中文字符，英文则可以支持255个字符 2. 测试目的：ext3文件系统下一级子目录的个数限制 测试平台：RHEL5U3_x64 测试过程： [root@fileserver maxdir]# for i in {1..32000};do mkdir $i;done mkdir: cannot create directory `31999': Too many links mkdir: cannot create directory `32000': Too many links ext3文件系统一级子目录的个数为31998(个)。 Linux为了cpu的搜索效率而规定的,要想改变数目大概要重新编译内核. 3. 测试目的：ext3文件系统下单个目录里的最大文件数 测试平台: RHEL5U3_x64 测试过程： 单个目录下的最大文件数似乎没什么特别限制，也是受限于所在文件系统的inode数限制： df -i或者使用tune2fs -l /dev/sdaX或者dumpe2fs -h /dev/sdaX查看可用inode数，后两个命令 输出结果是一样的，但是跟df所得出的可用inode数会有些误差，至今不明白什么原因。 网上常用两种解决办法： 1） 重新mkfs，ext3默认block大小4096 Bytes，block设置小一些inode数设置大一些 2） 使用loopback文件系统临时解决： 在/usr中（也可以在别处）创建一个大文件，然后做成loopback文件系统，将原来的文件移到这个 文件系统中，并将它mount到/usr下合适的位置。这样可以大大减少你/usr中的文件数目。但是系统 性能会有点损失。 4. 测试目的： 打开文件数限制（文件句柄、文件描述符） 测试平台： RHEL5U3_x64 ulimit -n 65535设置，或者/etc/security/limit.conf里设置用户打开文件数、进程数、CPU等
Doris 运行在 Linux 环境中，推荐 CentOS 7.x 或者 Ubuntu 16.04 以上版本，同时你需要安装 Java 运行环境，JDK最低版本要求是8。我们这里使用的是Linux Centos7.9版本，jdk为1.8。
我们在这里开启了 innodb_file_per_table，但这个参数并非本实验所必须，只是为了演示方便。
中文地址： https://www.oschina.net/translate/c10k
由于默认的Linux内核参数考虑的是最通用场景，这明显不符合用于支持高并发访问的Web服务器的定义，所以需要修改Linux内核参数，是的Nginx可以拥有更高的性能；
为满足内网无纸化/电子教室等内网超低延迟需求，避免让用户配置单独的服务器，我们研发了轻量级RTSP服务开发包。
发布者：全栈程序员栈长，转载请注明出处：https://javaforall.cn/106510.html原文链接：https://javaforall.cn
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
对象存储
即时通信 IM
实时音视频
