今天是参加Intel多核和多线程培训的第一天，感触颇深。因为目前我们正在开发一个分布式的多线程系统，前不久也做过一些优化，听了今天的课程，能产生一点点共鸣。
hi，大家好，今天分享一篇内存性能优化的文章，文章用了大量精美的图深入浅出地分析了Linux内核slab性能优化的核心思想，slab是Linux内核小对象内存分配最重要的算法，文章分析了内存分配的各种性能问题（在不同的场景下面），并给出了这些问题的优化方案，这个对我们实现高性能内存池算法，或以后遇到内存性能问题的时候，有一定的启发，值得我们学习。
作为这个系列的第一篇，我先来描述一下slab系统。因为近些天有和同事，朋友讨论过这个主题，而且觉得这个主题还算比较典型，所以就作为第一篇了。其实按照操作系统理论来讲，进程管理应该更加重要些，按照我自己的兴趣来讲，IO管理以及TCP/IP协议栈会更加有分量，关于这些内容，我会陆续给出。
今天看到一篇论文：Linux Block IO: Introducing Multi-queue SSD Access on Multi-core Systems 。 这篇论文发表于 2013 年，介绍 Linux 内核的 block layer 针对现代硬件——高速 SSD、多核 CPU（NUMA）的新设计。 总的来说，设计方案不难理解，并没有涉及什么牛逼或者新颖的内容。这里面提到的内容从 Linux 3.11 开始出现在内核，Linux 3.16 成为内核的一个完整特性[6]。Linux 5.0 开始成为 block layer 的默认选项[7]。
硬件中断发生频繁，是件很消耗 CPU 资源的事情，在多核 CPU 条件下如果有办法把大量硬件中断分配给不同的 CPU (core) 处理显然能很好的平衡性能。 现在的服务器上动不动就是多 CPU 多核、多网卡、多硬盘，如果能让网卡中断独占1个 CPU (core)、磁盘 IO 中断独占1个 CPU 的话将会大大减轻单一 CPU 的负担、提高整体处理效率。 VPSee 前天收到一位网友的邮件提到了 SMP IRQ Affinity，引发了今天的话题：D，以下操作在 SUN FIre X2100 M2 服务器＋
上来先推荐一本书，《计算机体系结构：量化研究方法（第五版）》，英文能力比较好的建议阅读原版。
平均负载(load average)是指系统的运行队列的平均利用率，也可以认为是可运行进程的平均数。
现在多核 CPU 是主流。利用多核技术，可以有效发挥硬件的能力，提升吞吐量，对于 Java 程序，可以实现并发垃圾收集。但是 Java 利用多核技术也带来了一些问题，主要是多线程共享内存引起了。目前内存和 CPU 之间的带宽是一个主要瓶颈，每个核可以独享一部分高速缓存，可以提高性能。JVM 是利用操作系统的”轻量级进程”实现线程，所以线程每操作一次共享内存，都无法在高速缓存中命中，是一次开销较大的系统调用。所以区别于普通的优化，针对多核平台，需要进行一些特殊的优化。
我们都知道，带有优化的编译器，会尝试重新排序汇编指令，以提高程序的执行速度。但是，当在处理同步问题的时候，重新排序的指令应该被避免。因为重新排序可能会打乱我们之前想要的同步效果。其实，所有的同步原语都可以充当优化和内存屏障。
最近在学习.NET的并行计算技术，学到一个服务器NUMA架构，NUMA架构在中大型系统上一直非常盛行，也是高性能的解决方案，在系统延迟方面表现都很优秀。Windows一向都没有在NUMA架构上有多少表现机会，AMD的多路系统大多也会用在UNIX/Linux上。Intel如期进入了NUMA架构的怀抱，英特尔最新的服务器处理器至强5500是一项重大的结构变革。与上一代至强处理器相比，至强5500采用了非一致性存储结构（NUMA），它在一块芯片上增加了向内存控制器的并行化访问路径增加非统一内存访问。可以看这篇文章
大家好，我是腾讯云的赵军，同时我也是FFmpeg决策委员会委员、开源爱好者。在2018年成为FFmpeg maintainer，2019年入选 FFmpeg 决策委员会(voting committee)，具备丰富的基于Linux 的Router/Gateway 开发经验，并持续关注Linux 在网络方面发展。曾开发基于Linux 的高清/ 标清H.264/MPEG2视频解码器及图像处理平台。曾在Intel DCG/NPG 负责基于FFmpeg以及Intel平台上的视频编码/解码/转码、视频后处理、视频分析的硬件加速的工作。目前在腾讯云负责视频云的系统优化相关工作，除去支持公司内部的项目开发以外，也在持续向FFmpeg社区提交patch，同时也倡导引领同事以开放的心态拥抱开源。
伴随着飞速增长的视频普及与观看需求，腾讯云技术专家、FFmpeg决策委员会委员赵军认为，视频行业目前存在一个“技术、需求与现实”的三角博弈，其场景犹如带着镣铐的舞蹈，即需要在超高清晰度、计算能力与网络带宽约束之下寻求平衡。正是基于这样一个三角博弈，腾讯云以“开源、协同”为利器，逐步打磨出一个完备且高效的视频产品链。 文 / 赵军 大家好，我是腾讯云的赵军，同时我也是FFmpeg决策委员会委员、开源爱好者。在2018年成为FFmpeg maintainer，2019年入选 FFmpeg 决策委员会(vo
作为资源管理的核心部分，OS的线程调度器必须保持下面这样简单，不变的特性: 确保ready状态的线程总是被调度到有效的CPU核上。虽然它看起来是简单的，我们发现这个不变性在Linux上经常被打破。当ready状态的线程在runqueue中等待时，有些CPU核却还会空闲几秒。以我们的经验，这类性能方面的问题会导致重度依赖同步的应用的性能成倍的下降，针对Kernel编译会多造成高达13%的延迟，针对广泛使用的商用数据库会造成23%的吞吐量降低。传统的测试技术和调试工具对于确认和了解这类问题是无效的，因此这些问题的症状经常是难以捕获的。为了能够推动我们的调查，我们构建了新的工具来在线检测这种违反不变性的情况并且将调度行为可视化。这些工具是简单的，易于在多个kernel版本间移植的并且使用的代价很小。我们相信这些工具将成为内核开发者工具链的一部分来帮助其避免这类问题的出现。
在之前的文章 《2004：当CPU温和地走入那个良夜》 中我讲到了2000年后摩尔定律的终结，CPU时钟频率定格，多核成为CPU发展的新方向，并行计算成为趋势。
昨天，我们看到，多核处理器的出现大大提升了软转发的吞吐量，但缓存的优化成为多核的瓶颈。除了在MBUF方面做了优化之外，还有一个重要的地方——计数器的优化。
对于CUDA Fortran用户来说，PGI编译器是必然要用到的。 其实PGI编译器不仅仅可以支持Fortran，还可以支持C/C++。而对于集群用户来说，要将上万行的代码加速移植到GPU集群上，PG
之前的文章所说的都是如何优化一条指令执行的速度（比如并发，乱序，分支预测，加相同电路让某个频繁操作可以同时进行处理），另外一种提升性能的方式就是 同时运行多个指令流，使用多核处理器：
针对海量的网络流量，转发性能是我们最关键的一个方面，那构建高性能的后台服务器有哪些关键的技术和需要注意的地方。
根据我们之前的一贯思路，对于一个工具来说都有一定边界和基础，然而软件或者数学都是基于一定的边界的，这些边界条件的变化也会对结果产生一定的影响，但是本质上没有改变。作者将这种重要的点叫做边界。边界的改变会对结果有很大的影响，但不改变主题，所以存在最优的边界条件。寻找最优的过程就是优化。
针对海量的网络流量，转发性能是我们最关键的一个方面，那构建高性能的后台服务器有哪些关键的技术和需要注意的地方，今天邀请了后台开发同学童琳和郑胜利来和大家一起谈谈。 一、引言 随着互联网的高速发展，内容量的提升以及对内容智能的需求、云产业的快速突起，作为互联网的计算基石服务器的形态以及使用成为了炙手可热的话题，全球各家大型互联网公司都持续的在服务器平台上有非常大的动作，譬如facebook的OCP等，而整个服务器的生态链也得到了促进和发展。随着服务器硬件性能的提升和网络硬件的开放，传统PC机的处理性能甚者可
在linux bsp中，allwinner平台统一命名为“sunxi”。即：linux bsp中的“sunxi”可以理解为是allwinner的代称。
大家好，我是cloud3，本文讲一下操作系统中的调度算法以及多处理中的调度问题。
随着云计算产业的异军突起，网络技术的不断创新，越来越多的网络设备基础架构逐步向基于通用处理器平台的架构方向融合，从传统的物理网络到虚拟网络，从扁平化的网络结构到基于 SDN 分层的网络结构，无不体现出这种创新与融合。
上一篇文章中我们做了一个除法的程序，其实现原理是不断使用减法当检测到0或者负数时停止。但是这种方式需要很多个时钟周期才能完成（13个周期，每次发一个时钟周期CPU去取一次指令执行【取指令，解码，执行】），特别低效。
分别是： 1、Makefile：分布在 Linux 内核源代码根目录及各层目录中，定义 Linux 内核的编译规则； 2、配置文件（config.in）：给用户提供配置选择的功能； 3、配置工具：包括配置命令解释器（对配置脚本中使用的配置命令进行解释）和配置用户界面（提供基于字符界面、基于 Ncurses 图形界面以及基于 Xwindows 图形界面的用户配置界面，各自对应于 Make config、Make menuconfig 和 make xconfig）。
分别表示： 当前时间、系统已经运行了多长时间、目前有多少登陆用户、系统在过去的1分钟、5分钟和15分钟内的平均负载。
在对应用程序不断调优的过程中，除了制定完备的测试基准（Benchmark）外，还需要一把直中要害的利器——性能分析工具。
本章分为两节，第一节介绍数据平面开发套件DPDK（Data Plane Development Kit）的基础知识，第二节介绍DPDK盒子的使用方法。 一、DPDK简介 本节首先介绍DPDK出现的行业背景，然后介绍DPDK概述、DPDK关键技术、DPDK开源代码，最后介绍DPDK Lib库。 1.1 DPDK背景 在过去10年里，以太网接口技术也经历了飞速发展。从早期主流的10Mbit/s与100Mbit/s，发展到千兆网（1Gbit/s）。到如今，万兆（10Gbit/s）网卡技术成为数据中心服务器的主流
物理CPU 物理CPU就是计算机上实际配置的CPU个数。在linux上可以打开cat /proc/cpuinfo 来查看，其中的physical id就是每个物理CPU的ID，你能找到几个physical id就代表你的计算机实际有几个CPU。在linux下可以通过指令 grep ‘physical id’ /proc/cpuinfo | sort -u | wc -l 来查看你的物理CPU个数
前几期的大猫课堂中大猫教了大家“10行代码搞定滚动回归”，在那一期的最后大猫说文章中给出的是目前大猫看到的最快的实现方法，“如果有发现更快方法的小伙伴一定要联系大猫”，emmmm……现在看来大猫不得不自己寻找更快的方法了，因为大猫前几天遇到了这样一个需求：需要处理大约2700个股票的120日滚动回归，每次滚动回归包含一个OLS以及一个GARCH拟合。按照平均每个股票7年历史，每年250个交易日来算，那就大约需要完成2700*7*250*2=940万次拟合！这个运算在大猫的i7 3.5G+32G+1T SSD的地球人上似乎要永远运行下去，于是大猫只得乖乖停止进程思考提高运算效率的办法。
进行深度学习的训练向来不被认为是CPU的强项，但是以CPU研发见长的英特尔并不甘心屈服于这个定位，在过去的几年里，英特尔及其合作伙伴一直在探索用CPU来进行快速有效的深度学习开发的方法。代号KNL的Xeon Phi至强芯片是英特尔的努力尝试之一，同时在深度学习算法的改进上，英特尔也做了一些努力。 近日，在美国旧金山举行的IDF16大会上，与英特尔联合宣布启动了KNL试用体验计划的浪潮集团副总裁、技术总监胡雷钧做了基于英特尔至强融合处理器KNL和FPGA上的深度学习的试用体验报告。报告介绍了高性能计算和深度学
最早意识到这两个概念可能不一样是在什么时候呢，不是在买电脑的时候哈，是在安装虚拟机的时候。
本文通过实验论证：Unixbench的Pipe-based Context Switching用例受操作系统调度算法的影响波动很大，甚至出现了虚拟机跑分超过物理机的情况。在云计算时代，当前的Unixbench已不能真实地反映被测系统的真实性能，需要针对多核服务器和云计算环境进行完善。
其实“多核”这个词已经流行很多年了，世界上第一款商用的非嵌入式多核处理器是2002年IBM推出的POWER4。当然，多核这个词汇的流行主要归功与AMD和Intel的广告，Intel与AMD的真假四核之争，以及如今的电脑芯片市场上全是多核处理器的事实。接下来，学术界的研究人员开始讨论未来成百上千核的处理器了。有一个与多核匹配的词叫片上网络（Networks on Chip），讲的是多核里的网络式互连结构，甚至有人预测未来将互连网集成到片上这种概念了。当然，这样的名词是很吸引眼球的，不过什么东西都得从实际出发，这篇文章也就简单地分析了为什么有多核这个事情，以及多核系统的挑战。
CPU在摩尔定律的指导下以每18个月翻一番的速度在发展，然而内存和硬盘的发展速度远远不及CPU。这就造成了高性能能的内存和硬盘价格及其昂贵。然而CPU的高度运算需要高速的数据。为了解决这个问题，CPU厂商在CPU中内置了少量的高速缓存以解决I\O速度和CPU运算速度之间的不匹配问题。
什么是负载均衡呢？用户输入的流量通过负载均衡器按照某种负载均衡算法把流量均匀地分散到后端的多个服务器上，接收到请求的服务器可以独立的响应请求，达到负载分担的目的。从应用场景上来说，常见的负载均衡模型有全局负载均衡和集群内负载均衡，从产品形态角度来说，又可以分为硬件负载均衡和软件负载均衡。
AQS是并发基类 , 通过State以及Exclussive Thread来控制资源总数以及资源独占的线程. 通过LockSupport.park/unpark来控制线程CPU的调度 , 用于让某个线程获取/让出CPU资源.
在Linux设备驱动中，我们必须要解决的一个问题是：多个进程对共享资源的并发访问，并发的访问会导致竞态。
主板上实际插入的cpu数量，可以数不重复的 physical id 有几个（physical id）
nfconntrack是netfilter中的重要模块，很多netfilter的功能都依赖于这个模块，如NAT等。而利用linux来构建的网络设备，可以说，其80%的功能都依赖于nfconntrack实现的会话管理。所以，会话管理的性能优劣会对网络设备的性能产生直接的影响。
本文主要介绍了我在阅读《深入浅出DPDK》，《DPDK应用基础》这两本书中所划下的知识点
从我们用户的使用就可以感受到网速一直在提升，而网络技术的发展也从1GE/10GE/25GE/40GE/100GE的演变，从中可以得出单机的网络IO能力必须跟上时代的发展。
在上一篇中，介绍了静态测试场景，本文介绍动态性能测试的差异分析，希望大家可以借鉴。
在前面的文章中介绍过使用w命令或uptime命令来查看Linux系统的平均负载(Load avaerage)，那么平均负载处于什么状态算是正常呢？如果要根据平均负载来判断系统的稳定性，又该如何界定？先来看一下基础知识。
高性能网络编程 - The C10K problem 以及 网络编程技术角度的解决思路
然后看看标准C++基金会（https://isocpp.org）怎么说的（官方链接）：
DPDK最初动机很简单，网络处理器的软件解决方案，证明IA多核处理器能够支撑高性能数据包处理。 什么是DPDK？对于用户来说，它可能是一个出色的包数据处理性能加速软件库；对于开发者来说，它可能是一个实践包处理新想法的创新工场；对于性能调优者来说，它可能又是一个绝佳的成果分享平台。DPDK在主流Linux包含，比如Debian, Fedora,Redhat, Ubuntu, FreeBSD。 DPDK代码在www.dpdk.org上自由提交，软件发布时间是1年4次，分别是2017年2月、5月8月和11月。本质
提起1994年，你会想起那时在世界电影史上都大放异彩的一年的，那一年国外影坛神仙打架，《阿甘正传》、《肖申克的救赎》、《这个杀手不太冷》等等横空出世，中国也有《重庆森林》、《活着》这样的佳作。
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
实时音视频
即时通信 IM
对象存储
