MediaTek T750 是一款面向新一代5G CPE无线产品，可应用于5G固定无线接入（FWA）和移动热点（MiFi）等设备，为家庭、企业和移动用户带来高速5G连接，芯片平台采用 7nm 制程工艺，高度集成 5G NR FR1 调制解调器，4 核 Arm Cortex-A55 CPU 可提供完整的功能和配置，支持 5G NR Sub-6GHz 下双载波聚合（2CC CA）200MHz 频率，不仅拥有更大的信号覆盖范围，同时也让 5G 的下行速度大幅提升。
1.CPU 发起的，访问PCIe设备配置空间的数据流。这种数据流主要是BIOS/Linux PCIe driver 对设备进行初始化、资源分配时，读写配置空间的。包括PCIe 枚举，BAR 空间分配， MSI 分配等。 设备驱动通过 pci_wirte_config() / pci_read_config() 发起配置空间访问。 lspci / setpci 也是对应到配置空间访问。
底层网络 Underlay Network 顾名思义是指网络设备基础设施，如交换机，路由器, DWDM 使用网络介质将其链接成的物理网络拓扑，负责网络之间的数据包传输。
KVM的网络优化方案，总的来说，就是让虚拟机访问物理网卡的层数更少，直至对物理网卡的单独占领，和物理机一样的使用物理网卡，达到和物理机一样的网络性能。
很多架构师都是从软件开发成长起来的，大家在软件领域都有很深的造诣，大部分人对硬件接触的很少。而成为架构师后需要频繁的跟人 、硬件 、软件 、网络打交道，本篇文章就给大家带来服务器硬件方面的相关知识，主要包括服务器、CPU、内存、磁盘、网卡。
DPDK与SR-IOV两者目前主要用于提高IDC（数据中心）中的网络数据包的加速。但是在NFV（网络功能虚拟化）场景下DPDK与SR-IOV各自的使用场景是怎样的？以及各自的优缺点？
可能很多朋友想用VMware在自己的windows系统上体验下其它操作系统或者运行某些只能在Linux上的软件。但是可能自己买阿里云或者腾讯云感觉划不来。下面我来简单的来告诉大家，运用VMware的桥接模式，可以让大家像拥有另外一台不同操作系统的电脑一样在局域网中。同样可以来上网，可以和局域网中的其他机器一样通信，甚至可以暴露ip与端口到公网中，这样其他机器或者网页等也能访问它。
在前两期，我们学习了虚拟机上的设备虚拟化，包括中断虚拟化、DMA虚拟化和PCIE设备直通。那么，如果在宿主机上有20个虚拟机，每个虚拟机上有一个网卡，我们应当如何实现呢？
版权声明：本文为博主原创文章，未经博主允许不得转载。 https://blog.csdn.net/huangweiqing80/article/details/83347495
本文主要介绍了我在阅读《深入浅出DPDK》，《DPDK应用基础》这两本书中所划下的知识点
NIC 在接收到数据包之后，首先需要将数据同步到内核中，这中间的桥梁是 rx ring buffer。它是由 NIC 和驱动程序共享的一片区域，事实上，rx ring buffer 存储的并不是实际的 packet 数据，而是一个描述符，这个描述符指向了它真正的存储地址，具体流程如下：
前言 其实这个专题很久很久之前就想写了，但是一直因为各种原因拖着没动笔。 因为没有资格，也没有钱在一线城市买房 (😂😂😂); 但是在要结婚之前，婚房又是刚需。 我和太太最终一起在一线城市周边的某二线城市买了房。 再之后，一起装修，她负责非电相关，我负责电 网相关的装修。 家庭组网，家庭实验室就这么一步一步随着家庭的组建而组建了起来： 家庭有线无线组网 智能家居 NAS 公网 IP 和 IPv6 Wake Online (WOL) 家庭网络安全 (😂看了防火墙日志，才知道被攻击频率能有多高） 玩转树莓派 组
在上期，大家了解了虚拟机中的纯虚拟化设备(Emulation)和半虚拟化(Para-virtualiazation)是如何工作的。
高通5G平台SDX55支持5G独立组网（SA）和非独立组网(NSA)两种网络架构，同时兼容LTE和WCDMA制式，拥有更快的传输速度，更优秀的承载能力，以及更低的网络延时，可广泛应用于网关、工业监控、远程医疗、无人机、虚拟现实和沉浸式体验（VR和AR）、智慧能源、车联网、工业互联网、智慧教育、高清视频、智慧城市、家庭娱乐等多个领域。
VPP 是美国思科网络开源的一个可扩展的框架，可提供开箱即用的生产质量交换机 / 路由器功能。它是思科矢量数据包处理（Vector Packet Processing，VPP）技术的开源版本：一种高性能的数据包处理堆栈，可以在商用 CPU 上运行。
pcie接口是一种高速串行计算机扩展总线标准，是高速串行点对点双通道高带宽传输，所连接的设备分配独享通道带宽，不共享总线带宽，是替代旧的PCI，PCI-X和AGP总线标准的，主要支持主动电源管理，错误报告，端对端的可靠性传输，热插拔以及服务质量(QOS)等功能。 PCIE接口的优势： 相对于传统PCI总线在单一时间周期内只能实现单向传输，PCIE的双单工连接能提供更高的传输速率和质量。PCI-E插槽是可以向下兼容的，比如PCI-E 16X插槽可以插8X、4X、1X的卡。现在的服务器一般都会提供多个8X、4X的接口，已取代以前的PCI-X接口。PCIe属于高速串行点对点双通道高带宽传输，所连接的设备分配独享通道带宽，不共享总线带宽，主要支持主动电源管理，错误报告，端对端的可靠性传输，热插拔以及服务质量(QOS)等功能。 PCIE有多种规格，从PCIE x1到PCIE x32，目前能够满足所有的低速设备和高速设备的需求，接口是PCIe 3.0接口，其传输速率是上一代接口带宽的两倍，PCIE接口的主要优势在于其减少延迟的能力。PCIe设备和PCIe总线直接相连，使缓存和数据更接近CPU。 北京东大金智提供自主研发生产销售的飞迈瑞克（femrice）品牌光纤网卡，包含pcie万兆网卡、pcie千兆网卡、pcie 25G网卡、pcie台式机网卡、pcie电口网卡、pcie光口网卡等等。其产品均已通过FCC、CE、RoHS、REACH等国际权威认证以及国家行业认证，精益求精，始终如一地专注于网络、通讯传输领域的应用解决方案。
本文仅用于分享记录学习RDMA/RoCE v2网络协议的一些基础内容。如有错误，欢迎评论区留言。
我们去年为了上云，先逐步是使用docker部署，然后逐步k8s部署，为此搭建了docker容器平台，该平台分配ip需要绑定宿主机cvm的弹性网卡，为此专门引入了网络SR-IOV插件，趁此补充完善该文。
传统数据中心中硬件服务器上运行linux，linux用硬件网卡收发包，硬件网卡有broadcom的有mellanox的有intel的等各式各样的，硬件网卡连接到硬件交换机上，硬件交换机有H3C的有cisco的，交换机进行包转发实现服务器之间互通。在云计算环境下，对计算资源进行了切分，服务器上运行的是一个个虚拟机，虚拟机也要有网卡实现互连互通，但虚拟机的网卡不是物理的，是虚拟的网卡，虚拟的网卡连接到虚拟的交换机上，虚拟的交换机对同一个服务器上的虚拟机之间流量进行转发，如果虚拟交换机再连接到服务器的硬件网卡，那么虚拟机就可以和服务器外面通信了。
运维工程师（Operations）是负责维护并确保整个服务的高可用性，同时不断优化系统架构提升部署效率、优化资源利用率提高整体的ROI的专业人员。他们的基本职责是负责服务的稳定性，确保服务可以7*24H不间断地为用户提供服务。
win7系统上VMware虚拟机安装linux7.2上网配置，供大家参考，具体内容如下
近年来，在可编程NIC的发展和可用性的推动下，终端主机逐渐成为核心网络功能(如负载平衡、拥塞控制和特定应用网络卸载)的实施点。然而，在可编程NIC上实现定制设计并不容易:许多潜在的瓶颈会影响性能。
因此，有2个物理插槽+2块CPU，每块CPU插在一个插槽里。每块CPU有20个核心，每个核心有2个超线程。主板型号为Intel，NUDA使用连续编号方式，每个NUMA节点分到2组CPU核心。
HowTo Install MLNX_OFED Driver 如何安装MLNX_OFED驱动
在上期，我们提到，子虚将SPDK的轮询机制，与JFZ女士的日本游记中的画面进行了联系，虽然觉得自己在隐秘地开车，但还是留下了证据。
RIFFA 是一种开源通信架构，它允许通过 PCIe 在用户的 FPGA IP 内核和 CPU 的主存储器之间实时交换数据。为了建立其逻辑通道，RIFFA 在 CPU 端拥有一系列软件库，在 FPGA 端拥有 IP 核。本文主要针对其中的DMA性能（Scatter-Gather DMA）进行测试。
很多事情，我们想不明白只是因为没有从根源上去分析，那么我们来从智障网卡说起，来谈谈智能网卡的最小需求.
作者Liam，海外老码农，对应用密码学、CPU微架构、高速网络通信等领域都有所涉猎。
目前，随着云计算，大数据，NFV等技术的发展，数据中心的云化已经正在进行之中，而云数据中心对于网络带宽的需求日益剧增。在增加带宽的过程中，出现了2条路线：1）从10GbE到40GbE，再到100GbE； 2）从10GbE到25GbE，50GbE，再到100GbE。虽然40GbE出现的更早，相比25GbE更成熟，但从以下几个因素来看，25GbE应该会是一个更好的选择。
在UEFI方式下，使用网卡对高密度服务器上的OS进行升级时，设备设置里突然找不到网卡了怎么办？本文依托戴尔易安信PowerEdge C6420，以Linux操作系统为例，实际演示了遇到此种状况该如何解决，供相关人员参考。
KVM虚拟化部署完成了，接下来我们要做的就是创建一个KVM虚拟机，如何创建呢？本节课程主要讨论。
BIG TCP 并不是一个适应于大部分场景的通用方案，而是针对数据密集型应用的优化，在这些场景下能显著提升网络性能。
随着物联网、智能驾驶等业务的兴起，边缘网络算力需求愈发明晰，运营商及云服务商纷纷将工作负载及服务从核心迁移到边缘，比如部署5G UPF、5G MEC及边缘网关VNF等。
我们知道，各类智能网卡在服务器集群中的大规模部署，可以进一步降低数据中心建设和运营成本，更好地将服务器资源货币化。但仅从网卡层面来看，这个方案还存在不少优化空间。
传统TCP/IP技术处理数据包需通过操作系统和其他软件层，导致数据在系统内存、处理器缓存和网络控制器缓存间频繁复制，增加了服务器CPU和内存的负担，特别是在网络带宽、处理器速度与内存带宽不匹配时，网络延迟会进一步加剧。RDMA技术通过将数据处理从CPU旁路并卸载到硬件上来实现低时延和高带宽特性。
在虚拟化中，单根输入/输出虚拟化(SR-IOV) 是一种出于可管理性和性能原因允许隔离PCI Express资源的规范
SR-IOV 使一个单一的功能单元（比如，一个以太网端口）能看起来像多个独立的物理设备，即支持SR-IOV 功能的物理设备能被配置为多个功能单元。
这些深度业务处理功能包括：传统的深度业务处理通常由带CPU的框式设备完成，但框式设备成本高、功耗大、扩展不够灵活的种种给客户带来了极大的困扰。
为了更好的浏览体验，欢迎光顾勤奋的凯尔森同学个人博客http://nas.hepcloud.top:7000
不进入这个行当，很少会知道，人们对低延时的渴求。专业人士为了低延时，做过各种各样的努力。以往我们将数据库的某些SQL从秒级优化到毫秒级，至少会在心底里欢呼一下，百倍提升！但在这个行业，人们为了减少1毫秒，可以做出什么疯狂的事情呢？
PCIe发展至今已经从最初的1.0升级到了6.0，但很多人对于PCIe只知其然而不知其所以然，小编今天就带大家一起来看一看。
http://www.searchdoc.cn/rdbms/mysql/dev.mysql.com/doc/refman/5.7/en/index.com.coder114.cn.html
由于Intel为代表的处理器厂商发现，处理器主频的提升受到硅材料物理特性的限制，难以突破4.0GHz的瓶颈，从而转向在处理器集成电路上集成多个处理核心，以提升处理器的计算力。为了让多个处理核心可以运行多个不同的应用程序和服务，出现了把一台物理机资源分割为多个虚拟机的虚拟化技术。
在生成式AI（GenAI）和大模型时代，不仅需要关注单个GPU卡的算力，更要关注GPU集群的总有效算力。单个GPU卡的有效算力可以通过该卡的峰值算力来测算，例如，对于Nvidia A100，峰值FP16/BF16稠密算力是312 TFLOPS，单卡有效算力约为～298 TFLOPS [1, 2]。
SR-IOV是Single Root I/O Virtualization的缩写。SR-IOV 技术是一种基于硬件的虚拟化解决方案，可提高性能和可伸缩性。SR-IOV 标准允许在虚拟机之间高效共享 PCIe（Peripheral Component Interconnect Express，快速外设组件互连）设备，并且它是在硬件中实现的，可以获得能够与本机性能媲美的 I/O 性能。SR-IOV 规范定义了新的标准，根据该标准，创建的新设备可允许将虚拟机直接连接到 I/O 设备。
首先，DPDK和内核网络协议栈不是对等的概念。 DPDK只是单纯的从驱动拿数据，然后组织成数据块给人用，跑在用户态。功能相当于linux的设备无关接口层，处于socket之下，驱动之上。只不过linux协议栈的这部分在核心态。 你说的包处理器，很多时候是不用linux内核协议栈的，而是用专用包处理程序，类似于DPDK加上层应用处理。通常会有些硬件加速器，包处理效率更高些。缺点是一旦用不上某些功能，那些加速器就白费了。而纯软件处理就非常灵活，不过代价就是功耗和性能。 纯DPDK性能非常高，intel自己给出的数据是，处理一个包80时钟周期。一个3.6Ghz的单核双线程至强，64字节小包，纯转发能力超过90Mpps，也就是每秒9千万包。 不知你有没有看出来，80周期是一个非常惊人的数字？正常情况下，处理器访问一下ddr3内存都需要200个周期，而包处理程序所需要操作的数据，是从pcie设备送到ddr内存的，然后再由处理器读出来，也就是说，通常至少需要200周期。为啥现在80周期就能完成所有处理？我查了下文档，发现原因是使用了stashing或者叫direct cache access技术，对于PCIe网卡发过来的包，会存在一个特殊字段。x86的pcie控制器看到这个字段后，会把包头自动塞到处理器的缓存，无序处理器来干预。由于包头肯定是会被读取的，这样相当于提前预测，访问的时间大大缩短。 如果加上linux socket协议栈，比如跑个纯http包反弹，那么根据我的测量，会掉到3000-4000周期处理一个包，单核双线程在2.4Mpps，每秒两百四十万包，性能差40倍。 性能高在哪？关键一点，DPDK并没有做socket层的协议处理，当然快。其他的，主要是使用轮询替代中断，还有避免核心态到用户态拷贝，并绑定核，避免线程切换开销，还有避免进入系统调用的开销，使用巨页等。 还有很关键的一点，当线程数大于12的时候，使用linux协议栈会遇到互斥的瓶颈，用性能工具看的话，你会发现大部分的时间消耗在spin_lock上。解决方法之一是如github上面的fastsocket，改写内核协议栈，使包始终在一个核上处理，避免竞争等。缺点是需要经常自己改协议栈，且应用程序兼容性不够。 另外一个方法是使用虚拟机，每个特征流只在一个核处理，并用虚拟机隔绝竞争，底层用dpdk做转发，上层用虚拟机做包处理，这样保证了原生的linux协议栈被调用，做到完全兼容应用程序。不过这种方法好像还没有人做成开源的，最近似的是dpdk+虚拟交换机ovs的一个项目。 如果你只想要dpdk的高性能加tcp/ip/udp的处理，不考虑兼容性，那么还可以去买商业代码，我看了下供应商的网站介绍，纯转发性能大概在500-1000周期左右一个包。
CPU的算力发展跟不上算力需求，所以人们考虑可以将一部分原本CPU承载的功能卸载到其他专用硬件上去处理（比如网卡），从而释放CPU算力，让其专注于处理关键的（创造经济效益的）用户业务。
现有的分布式 DNN 训练架构无法充分利用异构资源实现高性能训练。近期，来自字节跳动和清华大学的研究人员提出一种新型分布式 DNN 训练架构——BytePS，解决了这一问题，实现了大规模训练性能的显著提升。这项工作已在国际顶级计算机系统会议 OSDI’20 上发表，其开源代码在 GitHub 上获得 2400 stars。
对每个人而言，真正的职责只有一个：找到自我。然后在心中坚守其一生，全心全意，永不停息。所有其它的路都是不完整的，是人的逃避方式，是对大众理想的懦弱回归，是随波逐流，是对内心的恐惧 ——赫尔曼·黑塞《德米安》
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
实时音视频
对象存储
云直播
