腾讯云开发者社区-腾讯云

开发者社区

文档建议反馈控制台

文章/答案/技术大牛

发布

综合排序丨最热优先丨最新优先

分布式网络基础

在分布式服务化架构设计中,服务与服务之间通信均是基于网络底层协议来实现的,于是我们需要对网络相关基础知识有一个基本的认知,这样在我们服务与服务之间进行通信(跨进程通信)过程能够在我们的脑图形成一个基本的数据传输流程以及其中的细节问题 ,这样对于我们在进行网络问题的排查能够带来一定的帮助.现在开始展开网络基础相关知识的阐述. 网络基础通信协议什么是协议协议是计算机与计算机之间通过网络通信时事先达成的一种“约定”,这种“约定”使那些由不同的厂商设备,不同的CPU以及不同的操作系统组成的计算机之间,只要遵循相同的协议就能够在网络传输中实现数据交互的通信一个完整的数据包组成的结构如下: 网络数据包的路由地址:包含发送数据包的源地址以及接收数据包的目标地址错误检测与纠正: 在网络协议中执行错误检测与纠正,为避免在传输过程中发生错误,需要在网络数据包进行数据校验 ACK较长的话,那么也可以清楚地知道整个网络耗时以及吞吐量都会大大地降低,严重影响到网络的性能,于是引入滑动窗口来提升我们的网络性能,即在较短的时间且允许的数据包大小范围内发送数据包无需等待响应,此时一个是可以降低网络耗时

小坤探游架构笔记

2020-05-27

8910

标签:

领先AI企业经验谈：探究AI分布式推理网络架构实践

因此，分布式AI推理架构成为企业的主要技术方案。然而，在实际落地AI应用时，常常会遭遇种种挑战，尤其是在多云环境下算力/推理调度方面。在诸多难题面前，AI 企业怎样才能实现破局？不妨以一家文生视频大模型企业所采用的网络解决方案作为背景，一同探究企业如何轻装上阵，构建出可靠且灵活的AI分布式推理网络。三大技术利器，重构AI业务网络01、混合多云网络：分布式推理的高速路网三层网络架构：借助已与公有云预连接的云网络服务，可在一天内实现多云服务上线，一张网打通多家公有云和推理算力中心，实现算力资源池化。业务赋能成效突出：有力支持分布式 AI 推理业务，加速 AI 产品商业化进程，推动其更快落地。实现全球算力的灵活调度，从容应对多元场景下的复杂需求。在AI浪潮汹涌澎湃的当下，企业面临的多云网络困局并非不可逾越。通过融合网络架构解决方案的成功实践，我们看到了AI企业实现网络架构破局的曙光。

犀思云Syscloud

2025-03-11

6300

标签:

分布式网络详解

文章前言随着数字时代的到来，区块链技术成为了一个备受关注的话题，它被认为是一种能够彻底改变我们社会和经济结构的技术，区块链的分布式网络是其最核心的特征，也是区块链能够实现去中心化的重要手段，本文将详细介绍区块链分布式网络的概念基本概念区块链的分布式网络是指由多个节点组成的去中心化网络，节点之间通过P2P(点对点)连接进行通信和交互，这种分布式网络与传统的中心化网络不同，它没有单一的中心化服务器或主节点，每个节点都是平等的且都可以参与网络的维护和管理主要特点区块链分布式网络是一种去中心化的网络结构，具有以下主要特点：去中心化：区块链分布式网络没有中央机构或中央节点，所有节点都是平等的，可以相互通信和交互，这种去中心化的结构使得网络更加民主、透明和安全不可篡改：区块链分布式网络中的数据是通过哈希函数和加密算法进行保护的，数据一旦被写入区块链就无法被篡改或删除，这种特性使得区块链分布式网络中的数据更加可靠和安全共识机制：区块链分布式网络的共识机制是通过算法和网络节点之间的协议来实现的：区块链分布式网络中的智能合约是一种可编程的合约，可以在不需要中央机构的情况下自动执行和管理合约，这种特性使得区块链分布式网络在商业和金融领域有很大的应用潜力透明性：区块链分布式网络中的所有数据和交易都是公开的

2023-08-10

2.1K0

标签:

分布式下载方式（二）DHT分布式网络

简单回顾以下上一篇文章介绍了内容：分布式下载方式（一）原理分析 分布式下载方式也有两种：依赖tracker的“元数据集中，文件数据分散”的方式；另一种是基于分布式的哈希算法，保证元数据和文件数据完全分开 DHT网络如何查找节点在DHT网络分层的基础上，我们来查找节点，还是举例子清晰表达一下。 DHT之所以是一个高效的分布式网络，说明它是一个动态更新的网络，网络节点之间的远近是动态更新的，如何更新节点信息？一个优秀的分布式网络，任何节点的加入和离开都不会随便影响整体网络的稳定性，这样才是一个健壮的分布式网络。小结 DHT采用异或来区分远近，高位不同的，表示距离更远一些；低位不同的，表示距离更近一些。知道了分布式下载方式的基本原理，接下来了需要一些实践，如何搭建一个分布式下载的架构来承载分布式下载的业务。请继续关注，稍后会分享。

2020-11-11

1.6K0

标签:

分布式网络文件系统--MooseFS

一.介绍 1.简介 MooseFS是一个具备冗余容错功能的分布式网络文件系统，它将数据分别存放在多个物理服务器或单独磁盘或分区上，确保一份数据有多个备份副本。对于访问的客户端或者用户来说，整个分布式网络文件系统集群看起来就像一个资源一样。从其对文件操作的情况看，MooseFS就相当于一个类UNIX文件系统:。支持特殊的文件，如：块设备，字符设备，管道和套接字，链接文件（符号链接和硬链接） 4、支持基于IP地址和密码的方式访问文件系统 2.应用场景谈及MooseFS的应用场景，其实就是去谈分布式文件系统的应用场景 Server 服务器的变化日志文件进行备份，changelog_ml.*.mfs 是备份文件的类型，当 Master Server 出现故障时替换其继续工作，避免 Master Server 的单点故障导致分布式文件系统的不能正常运行

2019-09-11

1.7K0

标签:

Ray：AI的分布式系统

尽管针对特定用例（如参数服务器或超参数搜索）和AI之外的高质量分布式系统（如Hadoop或Spark）提供了良好的解决方案，但在边界开发算法的从业者往往从头构建自己的系统基础架构。与其他分布式系统的关系：今天使用了许多流行的分布式系统，但是其中大多数并不是用AI应用程序构建的，并且缺乏支持所需的性能以及表示AI应用程序的API。例如，为了避免等待缓慢的工作人员）在共享可变状态下运行的任务（例如，神经网络权重或模拟器）支持异构资源（CPU，GPU等）一个嵌套并行的简单例子。这出现在机器学习中的多个上下文中，其中共享状态可以是模拟器的状态，神经网络的权重或完全不同的东西。Ray使用actor抽象来封装多个任务之间共享的可变状态。例如，actor可以封装模拟器或神经网络策略，并可用于分布式培训（如使用参数服务器）或在实时应用程序中进行策略服务。上：actor为为许多客户端进程提供预测/操作。

2018-02-05

3.5K0

标签:

Ray：AI的分布式系统

尽管针对特定用例（如参数服务器或超参数搜索）和AI（人工智能）之外的高质量分布式系统（如Hadoop或Spark）提供了良好的解决方案，但在边界开发算法的从业者往往从头构建自己的系统基础架构。与其他分布式系统的关系：目前使用了许多流行的分布式系统，但是其中大多数并不是用AI应用程序构建的，且缺乏支持所需的性能以及表示AI应用程序的API（应用程序编程接口）。）在共享可变状态下运行的任务（例如，神经网络权重或模拟器）支持异构资源（CPU，GPU等）一个嵌套并行的简单例子。这出现在机器学习中的多处上下文中，其中共享状态可以是模拟器的状态、神经网络的权重、或完全其他的东西。Ray使用actor抽象来封装多个任务间共享的可变状态。例如，actor可以封装模拟器或神经网络策略，并可用于分布式培训（如使用参数服务器）或在实时应用程序中进行策略服务。左：一个为许多客户端进程提供预测/操作的actor。

2018-02-05

2.8K0

标签:

RDMA 高性能网络在 AI 训练中的应用：TKE 如何保障分布式训练效率

摘要： RDMA 远程直接内存访问技术通过绕过 CPU 内核实现节点间高速数据传输，显著降低大规模 AI 分布式训练的通信延迟。一、分布式 AI 训练的网络瓶颈挑战随着大语言模型参数规模从十亿级迈向万亿级，单台设备的算力和显存已无法满足训练需求。现代 AI 训练普遍采用分布式架构，将模型切分到多个 GPU 节点上并行计算。用户在分布式推理或训练任务中无需手动处理这些底层细节，NCCL 通信的配置得以大幅简化。这种透明化的处理方式降低了 RDMA 技术的使用门槛，让更多团队能够享受到高性能网络带来的性能提升。四、典型应用场景 4.1 多节点分布式模型训练在大规模深度学习训练中，模型通常被切分到多个 GPU 上进行并行训练。 分布式训练中 50% 的时间可能都浪费在网络通信上。

2026-08-07

4290

标签:

分布式 web 集群的搭建 -- 网络篇

而在网络层面上，由于数据暴增，单服务器开始疲于应对海量用户访问，就需要搭建负载均衡系统，让分布式集群分担压力。所谓的负载均衡，就是让服务器集群分配工作任务，起到保护 web 服务器的作用。但是由于这个方案的每次访问实际进行了两次访问，增加了网络延时，降低了用户体验，同时，在大规模访问的情况下，也会出现性能不佳。由于反向代理服务器是在应用层工作，是 OSI 网络七层结构中的第七层，所以也被称为“七层负载均衡”。将 session 等信息保存在某个独立服务来存储，如使用 redis、memcache 等，该方案较为常用 IP 负载均衡由于 IP 负载均衡工作在网络层和传输层，所以也被称为“四层负载均衡”。负载均衡服务器收到 IP 包后，会修改 IP 包的目标 IP 地址和端口，然后原封不动的投递到内部网络中，最终流入到实际的 web 服务器。

2022-06-27

1.2K0

标签:

负载均衡缓存

分布式 | DBLE 网络模块源码解析（三）

本文来源：原创投稿前言在前两篇文章中，主要讲了网络 IO 的基础知识，以及 DBLE 网络模块的源码分析，本篇作为 DBLE 网络模块源码解析的第三篇，也是最后一篇，主要对 DBLE 网络模块知识作个简单概括及总结 DBLE 网络模块主要涉及类图我们先来看下网络模块涉及到的主要类图： ? 整个网络 IO 读写流程大概如此。 DBLE 网络模块概括及总结对于中间件来讲，网络 IO 处理既是关键点，同时也是难点，高性能网络 IO 处理远比想象中的难。 DBLE 的网络 IO 模块是通过原生 JDK 纯手写的，抛开使用网络 IO 框架，更能够让我们看到网络 IO 处理的真实的、底层的过程。当然并不是说网络 IO 框架不好，了解了网络 IO 的底层原理，再看任何网络 IO 框架，你都能知其所以然，这比你单纯的会用框架，肯定是不一样的。

爱可生开源社区

2021-03-16

5040

标签: