在大模型训练的高速迭代背景下，算力需求约每六个月翻一番，远超基础设施建设和摩尔定律的增速，同时数据中心能耗急剧攀升。

今年早些时候，Elastic宣布与NVIDIA合作，为Elasticsearch引入GPU加速，集成NVIDIA cuVS[1]。有关详细信息，可以参考NVID...

GPU 像一个训练有素的万人方阵： 并行爆炸强 → 执行海量简单位运算（矩阵加乘）

在AI技术飞速发展的今天，图形处理单元（GPU）已成为驱动AI工厂的核心引擎。然而，关于GPU的实际使用寿命及其折旧周期的讨论，正引发业界广泛关注。一种普遍的看...

本次360环视系统原型基于米尔电子MYD-LR3576开发板进行构建与评估。该开发板所搭载的瑞芯微RK3576芯片，集成了4核Cortex-A72、4核Cort...

过去十年，我们通过中间件、数据库与容器技术，奠定了云原生应用基础设施（Application Infra）的基石。我们利用消息队列、实时计算与分布式存储，铺设了...

在 AI 训练中，业界往往将关注点集中在计算资源上，但如果存储性能不足，GPU 无法被充分利用，计算效率将会大幅受限。因此，存储系统的性能对于提升整体训练效率至...

随着深度学习的广泛应用，硬件加速成为了模型训练的重要因素。GPU凭借其强大的并行计算能力，已经成为深度学习训练的首选设备。然而，在不同的操作系统上，由于硬件厂商...

GPUSTACK 是一款专注于 GPU 集群管理的中间件，旨在简化大语言模型（LLMs）及其他 GPU 密集型应用的部署与运行流程。通过统一的集群管理接口，GP...

文章链接：https://arxiv.org/pdf/2510.05580 项目链接：https://stellar-neuron.github.io/met...

在2025年的今天，大语言模型（LLM）已经成为人工智能领域的核心技术之一。从GPT-5到Llama 4，从专业领域应用到消费级产品，LLM正在以前所未有的速度...

随着2025年大语言模型技术的持续突破和规模化应用，计算资源已成为推动AI发展的关键驱动力。从最初的CPU计算，到GPU加速，再到专用AI加速器的崛起，大语言模...

当你需要处理大规模并行任务，特别是涉及GPU集群的场景时，Ray Serve和Celery是两个主要选择。但它们的设计理念完全不同：

曾经在VDI类的Nvidia vGPU场景，每个GPU核心只能采用1种固定切分模式，例如Nvidia A40只有一个GA102的核心，就只能切分一种模式，48G...

从2017年开始，我陆续在这里分享了一些关于内核/虚拟化、存储虚拟化、KV 数据库和操作系统基础组件相关的文章，也收获了不少读者的好评。如果这些内容能在大家的工...

👉 每秒采样 GPU 活跃度、SM 活跃度、PCIe Tx/Rx，直接保存到 CSV。

随着人工智能技术的飞速发展，云计算行业正经历一场深刻的转型，从传统的通用计算迈向智能化、场景化的智算时代。在这场变革中，众多云服务商积极拥抱机遇，构建面向未来的...

随着蛋白质数据库规模的快速增长，对更快、更敏感的同源性搜索工具的需求愈发迫切。研究人员开发了 GPU 加速版 MMseqs2 (MMseqs2-GPU)，在单一...

随着NVIDIA Blackwell GPU架构赋能的Jetson Thor SoC发布，CUDA 13.0通过一系列创新优化，重新定义了嵌入式与边缘AI的开发...