腾讯云开发者社区-腾讯云

开发者社区

文档建议反馈控制台

文章/答案/技术大牛

发布

综合排序丨最热优先丨最新优先

多 Agent 协作架构，“圆桌会议”与“蜂群智能”

随着 AI Agent 系统的发展，越来越多的复杂任务不再由单一模型完成，而是由多个 Agent 协作完成。蜂群智能（Swarm）如果说前面几种模式类似“人类会议”，那么蜂群架构更接近自然界，是一种“仿生学”。在蜂群或蚁群中：没有中央控制每个个体只执行简单规则群体却能产生复杂行为这种思想被称为 Swarm Intelligence（蜂群智能）。不同架构各有适用场景：架构适合场景圆桌讨论 brainstorming / 复杂推理专家协作高质量综合分析辩论裁决逻辑推理 / 审查蜂群智能大规模并行任务层级组织复杂任务管理 DAG 工作流工程化流程未来的 AI 系统，很可能不是“更强的单模型”，而是更高效的 Agent 协作结构。

2026-03-06

2.7K0

标签:

大模型应用之（4）：Langchain架构与大模型接入

作为一个语言模型集成框架，LangChain 的用例与一般语言模型的用例有很大的重叠。重叠范围包括文档分析和总结摘要, 代码分析和聊天机器人。 Langchain架构 LangChain工具组件：大模型包装器、聊天模型包装器、数据增强工具和接口链：提供了标准接口，和数据平台和实际应用工具紧密集成 LangChain六大模块模块核心作用 Agent作为高级模块，可调用其他所有模块功能大模型接入接入示例云服务和私有化大模型优劣对比维度开发成本算力成本运维成本数据安全云厂商大模型较低，开箱即用算力资源充足，大模型性能好 &吞吐量较高较低，提供云平台监控安全性低私有化大模型较高，自建大模型网关、服务鉴权、可用性等算力硬件投入成本高，大模型性能较差低&吞吐量较低较高，需要专业运维团队介入安全性高，保密性强小结： - 研发&测试环境：为了方便部署和测试，使用云服务 - 大客户生产环境：安全审核严格，大多数采用自建大模型的方式总结 LangChain 是什么？

后台技术汇

2025-08-04

1.3K0

标签:

大语言模型-2.23-主流模型架构与新型架构

简介本博客内容是《大语言模型》一书的读书笔记，该书是中国人民大学高瓴人工智能学院赵鑫教授团队出品，覆盖大语言模型训练与使用的全流程，从预训练到微调与对齐，从使用技术到评测应用，帮助学员全面掌握大语言模型的核心技术随着 GPT 系列模型的成功发展，当前自然语言处理领域走向了生成式大语言模型的道路，解码器架构已经成为了目前大语言模型的主流架构。大语言模型的预训练过程中经常会出现不稳定的问题。混合专家架构 (Mixture-of-Experts, MoE) 大语言模型能够通过扩展参数规模实现性能的提升。然而，随着模型参数规模的扩大，计算成本也随之增加。为了解决这一问题，研究人员在大语言模型中引入了基于稀疏激活的混合专家架构（Mixture-of-Experts, MoE），旨在不显著提升计算成本的同时实现对于模型参数的拓展。

IT从业者张某某

2025-03-24

1.2K0

标签:

【大模型学习】现代大模型架构（二）：旋转位置编码和SwiGLU

RoPE / SwiGLU前言✍ 上一篇我们把现代大模型的两件“基础设施”——GQA 注意力和 RMSNorm + Pre-Norm 细讲了一遍，从多头注意力的演化一路讲到归一化的升级。，但模型未必学会用。 ② 明确表示了sin-cos 虽然能算，但模型未必学会用，对远超训练长度的位置（比如 8192）对应的正弦相位组合，模型可能根本没“学会如何解读”；因此这里根本不会自相矛盾，用一句土话讲就是“可以但没用的外推为什么大模型更喜欢用 SwiGLU？标准 FFN 只是一条 MLP 路径，所有通道共享同一个激活函数。到这里，已经把“现代 LLM 架构四件套：GQA / RoPE / SwiGLU / RMSNorm + Pre-Norm”串成一个整体故事了。

九年义务漏网鲨鱼

2025-11-20

1.6K0

标签:

腾讯技术创作特训营S16

Transformer 架构：大模型时代的基石

注：如今大多数大语言模型（如 GPT 系列）只使用 Decoder；而 BERT 等双向模型则只使用 Encoder。三、核心组件详解 1. 五、为什么 Transformer 能成为大模型基石？总结Transformer 不是一种模型，而是一种范式。它用“注意力”重新定义了序列建模的方式，打破了循环与卷积的统治，开启了大模型时代的大门。无论你是想微调模型、设计 Agent，还是探索 AGI 路径，这座“基石”都值得你深入掌握。相关链接大模型技术专栏：欢迎您到访「大模型系列」。、偏见、安全对齐、推理瓶颈与当前能力天花板；洞察趋势：开源 vs 闭源、端侧部署、MoE 架构、世界模型与 AGI 路径；落地应用：如何在企业中安全、高效、低成本地集成大模型能力。

2026-03-25

1.9K0

标签:

大模型部署

大模型 “智慧骨架”，LLaMA架构介绍

以LLaMA 为代表的模型是大模型主流架构Decoder-only的典型代表，相对于基础Transformer中的decoder模块，本文主要围绕LLaMA 结构的核心组成和主要变化点，介绍以下内容： 3）LLaMA系列模型发展及衍生模型介绍 1，LLaMA 架构介绍 LLaMA （Large Language Model Meta AI）是Meta 发布的一款开源模型，和 GPT 系列一样，LLaMA 模型也是 Decoder-only 架构，其主要的改进如下： • Pre-norm。，大模型的训练难度大。 LLaMA模型架构取得成功，为其变体提供了可参考的范式，目前国内流行的Qwen架构基本为LLaMA架构。

2026-01-13

1.4K0

标签:

安全生产AI大模型架构设计

本文旨在探讨安全生产AI大模型的架构设计，通过分析展通安全AI平台的实际应用案例，提出一种科学合理、高效稳定的架构设计方案，为安全生产领域的智能化转型提供参考。 1. 安全生产AI大模型概述 2.1 展通安全AI大模型在企业应用的架构设计展通安全AI大模型在企业的适配与落地场景用图1展示其多层次的服务架构，该架构自上而下分为应用层、服务层、大模型算法层和工具层。 2.2 展通安全AI大模型应用的总体架构设计展通安全AI大模型应用的总体架构按照以下图2所示的层次设计：展通安全生产大模型应用：覆盖行业包括制造业、建筑业、采矿业、化工行业、交通运输、食品加工、安全生产AI大模型架构设计 3.1 设计原则在构建安全生产AI大模型时，遵循以下设计原则：安全性原则：确保系统架构能够抵御各种安全威胁，保护数据和系统的完整性、机密性和可用性。安全生产AI大模型的架构设计是一个复杂而重要的任务，我们通过实际应用，不断总结和优化了一种科学合理、高效稳定的架构设计方案。

2024-12-25

7K0

标签:

腾讯云架构师技术同盟

面向大模型时代的云存储架构

沙龙活动中腾讯云存储研发总监严俊明分享了《面向大模型时代的云存储架构》的主题演讲。据 OpenAI 研究显示，大模型的智能程度与算力、参数规模呈正相关。训练大模型所需的基础设施已达万卡级别，参数从亿级跃升至万亿级，大模型为存储带来巨大的机遇与挑战。在大模型采集、清洗、训练、推理、“智”理等环节，对存储基础设施提出规模、性能、稳定等多维度的要求。其中，核心矛盾是大模型的海量数据需求和极致性能需求之间的矛盾。对此，严俊明表示，“大模型对存储的要求是既要、又要，既要海量低成本的存储引擎，同时又要很高的性能要求，然而企业实践的过程中，这两者往往很难兼顾。” 模型训练阶段，自研 GooseFS-X 高性能存储，提升大模型预训练效率；在分发阶段，通过 GooseFS AZ 加速器来提升大模型分发效率。此外，腾讯云还提供一站式安全解决方案来保障数据内容安全。

2025-04-30

6650

标签:

大模型应用的10个架构挑战

基于笔者近年来的探索与实践，这里列举了面向大模型应用系统架构设计的10个挑战。 1. 生产环境的挑战——推理框架的选择对于大模型应用而言，生成环境的运行时是一个推理架构。大模型应用的架构模式不仅仅是一种范式，很可能成为未来智能系统赖以成长的框架。随着我们们继续探索和创新，还会涌现出很多新的架构模式。 8. 实际上，只有那些真正需要大模型来解决问题或实现特定功能的场景，才能被称为AI原生应用。当我们设计系统架构时，需要仔细考虑哪些场景或子系统与大模型相关。虽然大模型在人工智能领域具有广泛的应用前景，但并不是所有场景都适合使用大模型。在设计系统架构时，我们需要根据具体需求和技术挑战来判断是否需要引入大模型，以确保系统的高效性和可靠性。 10. 这些挑战要求我们架构上综合考虑技术、安全和运营等多方面因素，以推动大模型应用的落地。

半吊子全栈工匠

2024-12-25

1.4K0

标签:

腾讯云架构师技术同盟

大模型+知识库rag项目架构

在AI领域，“大模型”通常指的是具有大量参数的深度学习模型，它们能够处理复杂的任务，如自然语言处理（NLP）、图像识别等。将大模型与知识库结合的项目架构（RAG项目架构）可能指的是一种结合了检索（Retrieval）和生成（Generation）的架构，即RAG（Retrieval-Augmented Generation 生成阶段（Generation）：检索到的信息会作为输入的一部分，与原始查询一起送入生成模型。生成模型会利用这些信息来生成回答或内容。在实际应用中，RAG项目架构可以根据不同的应用场景和需求进行定制和优化。例如，检索系统可以使用不同的搜索引擎或推荐系统，而生成模型可以是传统的语言模型，也可以是专门为特定任务训练的模型。如果你有关于RAG项目架构的具体问题，或者需要了解如何在特定的应用场景中实现这种架构，请提供更多的上下文信息，我会尽力提供帮助。

2024-04-19

1.2K0

标签:

腾讯云智能体开发平台