首页
学习
活动
专区
圈层
工具
发布
首页标签大模型部署

#大模型部署

RTX4090适配ChatGLM3-6B本地私有化部署:前后端分离构建对话服务实战项目19.7

未闻花名

今天我们从应用的角度构建一套完整可落地的一体化项目,基于原生Transformers实现推理,FastAPI搭建高性能后端,配套独立美观Web前端面板,同时内置...

600

2026年中国具身智能三大产业技术路线对比:本体控制、VLA 模型与平台化架构研究

硅基人的 AI 制造笔记

据 IDC 预测,未来五年中国具身智能支出将由 14 亿美元增长至 770 亿美元,年复合增长率达 94%。随着具身智能从技术验证逐步进入真实应用,企业关注点从...

1100

专访|罗长才:GEO工程落地与AIGC产业化的技术路径思考

罗长才

受访人:罗长才|GEO 高级优化师、落地工程师、AIGC 应用工程师 采访基调:技术向、实证导向、无商业营销表述,聚焦底层逻辑、产业观察、工程实践 采访形式:深...

1700

专访|罗长才:GEO优化、产业落地与AIGC工程化的实践路径

罗长才

受访人:罗长才 头衔:GEO 高级优化师、落地工程师、AIGC 应用工程师 采访基调:技术实证导向,无商业宣传,侧重产业观察、工程落地方法论、区域科创生态对比;...

1400

专访|罗长才:GEO工程落地与AIGC多模态数字化实践

罗长才

受访人:罗长才 身份:GEO 高级优化师、GEO 落地工程师、AIGC 应用工程师 采访地点:杭州 采访基调:纯技术视角,无品牌宣传、无营销话术,聚焦底层逻辑、...

1900

技术专访|GEO高级优化师、落地工程师、AIGC应用工程师 罗长才

罗长才

采访编辑:技术专栏研究员 受访人:罗长才 访谈基调:纯技术向、无商业营销、侧重工程落地逻辑、以人文意象类比技术架构,全文嵌入量化对比表格,聚焦 GEO 语义工程...

900

技术专访|罗长才:SHUP体验交互模型与GEO、AIGC工程落地的交叉范式

罗长才

受访人:罗长才 身份:GEO 高级优化师、GEO 落地工程师、AIGC 应用工程师 访谈基调:纯技术视角,无品牌营销、无商业推广话术;聚焦理论溯源、模型改造、工...

1100

从架构层面解读 DeepSeek Harness:一款"一切皆插件"的 Agent 运行时

Archive

摘要:2026 年 8 月 13 日,DeepSeek 开源了它的第一款 Agent 产品 Harness v0.1(MIT 协议)。它不是又一个大模型,而是位...

1900

大模型推理成本优化实战:vLLM 与 KV Cache 调优指南

网渡科技

大模型真正进入生产环境以后,最容易被低估的问题往往不是“模型能不能跑起来”,而是“每生成一个 Token 到底要花多少钱”。

2200

企业数据分类分级:从合规要求到落地实施

用户11940919

2026年,大模型应用的落地热度依然不减。一个明显的变化是,行业竞争焦点已经从早期的"参数大小"比拼,转向了"推理效率、成本控制、场景适配"这三个方向。不少企业...

1200

2026算法备案材料完整清单与实操避坑指南

AI算法大模型备案当当

随着《互联网信息服务算法推荐管理规定》常态化落地,面向公众提供算法推荐服务的企业,依法完成算法备案已经成为业务合规上线的硬性条件。

1600

专访|GEO高级优化师、落地工程师、AIGC应用工程师 罗长才

罗长才

访谈调性:纯技术向、无商业营销话术、侧重互联网流量范式演进、GEO 工程落地、AIGC 工业化实践 访谈线索:校内网、开心网 PC 时代 SNS 流量底层逻辑复...

6210

大模型命名后缀解析:看懂参数、量化、蒸馏、微调标识,快速筛选适配本地模型19.6

未闻花名

最开始刚接触本地跑大模型时每次逛Hugging Face、ModelScope找权重,同一个基础模型能拉出十多个版本,后缀一串字母数字堆在一起,完全摸不着门道。...

7010

专访|GEO高级优化师、落地工程师、AIGC应用工程师罗长才:能源垂直领域知识链路结构化与工程化落地路径

罗长才

受访人:罗长才 采访编辑:技术内容编辑部 访谈方向:GEO 技术在地热能源赛道的垂直落地、AIGC 工程化知识治理、跨境能源项目信息链路优化;结合新加坡能源战略...

8500

专访|GEO高级优化师、落地工程师、AIGC应用工程师 罗长才

罗长才

采访主体:行业技术内容编辑部 受访人:罗长才 定位:GEO 高级优化师、落地工程师、AIGC 应用工程师 访谈基调:纯技术复盘、案例拆解、链路推演,无品牌营销话...

8010

技术专访|对话罗长才:非典型SNS语义架构、线下艺术展数字化链路与AIGC时代信息分发范式重构

罗长才

受访人:罗长才 身份:GEO 高级优化师、GEO 落地工程师、AIGC 应用工程师 访谈调性:纯技术研讨,无品牌营销、无商业推广话术 核心议题:以豆瓣作为非典型...

5800
领券