前面我们无论是直接部署，还是容器部署都还是单机的模型，受单机GPU限制，并不能跑比较大的模型，今天我们将用多台机器组成一个集群来跑一个更大的模型。

前面小节我们通过conda创建虚拟Python环境，实现vLLM和OpenWebUI的配置，但是这个安装部署会非常繁琐非费时间。我们今天将使用容器来部署。环境还...

最后友情提醒：虽然搭建过程很简单，但在选择部署方式时还是要根据自己的具体需求来决定。如果处理的文档量不大，用API方式就很好；如果文档量很大或者对隐私要求特别高...

发布把AI带回家：DeepSeek-R1本地部署指南！再也不怕宕机了！！后，有不少读者私信询问本地部署DeepSeek-R1的电脑配置要求。

接上我们终于不用"跪着"用AI了！一文读懂｜99%的人都不知道的DeepSeek玩法

IPv6（Internet Protocol Version 6，互联网协议第六版）是互联网协议家族中的一种网络层协议，用于替代目前广泛使用的 IPv4（Int...

大多数应用程序依赖于云 SDK 来连接到消息代理、队列、数据库、API 等服务。这主要通过三种方式带来了部署摩擦：

前面部署了vLLM版本以后，访问它比较麻烦。如何才能更好的实现访问呢，这个就是我们今天要讲的Open WebUI，它可以向我们使用官方DeepSeek一样直接在...

【新智元导读】就在昨天，全国产算力训出的讯飞星火X1全面升级！70B小身板在数学领域全面领先，性能直接对标OpenAI o1和DeepSeek-R1。单机部署成...

在前沿大模型技术不断取得突破的同时，科技行业也已经开始将精力投入到边缘侧的高效部署当中去。在训练成本下降、快速推理部署以及针对边缘环境的创新推动下，业内已经催生...

随着人工智能技术的快速发展，越来越多的企业和开发者希望将 AI 模型部署到自己的生产环境中，以提供智能化服务。DeepSeek 作为一个开源的搜索模型，拥有强大...

该项目的部署并不难，不过因为是AI辅助编写的项目，所以部署和使用还是有一些需要注意的点，这些后面都会提到。

目前我们在本地成功部署了Excalidraw，但是如果我们想实现不在局域网下，在公网能够远程访问Excalidraw的话，我们就可以使用Cpolar内网穿透来实...

我后面用Ubuntu 20.4 重新部署了一次，大概的步骤和上面的步骤基本一致。但是没有手工编译gcc的步骤，这里的gcc也是满足要求的，并且安装驱动的是也只安...

这年头AI比丈母娘还难伺候——既要它聪明能干，又怕它口无遮拦。Coco AI搞了个神仙组合：ChatGPT当大脑，DeepSeek做保镖。工作时像超级特工，连你...

虽然项目支持docker，和一键部署，但是由于还不够完善，建议选择本地安装，下面是详细的安装步骤：

当然你也可以使用‌Nightly版docker pull ghcr.io/louislam/uptime-kuma:nightly2

当前手动搭建是从官网获取到源代码，本地打包构建后，在上传到服务器内，打包可以参考Webase-node-manager打jar包这个文档。

随着人工智能（AI）的快速发展，大型语言模型（LLM）如GPT-4、ChatGLM等在自然语言处理（NLP）领域展现出惊人能力。然而，通用模型在特定场景下（如中...

用户可以直接从镜像社区选取所需的镜像，并在部署GPU实例时一键使用，大大降低了技术门槛和部署时间。例如，通过选择社区中的特定镜像，用户可以在几分钟内启动一个预配...