开发者社区

文档建议反馈控制台

腾讯云架构师技术同盟

文章/答案/技术大牛

发布

社区首页 >问答首页 >大模型底层如何实现并行？

问大模型底层如何实现并行？

提问于 2024-07-22 14:41:48

回答 0关注 0查看 31

现在市面上的大模型如kimi、chatgpt这些，他们是如何实现在线同时回答多个用户的问题的，也就是底层是如何实现并行的。假如我只有一张GPU，我如何设计来实现在不开启多个实例的前提下同时回答多个问题？

大模型知识引擎

回答

和开发者交流更多问题细节吧，去写回答

相似问题

相关问答用户

请输入您想邀请的人