我使用FastAPI的spacy来处理一些自然语言处理任务的请求。我正在加载spacy large模型，而API启动并使用该模型为请求提供服务。我看到的是，多个请求的时间随着并行请求的数量线性增加。如何将spacy与FastAPI集成，以便在不增加时间的情况下同时处理多个<e
浏览 84提问于2021-01-08得票数 0
1回答
并发和并行处理是两件不同的事情。我想知道的是，FastAPI是否也支持请求的多处理和并行处理？如果是，那么如何实现请求的并行处理？
我已经搜索了很多，但我在任何地方都发现了并发性
浏览 25提问于2022-04-19得票数 1
1回答
如果同样要在一个具有多个线程的烧瓶框架中完成，那么我们将面临阻碍线程间真正并行性的GIL。我的理解正确吗？
浏览 16提问于2022-06-11得票数 2
回答已采纳
如何在FastAPI中对多个API请求进行排队。如果有人能在这方面提供帮助，那将是一个很大的帮助。谢谢
我试着使用fastAPI和Gunicorn来使用selenium，如果每次都有一个请求，它就可以正常工作，但是如果我要执行多个
浏览 33提问于2022-11-02得票数 0
回答已采纳
1回答
我已经使用Python和构建了一个应用程序接口。使用这个API，我的目标是可以训练自定义的spaCy自然语言处理模型。这是我的代码：main.pyfrom fastapi import FastAPI, HTTPExceptionimportreturn {
"status": "s
浏览 1提问于2021-03-02得票数 1
我想在服务主机上缓存这些数据，所以我首先使用了此服务行为允许我简单地在服务构造函数中编写缓存代码，因为构造函数仅在后来我意识到，当1000个用户一次调用这个服务时，这个InstanceContextMode会有性能问题，因为这个服务只有一个实例处理所有请求。
浏览 2提问于2011-02-04得票数 0
5回答
我可能没有正确理解FastAPI中的异步概念。from fastapi import FastAPI
@app.get(
浏览 8提问于2019-10-14得票数 12
回答已采纳
1回答
如何使用空格管道加速文本集的词法转换？目前我是这样使用的，df['text'].apply(lambda x: len(nlp(x).ents)) # returnsnumber of named entities
如何使用带有batch_size、线程等的nlp.pipe提取命名实体的数量。spacy_nlp.pipe(df['text'
浏览 1提问于2020-03-04得票数 1
1回答
问题：我需要部署到生产中的设置是一个FastAPI服务器，它接受http请求，然后作为客户端向维护一个sinlge套接字的服务器套接字发出请求，而不管哪个http客户端。我的路由不是异步的，这意味着来自前端(或前端)的并行</
浏览 14提问于2022-11-28得票数 1
回答已采纳
1回答
我想在pymongo的插入操作中使用多进程。在pymongo文档中，它涵盖了
>>> db.test.count_documents({})insert_many操作本身是否支持多处理？如果我想让你在pymongo的插入操作中进行多进程处理，代码在
谢谢
浏览 19提问于2020-05-14得票数 0
在web服务运行了一段时间后，总内存使用量变得太大，SpaCy抛出MemoryErrors，导致web服务出现500个错误。正如您在代码中看到的，我试图通过限制生成的令牌数量和捕获MemoryError来防止该问题。但这两种方法似乎都没有任何效果(我确实理解从概念上捕获MemoryError通常是行不通的)。从错误消息中，我认为很明显SpaCy记号赋予器是主要的罪魁祸首。然而，我期望它在处理请求时释放一个工作线程来释放它的内存，所以FastAP
浏览 39提问于2021-06-01得票数 1
回答已采纳
2回答
我有一个复杂的API，当我使用Uvicorn部署它时，它需要大约7 7GB的内存。uvicorn --host 0.0.0.0 --port 8888
有人能解释一下人们是如何做到这一点的吗？
浏览 0提问于2021-04-17得票数 2
我如何启动一个应用程序来完成以下两件事情：
两者怎么能并行运行呢？
浏览 12提问于2022-02-08得票数 1
5回答
架构瓶与FastAPI的比较
、、、、
我一直在对FastAPI和烧瓶进行修补，看看它作为服务器是如何工作的。特别是当代码存在效率问题时(数据库查询时间较长)。所以，我试着做一个简单的代码来理解这个问题。FastAPIfrom fastapi import <e
浏览 3提问于2020-07-19得票数 45
回答已采纳
2回答
合并静态文件或并行加载
、、、
我目前正在向我的网站引入代码来结合css和javascript文件。有没有一种不需要包含外部库就可以异步或并行加载javascript的方法？我在一些博客上读到，合并文件可能会适得其反，因为http请求的负载可能很大，最好是并行加载多个文件。对此有什么看法？我正在缓存我的javascript/css。并且会认为组合而不是具有多个http请求更好。
浏览 0提问于2011-01-08得票数 1
回答已采纳
2回答
在花了一天时间学习java并发性API之后，我仍然不太明白如何在CompletableFuture和ExecutorService类的帮助下创建以下功能：
当我收到REST端点上的请求时，我需要：已经为这些写好了，我只是不知道如何把第一步和第三步结合起来。我将在步骤1中使用CompletableFuture.supplyAsync()，然后需要CompletableFuture.thenComponse方法来启动步骤3，但我不清楚如何
浏览 1提问于2018-05-07得票数 1
回答已采纳
1回答
我已经在Google上部署了一个FastAPI ML服务，但是它表现出了一些奇怪的行为。FastAPI服务的目的是接收来自主服务的请求(通过云任务)，然后发送响应。这种事确实发生了。但是，处理这些请求的FastAPI服务中的路由似乎会被调用四次而不是一次。我的假设是GAE、gunicorn或FastAPI将确保处理程序在每个云任务中运行一次。但是，似乎多个工作人员，或者我配置中的其他问题，导致处理程序被调
浏览 1提问于2021-11-01得票数 1
1回答
行缓存可以用于并发阅读吗？
、、、、
我希望通过使用低内存消耗、高吞吐量(语句/s)以及特别重要的有序结果的多处理来读取和处理文件。
我想知道我们是否可以为此目的使用linecache的getline。下面的代码读取一个文件(希望是并行的)，并在子进程中收集的行上执行一些函数。在这里，我选择使用spaCy在文件上运行一些标记。使用单个核(n_workers=1)运行时，处理时间为431秒。我不知道如何解释这种
浏览 0提问于2019-07-22得票数 1
我正在尝试使用Docker部署我的fastAPI应用程序。这是一个更大的系统的一部分，我试着用一个对接者来连接彼此。它在本地运行良好，但是当我尝试部署它时，它没有找到我的子目录。文档，我还尝试手动复制main.py和recognition_service目录(并设置python )，但它没有更改错误(虽然可能做错了)。Python使用“更大”的应用程序，但我希望在这里找到一些帮助。顺便提一句，在json_reader.py中还会导入spacy子目录中的文件，每个子目录都与各自的s
浏览 12提问于2022-08-02得票数 2
回答已采纳
我在每个CRUD的末尾都有一个带有插入和commit的CRUD函数，如下所示：@staticmethod处理事务时的最佳实践是什么？我不能使用CRUD，因为它执行多个commit。
我该如何处理这些交易？你在哪里安
浏览 1提问于2021-01-13得票数 12
回答已采纳
云服务器
对象存储
ICP备案
云点播
实时音视频
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号