比JSON更有效地向Sagemaker中已部署的tensorflow模型发送请求？
在Sagemaker中，可以使用Protocol Buffers（protobuf）来更有效地向已部署的TensorFlow模型发送请求，而不是使用JSON。Protocol Buffers是一种轻量级的数据交换格式，具有高效的序列化和反序列化能力，适用于网络通信和数据存储。
相比于JSON，使用Protocol Buffers的优势包括：
- 更小的数据体积：Protocol Buffers使用二进制编码，相比于文本格式的JSON，可以大大减小数据的体积，减少网络传输和存储的开销。
- 更快的序列化和反序列化速度：Protocol Buffers的编解码过程更加高效，相比于JSON，可以提供更快的数据处理速度。
- 更好的跨语言支持：Protocol Buffers支持多种编程语言，可以方便地在不同的平台和语言之间进行数据交换和通信。
在Sagemaker中，可以使用TensorFlow Serving来部署和提供TensorFlow模型的推理服务。当向已部署的TensorFlow模型发送请求时，可以使用Protocol Buffers来序列化请求数据，并将其发送给TensorFlow Serving。TensorFlow Serving会解析请求数据，并进行相应的推理处理，最后返回结果。
推荐的腾讯云相关产品是腾讯云机器学习平台（Tencent Machine Learning Platform，TMLP），它提供了完整的机器学习生命周期管理和模型部署服务。TMLP支持使用Protocol Buffers进行数据交换，并提供了与Sagemaker类似的功能，可以部署和管理TensorFlow模型，并提供高性能的推理服务。
更多关于腾讯云机器学习平台的信息和产品介绍，可以访问以下链接： https://cloud.tencent.com/product/tmpl
相关·内容
我有一个经过训练的Tensorflow模型，它使用两个输入来进行预测。我已成功地在AWS Sagemaker上设置并部署了该模型。
from sagemaker.tensorflow.model import TensorFlowModel
sagemaker_model = TensorFlowModel(model_data='s3://' + sagemaker_session.default_bucket()
+ '/R2-model/R2-model.tar.gz',
浏览 0提问于2019-06-07得票数 1
我正在按照一个AWS示例notebook训练maskrcnn模型。 我唯一不理解的是我没有使用子网和security_group_ids。我在整个COCO2017集合上进行了训练，19个小时后，训练状态显示训练完成。 但在CloudWatch中，日志显示“您的模型将无法使用SageMaker TensorFlow Serving container提供服务。模型工件未保存在TensorFlow SavedModel目录结构中”。 我很困惑。它是否期望作为此maskrcnn的训练模型？如果是这样的话，这个模型似乎不能部署。因为根据此doc，部署操作将在SageMaker TensorFlow服
浏览 59提问于2021-10-06得票数 0
我有一个tensorflow 2.0模型，我想部署到AWS sagemaker端点。我已经将模型移到了S3存储桶中，并执行了以下代码，但由于没有TF2.0图像，因此出现了下面的错误。如果我尝试使用不同的版本(例如1.4、1.8)进行部署，我会收到ping超时错误。
可以很容易地创建一个吗？我找不到一个好的教程来学习。或者亚马逊会在某个时候部署一个。
失败。原因:镜像'520713654638.dkr.ecr.eu-west-1.amazonaws.com/sagemaker-tensorflow:2.0-cpu-py2‘不存在..
from sagemaker.tensorfl
浏览 16提问于2019-11-19得票数 0
回答已采纳
在我使用亚马逊网络服务SageMaker训练和部署了模型之后，我想在几个csv文件上对其进行评估：
- category-1-eval.csv (~700000 records)
- category-2-eval.csv (~500000 records)
- category-3-eval.csv (~800000 records)
...
正确的方法是使用方法，因为它很快。
问题是-我找不到将SageMaker模型恢复到Tensorflow Estimator中的方法，有可能吗？
我曾尝试恢复一个模型，如下所示：
tf.estimator.DNNClassifier(
featu
浏览 17提问于2019-07-08得票数 0
回答已采纳
我在亚马逊SageMaker上使用以下架构训练了一个TensorFlow模型： _, timesteps, features = X_train.shape
ACTIVATION = 'relu'
EPOCHS = 50
model = Sequential()
model.add(Masking(mask_value=np.nan, input_shape=(timesteps, features)))
model.add(LSTM(64, activation=ACTIVATION, return_sequences=True))
model.add(LSTM(64, a
浏览 11提问于2020-09-17得票数 0
我已经在Sagemaker中训练了一个基于tf.estimator的TensorFlow模型，并部署了它，它工作得很好。 但我只能向它发送JSON格式的请求。我需要发送一些大的输入张量，这似乎非常低效，而且很快就会打破InvokeEndpoints 5MB的请求限制。 有没有可能对基于tensorflow服务的端点使用更有效的格式？ 我尝试发送一个基于protobuf的请求： from sagemaker.tensorflow.serving import Model
from sagemaker.tensorflow.tensorflow_serving.apis import pred
浏览 11提问于2019-01-08得票数 1
我想把我受过训练的tensorflow模型部署到amazon，我正在遵循这里的官方指南:使用jupyter笔记本部署我的模型。
但是当我尝试使用代码时：
predictor = sagemaker_model.deploy(initial_instance_count=1, instance_type='ml.t2.medium')
它提供了以下错误消息：
'520713654638.dkr.ecr.us-west-1.amazonaws.com/sagemaker-tensorflow:1.12-cpu-py3 :错误托管端点2019-08-07-22-57-59-
浏览 1提问于2019-08-07得票数 0
我对TensorFlow (和SageMaker)相当陌生，而且还停留在部署SageMaker端点的过程中。我最近刚刚成功地创建了一个已保存的模型类型模型，该模型目前正用于服务一个示例端点(模型是外部创建的)。但是，当我检查用于端点的映像时，它会说‘./ TensorFlow -推断’，这不是我想要进入的方向，因为我想使用一个SageMaker TensorFlow服务容器(我遵循了官方的TensorFlow服务GitHub回购指南--使用示例模型，它们是使用TensorFlow服务框架进行校正的)。
我遇到这个问题是因为我保存的模型没有正确的“服务”标签吗？我还没有检查我的标签集，但想知道这
浏览 1提问于2020-07-14得票数 2
回答已采纳
我有一个内置在TensorFlow中的自定义模型。我正尝试在amazon sagemaker上部署此模型以进行推断。该模型接受三个输入，并给出五个输出。输入的名称为： 1. input_image
2. input_image_meta
3. input_anchors 输出的名称为： 1 output_detections
2 output_mrcnn_class
3 output_mrcnn_bbox
4 output_mrcnn_mask
5 output_rois 我已经成功地在sagemaker上创建了模型端点，当我试图访问结果请求时
浏览 49提问于2019-08-31得票数 2
我创建了一个自定义模型，并将其部署在sagemaker上。我正在使用批处理转换作业调用端点。如果输入文件很小，即csv文件中的行数较少，它就能工作。如果我上传了一个大约200000行的文件，我就会在云监视日志中得到这个错误。
2018-11-21 09:11:52.666476: W external/org_tensorflow/tensorflow/core/framework/allocator.cc:113]
Allocation of 2878368000 exceeds 10% of system memory.
2018-11-21 09:11:53.166493: W exte
浏览 0提问于2018-11-21得票数 1
回答已采纳
1回答
我正在尝试将使用tensorflow训练的对象检测模型部署到sagemaker。在模型创建过程中，我能够在没有指定任何入口点的情况下部署它，但结果证明，这样做只适用于小尺寸的映像(Sagemaker有5MB的限制)。我用于此的代码如下：
from sagemaker.tensorflow.serving import Model
# Initialize model ...
model = Model(
model_data= s3_path_for_model,
role=sagemaker_role,
framework_version="1.14"
浏览 0提问于2019-12-17得票数 1
我正在尝试通过Amazon构建一个应用程序，该应用程序可以从图片中提取文本信息并验证文本。我正在寻找一种通过Sagemaker部署应用程序的方法，但找不到部署应用程序的任何方法。构建在TensorFlow、PyTorch、Sklearn等基础上的模型可以通过Sagemaker进行部署。如何通过Sagemaker部署the应用程序？
浏览 7提问于2022-08-29得票数 0
2回答
我正在尝试使用amazon sagemaker部署tensorflow keras模型。过程成功完成，但是当直接使用keras进行预测和调用sagemaker端点进行预测时，我得到了不同的预测结果。
我在将模型部署到sagemaker时使用了步骤。
检查下面的示例。
data = np.random.randn(1, 150, 150, 3)
# predict using amazon sagemaker
sagemaker_predict = uncompiled_predictor.predict(data)
print(sagemaker_predict)
#predict sam
浏览 1提问于2021-07-31得票数 1
我们目前正在将模型从单个模型端点移动到AWS SageMaker中的多模型端点。使用预构建的TensorFlow容器部署多模型终结点后，在调用predict()方法时会收到以下错误：
{"error": "JSON Parse error: The document root must not be followed by other value at offset: 17"}
我像这样调用端点：
data = np.random.rand(n_samples, n_features)
predictor = Predictor(endpoint_name=e
浏览 7提问于2022-01-04得票数 2
问题序言：I有一个用户创建的神经网络体系结构的数据库(用另一种语言编写，我将其转换成MongoDB模型)存储在MongoDB中。我的目标是采用这些架构，用它们创建一个Keras模型，然后使用SageMaker在云中对它们进行培训。现在，我可以从MongoDB加载模型，并将它们转换为Keras。但是，我很难使用Python将这些动态创建的模型发送到SageMaker。
是否有一种方法可以在SageMaker中训练和部署这些Keras模型体系结构(即Python模型对象)，方法是将估值器的entry_point属性指定为定义了这些模型对象的文件？
工作到目前为止&代码示例到现在为止，我可以
浏览 1提问于2019-04-21得票数 2
我们采取了以下步骤：
使用5个不同的训练集，在本地机器上训练了5个TensorFlow模型。
以.h5格式保存。
将其转换为tar.gz (Model1.tar.gz，...Model5.tar.gz)并上传到S3桶中。
使用以下代码成功地在端点中部署了单个模型：
from sagemaker.tensorflow import TensorFlowModel
sagemaker_model = TensorFlowModel(model_data = tarS3Path + 'model{}.tar.gz'.format(1),
浏览 0提问于2020-08-28得票数 1
回答已采纳
编辑:找到一个解决方案，见下面的帖子。
我有一个预先训练的角膜模型(model.h5)，这是一个用于图像分类的CNN。我的目标是将模型部署在sagemaker上，并使用lambda函数与sagemaker端点进行接口并进行预测。当我使用以下代码对本地机器上的模型进行预测时，我会得到预期的结果：
model = load_model(r'model.h5')
photo_fp = r'/path/to/photo.jpg'
img = Image.open(photo_fp).resize((128,128))
image_array = np.array(im
浏览 1提问于2021-05-12得票数 0
回答已采纳
1回答
我面临着在AWS SageMaker上服务tensorflow模型的问题。我在SageMaker环境之外训练了模型，现在我有了一个savedmodel.pb文件，我需要将它部署到SageMaker端点上。因此，我简单地压缩了模型文件并将其上传到一个S3桶中。现在，在尝试创建端点时，我在Cloudwatch日志中得到以下错误：
tensorflow_serving/sources/storage_path/file_system_storage_path_source.cc:369] FileSystemStoragePathSource遇到文件系统访问错误:找不到可伺服generic_mod
浏览 0提问于2019-02-11得票数 2
1回答
我在本地模式下从估计器中部署了一个模型，当试图使用gRPC调用Tensorflow服务(TFS)预测端点时，我得到了以下错误：
grpc._channel._InactiveRpcError: <_InactiveRpcError of RPC that terminated with:
status = StatusCode.UNAVAILABLE
details = "failed to connect to all addresses"
我正在执行gRPC请求，就像在这个中一样
import grpc from tensorflow.compat.v1
impor
浏览 26提问于2022-10-18得票数 0
回答已采纳
我正在尝试将tensorflow模型部署到sagemaker上的异步端点。
我以前使用以下代码将相同的模型部署到实时端点：
from sagemaker.tensorflow.serving import Model
tensorflow_serving_model = Model(model_data=model_artifact,
entry_point = 'inference.py',
source_dir = 'code'
浏览 12提问于2022-09-03得票数 0
回答已采纳
我在amazon sagemaker上使用aws blazingtext算法训练了一个模型，并且我能够使用sagemaker部署一个端点。然而，在我的情况下，这并不划算，我想在本地运行它。我发现关于这方面的文档令人困惑。
我所拥有的是经过训练的模型，它保存为我从我的s3存储桶中下载的"model.tar.gz“文件。我在网上读到，您可以使用tensorflow和docker镜像部署模型，但我只想使用本地计算机部署使用sagemaker创建的模型。从本质上讲，我想做的是：
predictor = sagemaker.deploy(initial_instance_count=1, ins
浏览 1提问于2019-07-02得票数 2
我使用了一个部署在SageMaker中的TF模型来进行预测。预测的输入是一个字符串数组。例如，我可以使用以下命令成功调用它：
input = {
'instances': ["Hello world"]
}
from sagemaker.tensorflow.model import TensorFlowPredictor
predictor = TensorFlowPredictor('endpoint-name', sagemaker_session)
predictor.predict(input)
但是，如果字符串数组中的字符串包含&
浏览 28提问于2020-02-27得票数 0
1回答
我用Tensorflow和Keras训练了我自己的模型，用于图像分类，我正在尝试在亚马逊的SageMaker中部署和使用它。我完成了将mymodel.h5文件转换为mymodel.tar.gz文件并将其移动到SageMaker S3桶的过程。然后，在一个教程之后，我使用以下方法创建了SageMaker模型：
from sagemaker.tensorflow.model import TensorFlowModel
sagemaker_model = TensorFlowModel(model_data = 's3://' + sagemaker_session.default
浏览 7提问于2022-04-08得票数 1
我有一个我们自己训练的Keras/tensorflow模型，它做与图像相关的预测。我已经按照这个在Sagemaker中部署了模型，并且可以调用端点进行预测。
现在，在我的客户端代码中，在通过调用Sagemaker端点进行预测之前，我需要下载图像并进行一些预处理。我希望在SageMaker中完成整个过程，而不是在客户端执行此操作。我该怎么做？
看起来我需要更新这里提到的入口点python代码train.py：
sagemaker_model = TensorFlowModel(model_data = 's3://' + sagemaker_session.default_buc
浏览 1提问于2019-02-26得票数 3
我已经在SageMaker端点上部署了一个深度学习模型，可以使用sagemaker_client.invoke_endpoint请求/获取答案。但是每个invoke_endpoint都接受单个主体。如何发送多个body才能在一次请求中得到多个结果？ 我尝试设置body='{"instances": [myData1, myData2]}'，但它将其识别为单字符串。 def sagemaker_handler(doc):
data = doc.encode("UTF-8")
response = sagemaker_client.
浏览 24提问于2019-01-17得票数 1
2回答
我需要使用tensorflow AWS部署一个自定义对象检测模型，遵循本教程：，每当我尝试使用以下代码进行部署时，我都会得到这个错误：
predictor = model_endpoint.deploy(initial_instance_count=1, instance_type='ml.m5.large')
问题是：
update_endpoint是sagemaker>=2中的一个禁止操作的网站.
你能帮我解决这个问题吗？或者，您能告诉我如何在sagemaker上部署自定义检测模型吗？
浏览 11提问于2022-04-19得票数 0
我已经训练了10个不同的TensorFlow模型来进行样式转换，基本上每个模型都负责根据样式图像对图像应用滤镜。因此，每个模型都是独立运行的，我希望将其集成到一个应用程序中。有没有办法使用AWS部署这些模型？
我尝试使用API部署这些模型，然后使用AWS Lambda的端点，最后使用API Gateway创建SageMaker。但是这里的问题是，我们只能在SageMaker上部署一个模型，但在我的例子中，我想部署10个不同的模型。
我希望在我的应用程序中提供每个模型的链接，因此选择的过滤器将在AWS上触发模型并应用过滤器。
浏览 2提问于2019-06-11得票数 1
我遵循aws 的这个例子，使用两个预先训练过的模型(在sagemaker之外训练)应用相同的工作流。
但当我这样做时，日志上说找不到模型：
import boto3
import datetime
from datetime import datetime
import time
import sagemaker
from sagemaker import get_execution_role
from sagemaker.tensorflow.serving import TensorFlowModel
from sagemaker.multidatamodel import MultiDa
浏览 17提问于2022-05-03得票数 0
回答已采纳
1回答
我希望部署一个预先训练的模型，用于实时行人和/或车辆检测，使用AWS的Sagemaker工作流，我特别希望使用Sagemaker编译模型并将其部署到边缘。我想使用OpenVino从他们的模型动物园预先构建的模型之一，但是当我下载模型时，它已经是他们自己的优化器的中间表示格式(IR)了。
是否有一种方法可以得到一个OpenVino预训练的模型，而不是IR格式，以便我可以使用它在萨吉克？或者任何可能的方法来封装OpenVino模型，以便在sagemaker?中使用。
如果没有，是否有任何免费的预先培训的模型(使用任何流行的框架，如pytorch、tensorflow、ONXX等)我可以用它从交通摄
浏览 3提问于2021-09-16得票数 0
2回答
我正在尝试将本地的tensorflow模型部署到sagemaker端点。我希望包括自定义推理代码来转换输入数据。如果模型是经过培训的，并且已经位于S3桶中，那么我可以运行以下操作，这将正确地将模型部署到端点：
tensorflow_model = Model(
model_data=saved_model,
entry_point='src/development/document_matcher/inference.py',
source_dir ='./src/development/document_matcher&
浏览 3提问于2022-02-09得票数 0
我有一个胶水作业，输出到S3的.out文件。这个文件的格式对于在SageMaker上训练TensorFlow模型(使用脚本模式)来说很好，但是在运行批处理转换时，我很难解析这些数据。 我按照推荐的首选inference.py脚本方法使用input_handler和output_handler函数，但我不确定是否应该将.out文件视为应用程序/json、文本/csv或其他完全不同的东西。 inference.py文件示例：https://github.com/awslabs/amazon-sagemaker-examples/blob/master/sagemaker_batch_transf
浏览 17提问于2020-04-07得票数 0
我已经在SageMaker之外训练了一个SageMaker模型。
我试图专注于部署/推理，但我面临着推理方面的问题。
对于部署，我这样做了：
from sagemaker.tensorflow.serving import TensorFlowModel
instance_type = 'ml.c5.xlarge'
model = TensorFlowModel(
model_data=model_data,
name= 'tfmodel1',
framework_version="2.2",
role=rol
浏览 37提问于2022-04-27得票数 1
回答已采纳
我部署了一个公开了AWS SageMaker端点的TensorFlow模型。在Lambda Python中，我使用boto3客户端来调用端点。TensorFlow模型接受3个输入，如下所示 {'input1' : numpy array , 'input2' : integer ,'input3' :numpy array } 从Lambda使用runtime.invoke_endpoint调用SageMaker端点。当从boto3client调用API时，我尝试在调用API端点之前将数据序列化为csv格式。 下面是用Lambda编写的代码 p
浏览 19提问于2019-05-30得票数 0
这是我第一次使用amazon服务来部署我的机器学习预培训模型。我想把我的预先训练过的TensorFlow模型部署到Aws-Sagemaker。我可以成功地部署端点，但是每当我调用predictor.predict(some_data)方法对调用端点进行预测时，它就会抛出一个错误。
ModelError: An error occurred (ModelError) when calling the InvokeEndpoint operation: Received server error (500) from model with message "". See https
浏览 4提问于2020-04-07得票数 2
回答已采纳
我对萨格梅克很陌生。我已经部署了我训练有素的模型在tensorflow使用Json和重量文件。但奇怪的是，在我的笔记本里，我没有看到它写着“终结点成功建造”。只显示了以下情况：
--------------------------------------------------------------------------------!
相反，我从控制台中找到了端点号。
import sagemaker
from sagemaker.tensorflow.model import TensorFlowModel
predictor=sagemaker.tensorflow.m
浏览 2提问于2019-04-28得票数 0
回答已采纳
我正在使用AWS Sagemaker进行模型训练和部署，这是模型训练的示例 from sagemaker.estimator import Estimator
hyperparameters = {'train-steps': 10}
instance_type = 'ml.m4.xlarge'
estimator = Estimator(role=role,
train_instance_count=1,
train_instance_type=instance_typ
浏览 15提问于2019-01-04得票数 0
回答已采纳
1回答
我使用sagemaker端点部署了一个tensorflow多标签分类模型，如下所示：
predictor = sagemaker_model.deploy(initial_instance_count=1, instance_type="ml.m5.2xlarge", endpoint_name='testing-2')
当我从Sag怪-朱庇特实例调用它时，它就会被部署并正常工作：
sample = ['this movie was extremely good']
output=predictor.predict(sample)
产出：
{&#
浏览 17提问于2022-11-28得票数 0
我尝试在Sagemaker中使用TensorFlow-Keras模型进行预测，但收到以下错误：
在Amazon Cloudwatch中，对于Lambda函数：
An error occurred (ModelError) when calling the InvokeEndpoint operation: Received client error (415) from model with message "
{
"error": "Unsupported Media Type: application/x-image"
}
在Cloudwat
浏览 0提问于2021-02-22得票数 1
我正在尝试训练Tensorflow Estimator，并将创建的模型工件上传到S3。训练作业成功完成，但是我们收到一个警告，说“没有模型工件保存在路径/opt/ml/model下。您的训练作业不会将任何模型文件保存到S3。”当我们试图在SageMaker中部署模型时，这就成了一个问题。我的理解是Estimator对象会自动将模型工件保存到/opt/ml/model。 其主要思想是通过sagemaker进行训练、部署和测试。我们有一个entry.py脚本、一个.py培训脚本和实例化Estimator对象的实际sagemaker笔记本 #BEGINNING OF TRAINING SCRIPT
浏览 24提问于2019-06-28得票数 2
1回答
我在AWS sagemaker实例中使用tensorflow python 3.6 AWS sagemaker jupyter notebook编写了一个python脚本。我必须为我的深度学习模型使用sagemaker调试器。我可以看到许多链接建议首先停靠算法图像，然后使用它而不是sagemaker。谁能建议一下，有没有可用的替代方案，比如Tensorflow-1 docker镜像是可用的，我可以通过pip在这个镜像中包含一些其他的包，然后在sagemaker上运行我的模型？我正在使用keras 2.3.0和tensorflow 1.15 .Please指南，并分享必要的参考资料。
浏览 18提问于2020-10-22得票数 0
我正在尝试解决ImageClassification任务。我准备了一个在SageMaker笔记本中训练、评估和部署tensorflow模型的代码。我也是SageMaker和SageMaker管道公司的新手。目前，我正在尝试拆分我的代码并创建SageMaker管道来解决图像分类任务。关于AWS文档，有。当tensorflow模型还处于训练阶段时，我有一个代码，它可以读取S3的数据，并使用动态生成增强图像。
在处理步骤中，我找不到如何在ImageGenerator管道中使用SageMaker。
我的ImageGenerator代码
def load_data(mode):
if mode
浏览 9提问于2022-06-22得票数 0
回答已采纳
自定义算法容器训练了一个Tensorflow Keras模型，在它完成培训之后，我保存模型：
model.save('/opt/ml/model')
培训作业成功完成，但当我尝试部署自定义算法容器生成的sagemaker.Estimator时，会得到以下错误：
tensorflow.python.framework.errors_impl.PermissionDeniedError: /opt/ml/model/变量/变量_temp；只读文件系统Op:SaveV2 2
它在model.save行上失败。
浏览 1提问于2021-10-08得票数 0
1回答
我对SageMaker非常陌生，所以如果我错过了一些显而易见的东西，我很抱歉。
我已经训练了一个DL模型，它使用视频中的帧来进行预测。当前的脚本运行在SageMaker jupyter-记事本中，它以一个视频URL作为输入，并使用FFMPEG子处理管道提取帧并在之后对其进行预测。这很好，但是现在我想从Lambda开始这个脚本。
据我所知，我可以使用sagemaker部署我的模型，并对Lambda的每一个帧进行预测，不幸的是，这不是一种选择，因为ff探头、ffmpeg和numpy太大了，无法适应有限的lambda空间。
tl;dr:是否可以在SageMaker中运行我的自定义脚本(ffmpeg框
浏览 3提问于2020-02-04得票数 0
回答已采纳
我正在尝试将经过预先训练的MaskRCNN模型部署到SageMaker中进行预测。
问题是，该模型在向Keras层提供输入之前使用numpy和scikit作为预处理，因此像在中那样部署模型是行不通的。
我尝试过的事情：
隔离模型中的Keras部分并使用它，以便要部署在端点中的模型使用预处理过的数据。本例中的问题是会提示http错误431 Request Header Fields Too Large，因为预处理后的数据(由调整大小的图像加上锚形成)要比原始数据大得多。
使用entry_point.py函数创建一个input_handler()脚本。此脚本如下所示：
def in
浏览 4提问于2022-02-03得票数 0
我在不同的数据段上创建了独立的预测模型(使用SageMaker的内置算法)。在生产中，需要根据输入数据段来调用这些模型。
可以在SageMaker中托管复合模型吗？如何定义部署组合模型的配置？
浏览 0提问于2018-03-22得票数 0
我在垃圾邮件和火腿数据集上使用keras训练了一个BERT文本分类模型。我已经部署了模型，并得到了一个Sagemaker端点。我想用它来预测。
我使用的是一个ml.t2.medium Sagemaker实例，而我的tensorflow版本是Sagemaker笔记本中的2.6.2
在使用Sagemaker端点进行预测时，我得到了一个错误。错误是Session was not created with a graph before Run()
这是我训练分类器的代码。
import tensorflow as tf
import tensorflow_hub as hub
import tenso
浏览 9提问于2021-12-28得票数 2
1回答
我已经在SageMaker Studio中部署了一个Tensorflow模型，遵循这个教程：https://aws.amazon.com/de/blogs/machine-learning/deploy-trained-keras-or-tensorflow-models-using-amazon-sagemaker/模型需要一个多维数组作为输入。从Notebook本身调用它是可行的： import numpy as np
import json
data = np.load("testValues.npy")
pred=predictor.predict(data) 但我无
浏览 12提问于2020-11-17得票数 0
回答已采纳
我已经在AWS SageMaker上部署了一个TensorFlow模型，我希望能够使用csv文件作为调用的主体来调用它。文档中提到了如何创建如下所示的serving_input_function：
def serving_input_fn(hyperparameters):
# Logic to the following:
# 1. Defines placeholders that TensorFlow serving will feed with inference requests
# 2. Preprocess input data
# 3. Returns a tf
浏览 1提问于2018-04-11得票数 0
2回答
我使用tensorflow.keras脚本模式训练了一个SageMaker模型，如下所示：
import os
import sagemaker
from sagemaker.tensorflow import TensorFlow
estimator = TensorFlow(entry_point='train.py',
source_dir='src',
train_instance_type=train_instance_type,
浏览 0提问于2019-01-27得票数 2
回答已采纳
1回答
作为端点部署在AWS SageMaker上的模型是否存在大小限制？我首先尝试部署一个简单的TensorFlow/Keras分类模型，方法是将模型转换为protobuf、对模型进行注册并进行部署。注册文件的大小约为10 an，我成功地将其部署为端点。但是，我在Nasnet模型中尝试了相同的过程，其中注册文件的大小最终大约为350 of，我得到了以下错误：
生产变体AllTraffic的主容器没有通过ping健康检查。请检查此端点的CloudWatch日志。
难道是因为模型太大而无法部署吗？我尝试将实例类型从'ml.m4.xlarge‘增加到更高的层，但这也不起作用。
浏览 0提问于2020-05-15得票数 1
回答已采纳
云服务器
ICP备案
对象存储
即时通信 IM
实时音视频
腾讯云开发者
