我正在尝试理解如何在OpenVino的模型优化器中添加对TensorFlow层FusedBatchNormV3的支持。我在Ubuntu 18.03上运行，使用Tensorflow 15。我的目标是在神经计算机棒2上用一些预先训练好的标准网络做几个测试，现在我正在使用ResNet50。include_top=False,
浏览 41提问于2020-01-19得票数 2
因此，我在我的Pi(Raspbian stretch)和笔记本电脑(Linux，不是所有程序，只是模型优化器)上安装了OpenVINO 2019_R3。当我优化SSD lite mobilenet v2(训练有素的动物园模型)时，一切都很好。
因此，我使用Tensorflow对象检测api在Google Colab中训练了我的模型。但是当我优化我自己的SSD li
浏览 0提问于2019-10-28得票数 2
1回答
红外v6的载体已从产品中移除。
、、、、
每当我运行该项目时，我都在处理Openvino项目，它显示了以下错误
从产品中去除了IR v6的载体。请使用此版本的OpenVINO附带的模型优化器转换原始模型，以生成支持的IR版本。我认为这种情况发生在加载人脸检测-零售-0005.xml模型中。
浏览 9提问于2022-09-07得票数 -1
回答已采纳
我使用OpenVINO模型优化器框架将包含单个ConvInteger操作的ONNX模型转换为OpenVINO IR格式。mo --input_model {onnx_model}
ONNX ConvInteger算子具有INT8 8/UINT8 8精度的输入和权重张量，以及具有INT32精度的输出张量--这种输出精度是唯一支持的精度当模型转换为OpenVINO</
浏览 21提问于2022-06-20得票数 1
1回答
Seq2seq移液器推断慢
、、、、
我尝试了在这里可用的seq2seq pytorch实现，。在对评估(evaluate.py)代码进行分析之后，需要较长时间的代码段是方法。(input_lines_trg, next_preds.unsqueeze(1)), )
在GPU上对模型进行训练，并在CPU模式下加载模型进行推理。但不幸的是，每句话似乎都需要10秒。是否期望在火把上进行缓慢的预测？
如有任何解决办法和加快速度的</
浏览 3提问于2017-08-31得票数 0
1回答
为了提高训练模型的延迟性，我尝试使用Tensorflow混合精度。正如中提到的那样，仅仅设置策略似乎并不能提高模型的速度：from tensorflow.kerasmixed_precision.Policy('mixed_float16')但是当我在其他CNN网络上尝试一个玩具例子时，我发现
浏览 3提问于2021-11-14得票数 0
2回答
我们已经训练了一个tf-seq2seq模型来回答问题。主要框架来自。我们采用双向RNN( GRU编码器/解码器128单元)，增加了软注意机制。
那么，是否有任何建议来缩短我们的</e
浏览 4提问于2017-10-20得票数 2
1回答
T5类模型的加速推理
、、、
我目前正在生产中使用一个名为T0pp ()的模型，并希望加快推理速度。我所看到的加速推理的主要替代方法是使用下面的Pytorch模型：
PS：
我已经试过SageMaker了，但这并不适用
浏览 25提问于2022-02-21得票数 0
回答已采纳
2回答
我正在为这个转移学习个人项目开发一个特征提取器，而且Kera的VGG16模型的预测功能看起来很慢(对于一批4幅图像，需要31秒)。我确实希望它是缓慢的，但不确定预测函数是否比它应该的慢。，它是缓慢的，因为这些原因：
我在特征提取器的
浏览 4提问于2017-10-12得票数 6
回答已采纳
我在Tensorflow模型服务器上观察到CPU的性能问题。与原始的Tensorflow模型推理相比，它的推理时间增加了一倍。两者都是用MKL构建的，只用于CPU。--copt=-mavx2 --copt=-mfma --copt=-O3 //tensorflow/tools/pip_package:build_pip_package
Tensorflow服务器MKLmavx --copt=-mavx2 --co
浏览 7提问于2017-11-27得票数 1
SageMaker Neo相对于每个ML加速器提供的专用本机运行时(如NVIDIA TensorRT、Intel OpenVINO、DeepView RT、CoreML、ArmNN等)有什么优势？我知道Neo在幕后使用了一些框架，比如TensorRT，但是直接为Neo或TensorRT编译模型有什么好处呢？我认为拥有edge ML工作负载的公司将在给定的平台上标准化，例如NVIDIA、ARM或Intel，而且每个供应商都可能处于最佳位置，可以通过其他框架的</e
浏览 10提问于2022-10-31得票数 0
3回答
角星预测很慢
、、、
我正在研究一个强化学习任务，并决定使用keras神经网络模型进行Q值近似。这种方法是常见的:在每个动作之后，奖励被存储在一个内存回放数组中，然后我从它中随机抽取样本，然后用新的数据state-action => reward+predicted_Q(更详细的)来拟合模型。为了进行训练，必须对训练集中的每个项目进行Q值的预测。
脚本运行得非常慢，所以我开始调查。分析表明，_predict_loop方法占用累积时间的</em
浏览 3提问于2016-06-25得票数 7
1回答
我按照github 上的说明在macOS上构建了它，并完成了它，当我写了一小段代码来检查一切是否清晰#include <iostream> dlopen("/Users/nk/Documents/HZ/openvino
浏览 5提问于2020-07-03得票数 0
迪斯卡默:我从来没有使用过openCV或openVINO，甚至没有使用过任何接近ML的东西。然而，我一直在研究神经网络(在线阅读材料)，因为我必须在边缘设备上使用英特尔的openVINO。以下是官方文档中关于在openVINO中使用openCV的内容(在openCV中使用openVINO的推理引擎)。使用->Optimize的模型优化器创建预训练的<
浏览 2提问于2019-08-09得票数 0
3回答
tensorflow官方的文本生成()示例运行在下面定义的循环中。文本生成感觉很慢，根据NVTOP的说法，它只使用了一小部分可用的GPU资源(15-20%)。对如何加快文本生成有何建议？快速查看一下cprofiler就会发现，90%的时间都花在了单行predictions = model(input_eval)上，所以我不认为在其他地方有太多的收益。该方法是针对大规模输入的性能而设计的。对于适合一批的少量输入，建议直接使用
浏览 6提问于2020-05-18得票数 1
我们在Mask R-CNN上训练了一个NVIDIA GPU模型来进行对象实例分割，并对一些具有足够性能的图像进行了测试。现在，我们正在研究如何在Neural Compute Stick 2上部署经过训练的模型。我刚刚开始学习OpenVINO toolkit，下面是我所做的工作：
我从mask_rcnn_inception_v2_coco.tar.gz下载了TensorFlow detection model我从文档中了解到，Mask RCNN目前只支持</e
浏览 0提问于2018-12-18得票数 0
1回答
我正试图让KeithIto的Tacotron模型在英特尔OpenVINO上与NCS一起运行。模型优化器无法将冻结的模型转换为IR格式。在英特尔论坛上询问后，我被告知2018年的R5发行版没有GRU支持，我把它改成了LSTM单元。但经过训练后，该模型在tensorflow仍然运行良好。此外，我还更新了我的OpenVINO到2019年R1发行版。但是优化</e
浏览 0提问于2019-04-10得票数 3
2回答
我正在尝试在我的系统上安装最新版本的Opevino。我遵循以下文档：
我得到了这个错误：
C:\local\Intel\computer_vision_sdk\deployment_tools
浏览 5提问于2018-12-09得票数 0
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
腾讯会议
云直播
对象存储活动推荐
腾讯云开发者
