我正在小米MI9上使用TFLite模型基准测试工具1对各种tensorflow-lite模型进行基准测试。我注意到，当我在Androids神经网络API上启用推理时，许多模型的性能会变差。使用NNAPI时，模型表现较差的原因可能是什么？ 我的猜测是，太大的模型不能在手机的协处理器上正确执行，必须将数据来回发送到CPU。
浏览 55提问于2019-04-30得票数 3
我看到TF Lite有一个使用NNAPI进行硬件加速的delegate。我正在阅读NNAPI，我看到它有一个名为ANEURALNETWORKS_PREFER_LOW_POWER的compilation setting，它编译一个给定的ANEURALNETWORKS_PREFER_LOW_POWER模型，以优先考虑低功耗。TF Lite是否有使用此省电模式或任何省电模式的设置？我在Android Studio上
浏览 14提问于2020-07-01得票数 0
回答已采纳
1回答
我正在尝试在运行Android 9的Android设备上使用新的Google机器学习sdk，ML Kit。makes通过将谷歌的ML技术(如、TensorFlow Lite和)整合到一个SDK中，可以轻松地在应用程序中应用ML技术。无论您需要基于云的处理能力，移动优化的设备模型的实时功能，还是定制的TensorFlow Lite模型的灵活性，makes只需几行代码就可以实现。我认为这意味着在至少有Android8.1的设备上(根据NNAPI的文档)，S
浏览 2提问于2019-02-06得票数 1
回答已采纳
我有一个量化的TensorflowLite模型，我正在加载到运行Android11的Pixel 3上。我使用Tensorflow Lite 2.5构建了这个模型，我使用的是每晚为Android构建的Tensorflow。/OperationsUtils(16219): NN_RET_CHECK
浏览 5提问于2021-03-22得票数 0
回答已采纳
下面是NNAPI的系统架构。
NNAPI在Android8.1(level27接口)或更高版本上可用。如果我尝试在android 8.1下使用GPU委派，会发生什么？
浏览 1提问于2019-11-25得票数 0
我已经将模型从常规的TF 1.x会话转换为.tflite文件，方法是:首先创建一个检查点和一个保存的失重图形(.pbtxt)，然后使用freeze_graph()函数将模型冻结到一个具有图形权重的.pb在那之后，我把模型放入Android Studio，并在我的摩托罗拉Moto G7 Power上用Adreno506GPU运行。 然而，在我的原始模型和TF Lite运行的模型之间有两个主要的区别。我的推断准确率<em
浏览 36提问于2020-07-15得票数 1
我目前正在评估和比较一些tensorflow模型在不同智能手机上的性能。我正在测试MNIST和CIFAR10数据库。奇怪的是，当我试图用硬件加速来加快推理时间时，它们的表现总是比以前差。例如，这些是我在Galaxy Note 20 Ultra上获得的结果，它肯定有一些功能强大的GPU和NPU(每个推断的结果都是毫秒)：MNIST GPU: 2.322CIFAR10 CPU: 0.810
CIFAR10 GPU: 8.12
浏览 18提问于2022-07-26得票数 0
我一直试图按照这个过程在Google：上运行一个对象检测器(SSD MobileNet)
我成功地使用对象检测API对我的模型进行了培训和评估。运行后的export_tflite_graph_tf2.py脚本和转换代码没有错误，但是当我尝试使用模型运行推理时，我看到了一些奇怪的行为。我甚至验证了tf.saved_model.load()返回的类型在通过saved_model脚本之前和之后传入saved_model时是
浏览 7提问于2022-08-12得票数 1
我正在使用TensorFlow和Keras做一个图像识别项目，我想要实现到我的安卓项目。我对坦索弗洛很陌生..。我可以将模型转换为：base_model = VGG16(weights='imagenet')
model = Model(inputs=base_model.input, outputs=base_model
浏览 15提问于2022-04-22得票数 0
回答已采纳
我目前正在测试用TensorFlow Lite转换的U-Net网络推理的延迟时间。在一个分段问题上，我正在测试具有相同结构的三个NN (我正在用Windows操作系统在我的笔记本上测试它们)：
第一个模型: TensorFlow模型(没有优化，使用Keras接口创建)。第三个模型:使用TensorFlow优化和量化的TFLite模型(使用Python进行转换，用tensorflow.lite.O
浏览 4提问于2021-01-08得票数 1
我在python中做了一个不和谐的bot，现在使用Tensorflow和NLTK在它中添加了"Chatbot“特性。当我在本地运行机器人时，它运行的非常好，没有任何问题，但是当我将它移到驻留我的投资组合的Namec堆托管包时，它开始出错，它说：
OpenBLAS blas_thread_init: pthread_create我搜索了它并找到了一个解决方案，它告诉我在使用任何导入之前都要使用os.environ['OPENBLAS_
浏览 10提问于2021-06-11得票数 1
回答已采纳
我最近使用Tensorflow 1.15训练了一个对象检测模型，使用Python的测试结果很好。然而，在将其转换为.tflite格式后，在安卓上运行该模型后，其性能急剧下降。在模型转换为tf-lite的过程中会出现性能损失吗？有没有办法在转换过程中避免这种性能损失？参考资料： 培训来源：https://github.com&#
浏览 34提问于2020-01-24得票数 1
回答已采纳
1回答
我训练了一个模型，并将其转换为.tflite模型。我已经使用以下内容完成了训练后量化： import tensorflow as tf
converter = tf.lite.TFLiteConverter.from_saved_model(saved_model_dir() 但是，当我尝试在RaspberryPi上使用模型进行推理时，我得到了以下错误 Traceback (most recent call last
浏览 36提问于2019-06-23得票数 3
回答已采纳
3回答
我已经通过以下方式将我的模型导出到ONNX：torch_out = torch.onnx.Tensorflow Lite文件，这样我就可以在Android上进行推理了。我尝试通过以下方式导出到Tensorflow GraphDef proto：
tf_rep.export_graph(EXPORT_PATH + 'mnist-test/mnist-tf-export.pb指定什么，因为模型最初是在PyTorch
浏览 3提问于2018-11-07得票数 20
keras.layers.Dense(280, activation='relu'), keras.layers.Dense(4, activation='softmax')我使用以下代码将其转换为.tflite：converter = tf.compat.v1.lite.TFLiteConverter.from_keras_model_file("model.h5")
c
浏览 2提问于2020-08-27得票数 0
回答已采纳
我在使用TOCO将Keras模型转换为TfLite时遇到了一个问题。遵循以下指南：def create_lite_model(keras_model_file): tf_lite_graph = os.path.join(WEIGHTS_DIRECTORY, lit
浏览 0提问于2018-10-10得票数 1
首先，我采用了一个常规的TensorFlow / Keras模型，该模型使用以下方法保存： include_optimizer=True, 然后，我使用以下方法将这个Keras模型(300 MB)压缩和量化为TFlite格式：
converter = tf.lite.TFLiteConverter.from_ke
浏览 40提问于2022-03-27得票数 0
我想在android studio中使用我的keras训练模型。我在互联网上得到了这段代码，将我的代码从keras转换为tensorflow-lite。但是当我尝试编写代码时，我得到了这个错误： OSError: SavedModel file does not exist at: C:\Users\Munib\New folder/{saved_model.pbtxt|saved_model.pb} 我使用的代码是从keras转换到tensorflow-lite</e
浏览 1242提问于2020-06-13得票数 9
1回答
我正在努力将运行获得的冻结推理图转换为TFLite模型。.lite.TFLiteConverter.from_frozen_graph(path, input_arrays=input, output_arrays=output)
print("starting我将上面的代码更改为在本地dev环境上运行，但仍然没有成功。tf.resource<tensor<*xf32>>>, tensor<?xi32>, tensor<f32>) -> tensor&l
浏览 3提问于2020-12-11得票数 0
在特定设备上运行实现tensorflow-lite的android应用程序时出错。例如) LG X4、LG Q52这是我的错误日志。E/AndroidRuntime: FATAL EXCEPTION: inference
Process: org.tensorflow.lite.examples.detection, PID: 13469OpenCL library no
浏览 7提问于2021-03-05得票数 0
云服务器
ICP备案
对象存储
云点播
实时音视频
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号