我遇到了一个问题，我将keras模型转换为tensorflow lite格式，但是一旦我这样做了，转换后的模型的精度就会显着下降。该模型是一个相当简单的自然语言处理模型。在转换之前，模型的准确率约为96%，但一旦转换为tensorflow lite格式(没有任何优化)，准确率就会下降到20%左右。这是一个可笑的性能下降，所以我想知道这是可能发生的事情，还是我做错了
浏览 149提问于2021-01-15得票数 3
2回答
我从Custom Vision下载了一个tensorflow模型，并希望在珊瑚tpu上运行它。因此，我将其转换为tensorflow-lite，并应用混合训练后量化(据我所知，这是唯一的方法，因为我无法访问训练数据)。Invalid model: model.tflite你知道我的问题是什么吗？
浏览 3提问于2019-08-11得票数 2
我一直在学习如何在TensorFlow 2.x上使用TFLiteConverter进行量化，但是我正在TensorFlow 1.13上实现一个项目，我想知道如何在这个版本上做同样的事情。例如，据我所观察到的，下面的命令做同样的事情converter.post_training_quantize = True
converter.optimizations= [tf.lite.Optimize.OPTIMIZE_FOR_SIZE]
是对的吗？那么整数
浏览 2提问于2020-04-02得票数 0
回答已采纳
1回答
我正在尝试对Keras模型进行训练后的完整8位量化，以编译并部署到EdgeTPU。我有一个训练有素的Keras模型保存为.h5文件，并试图通过这里指定的步骤：，部署到珊瑚开发委员会。我遵循以下量化说明：)import tensorflow as tf
def representative_datas
浏览 9提问于2019-10-30得票数 0
1回答
是否有可能重新量化已经量化的模型？
我有一些模型，我已经训练与量化感知训练(QAT)与全整数量化。但是，我没有为GPU代表团提供这些模式。是否有一种方法，使我已经拥有的模型与Float16量化，以便能够运行他们与GPU代表。
浏览 2提问于2020-08-20得票数 0
我有一个定制的tensorflow模型，我使用Float16量化将其转换为tflite，就像提到的一样。但是使用tflite解释器的tflite模型的输入细节是 'index': 0,
'shape': array([ 1, 256, 256, 3]在将tf模型转换为tflite时，我也收到了此警告。P.S I也尝试做
浏览 1提问于2021-04-18得票数 0
我已经搜索了一段时间，但似乎Keras只有经过训练后才具有量化特性。我希望在我的Keras序列模型中添加Tensorflow伪量化。根据Tensorflow的doc，我需要这两个函数来做假量化: tf.contrib.quantize.create_training_graph()和tf.contrib.quantize.create_eval_graph我的问题是，是否有人在Keras</
浏览 2提问于2018-09-17得票数 2
回答已采纳
1回答
我一直在使用Tensorflow的TFLite研究量化。据我所知，量化我的模型权重是可能的(这样它们将使用更少4倍的内存存储)，但这并不意味着模型不会将其转换为浮点数来运行它。我还了解到，要仅使用int运行我的模型，我需要设置以下参数： converter.target_spec.supported_ops = [tf.lite.OpsSet.TFLITE_BUILTINS_INT8]
converter.infer
浏览 68提问于2020-04-07得票数 3
回答已采纳
1回答
我训练了一个模型，并将其转换为.tflite模型。我已经使用以下内容完成了训练后量化： import tensorflow as tf
converter = tf.lite.TFLiteConverter.from_saved_model(saved_model_dir当我在没有应用任何训练后量化的情况下将模型转换为tflite时，我没有得到错误。这是我用来在不应用后训练
浏览 36提问于2019-06-23得票数 3
回答已采纳
我正在训练一个Keras模型，我想在一个量化的8位环境(微控制器)中使用TFLite来部署它。为了提高量化性能，我进行量化感知训练。然后，我使用我的验证集作为一个有代表性的数据集创建量化的TFLite模型。性能使用验证集进行评估，并在此图像中加以说明：
如果不是简单地从经过QA训练的模型(图中红色)生成TFL
浏览 9提问于2021-03-02得票数 0
回答已采纳
量化意识的培训在坦索弗洛允许我量化使用不同的量化配置的个人水平使用tensorflow_model_optimization.quantization.keras.quantize_annotate_layer我想对一个已经受过训练的模特产生类似的效果。
在Tensorflow的训练后量化文档中，下面是一个将模型量化为float
浏览 16提问于2022-10-13得票数 0
在使用tensorflow_model_optimization进行QAT训练后，跟随 tf.keras.models.load_model(keras_quantized_model_file)
浏览 3提问于2020-09-30得票数 2
1回答
我正在使用Tensorflow Lite进行一个TinyML项目，该项目包括量化模型和浮点模型。在我的管道中，我使用tf.keras API训练我的模型，然后将模型转换成TFLite模型。最后，将TFLite模型量化为int8模型。我可以使用API model.save和tf.keras.model.load_model保存和加载“正常”
浏览 3提问于2021-06-25得票数 2
回答已采纳
1回答
我正在尝试将keras模型转换为tflite量化模型，这样我就可以在coral TPU上运行我的模型，但我的keras模型和tflite模型的输出明显不同。红点是量化的tflite模型输出，蓝点是原始keras模型输出。
下面是我将keras模型转换为量化</
浏览 4提问于2020-05-28得票数 1
1回答
似乎训练后量化对某些模型结构有效，而对其他模型结构无效。metrics=['accuracy'])
model.fit(train_images, train_labels, epochs=2) 和训练后的量化为 converter = tf.lite.TFLiteConverter.from_keras_modeledgetpu_compiler my_mnist_quant.tflite命令
浏览 28提问于2020-07-09得票数 0
回答已采纳
1回答
如何在TensorFlow的量化感知训练后得到量化权值或量化感知权值。我想在应用程序的NumPy上使用整数量化的权重。到目前为止，我的用法如下，它给出了float32的值。import tensorflow.keras.backend as K
weights_t
浏览 17提问于2020-10-23得票数 0
1回答
不同数据类型的神经网络层
、、、、
我想建立一个神经网络，它的层由不同的数据类型组成。例如，一个层可以是INT16数据类型，一个层可以是Float16或INT32。有人能帮我建立这样一个具有不同数据类型的
浏览 4提问于2020-07-08得票数 0
我想应用训练后量化(全整数)使用TensorFlow模型优化包的预训练模型(LeNet5)。model._name = 'LeNet5'model.add(tf.keras.layers.Reshape))
mod
浏览 4提问于2022-05-10得票数 0
我正在尝试让一个Mobilenetv2模型(对我的数据的最后一层进行再训练)在Google edge TPU Coral上运行。我遵循这个虚拟的https://www.tensorflow.org/lite/performance/post来做训练后的量化。converter.target_ops = [tf.lite.OpsSet.TFLITE_BUILTINS_INT8]
tfli
浏览 50提问于2019-07-28得票数 8
回答已采纳
我试图用编译一个tflite模型，以使它与Google的Coral键兼容，但是当我运行edgetpu_compiler the_model.tflite时，我会得到一个Model not quantized然后，我想为8位整数格式，但我没有模型的原始.h5文件。
是否有可能将tflite转换成8位格式的模型量化？
浏览 3提问于2020-08-01得票数 0
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
云直播活动推荐
腾讯云开发者
