尚不支持对op进行量化: tensorflow 2.x的'DEQUANTIZE‘
尚不支持对op进行量化: tensorflow 2.x的'DEQUANTIZE'
这个问题涉及到TensorFlow 2.x中的'DEQUANTIZE'操作符，该操作符目前不支持对操作进行量化。下面是对这个问题的完善且全面的答案：
'DEQUANTIZE'是TensorFlow中的一个操作符，用于将量化的张量转换为浮点数张量。量化是一种将浮点数张量转换为整数张量的技术，可以在计算过程中减少内存占用和计算量，提高模型的推理速度。而'DEQUANTIZE'操作则是将量化的张量重新转换为浮点数张量，以便进行后续的计算和处理。
然而，在TensorFlow 2.x版本中，目前还不支持对'DEQUANTIZE'操作进行量化。这意味着在使用TensorFlow 2.x进行模型训练和推理时，无法对量化的张量进行'DEQUANTIZE'操作。这可能会对一些需要使用浮点数张量进行计算和处理的场景造成一定的限制。
尽管如此，TensorFlow 2.x仍然提供了丰富的量化支持和工具，可以帮助开发者在模型训练和推理过程中实现更高效的计算和内存管理。例如，TensorFlow提供了Quantization Aware Training（QAT）技术，可以在训练过程中模拟量化操作，以便更好地优化模型的推理性能。此外，TensorFlow还提供了一些量化相关的API和工具，如tf.lite和tfmot，用于模型量化和优化。
对于想要在TensorFlow 2.x中进行量化操作的开发者，建议参考TensorFlow官方文档中关于量化的指南和教程，以了解更多关于量化的知识和最佳实践。以下是一些相关的腾讯云产品和产品介绍链接，可以帮助开发者更好地使用TensorFlow进行量化：
- 腾讯云AI加速器（AI Accelerator）：腾讯云提供的AI加速器产品，可以帮助开发者在云端和边缘设备上加速深度学习推理任务，包括量化推理。 产品介绍链接：https://cloud.tencent.com/product/ai-accelerator
- 腾讯云AI推理（AI Inference）：腾讯云提供的AI推理服务，支持常见的深度学习框架和模型，包括TensorFlow，可以帮助开发者快速部署和运行量化模型。 产品介绍链接：https://cloud.tencent.com/product/ai-inference
请注意，以上链接仅供参考，具体的产品和服务选择应根据实际需求和情况进行。
相关·内容
我在一个resnet模型上使用keras进行QAT，我在转换到tflite全整数模型时遇到了这个问题。我已经尝试了最新版本的tf-nightly，但它不能解决问题。在QAT中，我使用量化标注模型进行批量归一化量化 ? 下面是我用来转换模型的代码： converter = tf.lite.TFLiteConverter.from_keras_model(layer)
def representative_dataset_genERROR: Node number 3 (DEQ
浏览 92提问于2020-08-28得票数 2
回答已采纳
1回答
我有一个想要用作自定义MLKit模型的.pb模型。MLKit只支持.tflite模型，但即使在我使用toco获取TensorFlow精简模型之后，文件大小对Firebase来说也太大了(95MB，只允许40MB)。有没有一种方法可以量化图形，然后转换为TFLite或量化.tflite图形？当我执行前者时，我得到以下错误消息：Unsupported TensorFlow op: Dequantize) for which the qua
浏览 1提问于2018-06-19得票数 3
:1172]转换不支持的操作: Dequantize 2018-03-01 23:12:03.355921: i tensorflow/contrib/lite/toco/import_tensorflow.cc:1172]转换不支持的操作: Dequantize 2018-03-01 23:03.356281: tensorflow/contrib/lite/to
浏览 0提问于2018-03-02得票数 3
回答已采纳
使用Tensorflow 1.6.0toco --input_format=TENSORFLOW_GRAPHDEF -mean_values=128 --std_values=128 --d获取以下错误：
未实现:此图包含一个类型的运算符(不支持的TensorFlow<
浏览 3提问于2018-05-03得票数 0
我一直在学习如何在TensorFlow 2.x上使用TFLiteConverter进行量化，但是我正在TensorFlow 1.13上实现一个项目，我想知道如何在这个版本上做同样的事情。例如，据我所观察到的，下面的命令做同样的事情converter.post_training_quantize = True
converter.optimizations= [tf.lite.Optimize.O
浏览 2提问于2020-04-02得票数 0
回答已采纳
1回答
将值反量化为量化前的原始值
、、、、
论文“利用小型前馈网络进行自然语言处理”https://arxiv.org/pdf/1708.00214.pdf指出： ? 我已经在python中按照上面的等式实现了量化： b = 128
(1999999, 255), (1999999, 255), (3000, 147),
浏览 29提问于2020-06-18得票数 4
回答已采纳
1回答
Android平台上的基准量化
、、、、
我一直在用benchmark_model测试Exynos7420上的tensorflow模型。我想加快每一个的量化测试，但是还不能用量化工具编译benchmark_model，因为它们破坏了很多东西。我遵循了这个中列出的指导方针 deps = [":benchmark_model_lib",/t
浏览 0提问于2016-09-21得票数 1
我想将整数量化的tflite模型转换为Tensorflow中的冻结图 (.pb)。我在StackOverflow上阅读并尝试了许多解决方案，但都没有奏效。具体来说，toco不起作用(output_format不能是TENSORFLOW_GRAPHDEF)。我的最终目标是通过 tf2onnx 获得一个量化的ONNX模型，但是tf2onnx不支持tflite作为输入(只支持saved_model、检查点和graph_de
浏览 3提问于2020-07-20得票数 3
亲爱的开发人员和神经网络爱好者，我已经量化了一个模型(8位训练后量化)，我正在尝试使用tflite interprter对结果模型进行推理。在某些情况下，解释器可以正常运行，我可以像预期的那样对量化模型进行推断，输出足够接近原始模型。因此，我的设置似乎是正确的。然而，根据具体的量化模型，我经常偶然发现以下RuntimeError。_interpreter.Allo
浏览 1提问于2020-07-01得票数 2
我引用了这个tensorflow站点来使用整数量化进行转换. RuntimeError:未支持op：“自定义”的量化。代码：import numpy as np
for input_value in
浏览 6提问于2021-04-20得票数 0
我还没有看到任何关于Windows兼容性的东西--如果我付出一些努力的话，这是正在进行中的，还是目前在某个地方可以获得的呢？(我有一个Mac和一个Ubuntu盒，但Windows机器是一台带有离散显卡的机器，我目前使用的是theano)。
浏览 6提问于2015-11-09得票数 61
回答已采纳
Tensorflow有大量的转换，可以应用到表示图像(高度、宽度、深度)的3D张量，例如tf.image.rot90()或tf.image.random_flip_left_right()。我知道它们是与队列一起使用的，因此它们只对一个映像进行操作。但是，是否有一种方法可以将运算矢量化，将四维张量(batch_size、高度、宽度、深度)沿一维方向变换为同尺寸张量，而不必用tf.while_loop()对它们进行明确的循环。(编辑:关
浏览 0提问于2016-11-07得票数 5
回答已采纳
我遵循这个是为了将我的图形量化为8位。我不能在这里分享确切的图形，但我可以说它是一个简单的卷积神经网络。time average [ms] [%] [cdf%] [Op] [Name]
1.198 26.54% 26.54% MatMul fc10/fc10/conv1/Co
浏览 1提问于2016-09-13得票数 0
1回答
TF中的索引操作
、、
在tensorflow中有索引操作的方法吗？特别是，我对使用tf.while_loop的迭代器变量进行索引很感兴趣。c = lambda i: tf.less(i, 10)r = tf.while_loop(c, b, [i])
不幸的是，它不能工作，因为python数组只支持整数索引
浏览 0提问于2018-10-28得票数 1
回答已采纳
2回答
我从Custom Vision下载了一个tensorflow模型，并希望在珊瑚tpu上运行它。因此，我将其转换为tensorflow-lite，并应用混合训练后量化(据我所知，这是唯一的方法，因为我无法访问训练数据)。你可以在这里看到代码：当我尝试为边缘tpu编译它时，我得到了以下结果： INFO: Initialized TensorFlowInvalid model: model.tflite
Mo
浏览 3提问于2019-08-11得票数 2
我的Tensorflow模型大量使用了数据预处理，这些预处理应该在CPU上完成，以便让GPU开放以供训练。我想让这个python进程在所有内核上使用至少90%的可用CPU。如何才能做到这一点？sess = tf.Session(config=tf.ConfigProto(我有一台Intel 9900k和一台RTX 2080
浏览 1提问于2020-08-10得票数 3
我正在与Keras/Tensorflow合作开发一个将被部署到低端MCU的ANN。为此，我使用Tensorflow Lite提供的训练后量化机制对原始ANN进行了量化。如果权重确实量化为int8，则会将偏移从float转换为int32。考虑到我假装在CMSIS-NN中实现这个ANN，这是一个问题，因为他们只支持int8和int16数据。是否可以将TF Lite配置为也将偏差量化为int8？
浏览 18提问于2020-08-07得票数 2
根据，我已经在tensorflow 1中对冻结图进行了再培训。基本上，所描述的方法是：
将variable node.The新替换的变量节点替换为constant frozen node，然后将其重定向到冻结节点的相应输出。这可以在tensorflow 1.x中通过检查tf.compat.v1.trainable_variables来实现。然而，在tensorflow 2.x中，它不能再工作了。for op in d
浏览 1提问于2021-05-26得票数 0
回答已采纳
当涉及到graph_transform工具和toco转换器时，图形转换的区别是什么Toco：
我知道toco也会将运算符转换为tf lite。但是我经常遇到“不支持的操作”的问题。
浏览 2提问于2018-03-22得票数 0
我的目标是在C++应用程序中运行tensorrt优化的tensorflow图。我正在使用tensorflow 1.8和tensorrt 4。使用python api，我能够优化图形并看到良好的性能提升。Make sure the Op and Kernel are registered in the binary running in this process.
其他的，非张量图是有效的。我在python api中也遇到过类似的错误，但通过导入
浏览 3提问于2018-05-02得票数 2
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
实时音视频
对象存储
即时通信 IM活动推荐
腾讯云开发者
