开发者社区

文档建议反馈控制台

最新优惠活动

文章/答案/技术大牛

发布

修改tensorflow保存的模型pb文件，以便使用自定义操作进行推断

，可以通过以下步骤实现：

加载模型：使用tensorflow的tf.saved_model.loader.load函数加载pb文件，并创建一个默认的计算图。
加载模型：使用tensorflow的tf.saved_model.loader.load函数加载pb文件，并创建一个默认的计算图。
获取输入和输出节点：通过查看模型的计算图，确定输入和输出节点的名称。
获取输入和输出节点：通过查看模型的计算图，确定输入和输出节点的名称。
添加自定义操作：在计算图中添加自定义操作节点，并将其连接到需要修改的节点上。
添加自定义操作：在计算图中添加自定义操作节点，并将其连接到需要修改的节点上。
重新保存模型：创建一个新的保存器，并将修改后的计算图保存为新的pb文件。
重新保存模型：创建一个新的保存器，并将修改后的计算图保存为新的pb文件。

通过以上步骤，你可以成功修改tensorflow保存的模型pb文件，以便使用自定义操作进行推断。请注意，以上代码仅为示例，实际操作中需要根据具体情况进行调整。

推荐的腾讯云相关产品：腾讯云AI智能机器学习平台（https://cloud.tencent.com/product/tia）

相关搜索:Sagemaker上的自定义训练Tensorflow :警告在使用tf.function进行正向传递过程中，keras.py:603无法保存图层值 Tensorflow Hub和JS:如何对预先训练好的模型进行微调并将其导出以便在Tensorflow.js中使用？valueerror:在django中生成csv文件并保存到模型时，对关闭的文件进行i/o操作不兼容的形状：[11,768]与[1,5,768] -在生产中使用huggingface保存的模型进行推断使用保存的模型进行TensorFlow推理如何使用tensorflow为BERT SQuAD2.0构建输入以使用保存的模型进行预测如何将tensorflow的word2vec保存为文本/二进制文件，以便稍后使用kNN输出？执行流程详解专有网络互通支持两个网站

相关搜索:

页面内容是否对你有帮助？

有帮助

没帮助

相关·内容

如何将自己开发的模型转换为TensorFlow Lite可用模型

对于开发者来说，在移动设备上运行预先训练好的模型的能力意味着向边界计算(edge computing)迈进了一大步。[译注：所谓的边界计算，从字面意思理解，就是与现实世界的边界。数据中心是网络的中心，PC、手机、监控照相机处在边界。]数据能够直接在用户手机上处理，私人数据仍然掌握在他们手中。没有蜂窝网络的延迟，应用程序可以运行得更顺畅，并且可大幅减少公司的云服务账单。快速响应式应用现在可以运行复杂的机器学习模型，这种技术转变将赋予产品工程师跳出条条框框思考的力量，迎来应用程序开发的新潮流。

04

系列 | OpenVINO视觉加速库使用二

OpenVINO中模型优化器(Model Optimizer)支持tensorflow/Caffe模型转换为OpenVINO的中间层表示IR(intermediate representation)，从而实现对模型的压缩与优化，方便推断引擎更快的加载与执行这些模型。以tensorflow对象检测框架支持的SSD MobileNet v2版本的模型为例，实现从tensorflow的pb文件到IR格式的bin与xml文件生成。全部的过程可以分为三个部分，下面一一解析！

05

【干货】使用TensorFlow官方Java API调用TensorFlow模型（附代码）

【导读】随着TensorFlow的普及，越来越多的行业希望将Github中大量已有的TensorFlow代码和模型集成到自己的业务系统中，如何在常见的编程语言（Java、NodeJS等）中使用TensorFlow成为了一个比较常见的问题。专知成员Hujun给大家详细介绍了在Java中使用TensorFlow的两种方法，并着重介绍如何用TensorFlow官方Java API调用已有TensorFlow模型的方法。专知成员Hujun在以前就写过TensorFlow 1.4 Eager Execution系列

04

面向机器智能的TensorFlow实践：产品环境中模型的部署

在了解如何利用TesnsorFlow构建和训练各种模型——从基本的机器学习模型到复杂的深度学习网络后，我们就要考虑如何将训练好的模型投入于产品，以使其能够为其他应用所用，本文对此将进行详细介绍。文章节选自《面向机器智能的TensorFlow实践》第7章。本文将创建一个简单的Web App，使用户能够上传一幅图像，并对其运行Inception模型，实现图像的自动分类。搭建TensorFlow服务开发环境 Docker镜像 TensorFlow服务是用于构建允许用户在产品中使用我们提供的模型的服务器的工具。

06

Pytorh与tensorflow对象检测模型如何部署到CPU端，实现加速推理

对象检测是计算机视觉最常见的任务之一，应用非常广泛，本文主要给给大家价绍两条快速方便的自定义对象检测模型的训练与部署的技术路径，供大家实际项目中可以参考。

02

解决Keras 中加入lambda层无法正常载入模型问题

当使用lambda层加入自定义的函数后，训练没有bug，载入保存模型则显示Nonetype has no attribute ‘get’

02

使用keras和tensorflow保存为可部署的pb格式

1、在tensorflow绘图的情况下,使用tf.saved_model.simple_save()方法保存模型

04

一个应用于物体识别的迁移学习工具链

迁移学习指的是，通过对预训练模型的参数进行微调，将训练好的模型应用到相似或者只有细微差异的不同任务中。通过这个方法，我们可以基于一些性能顶尖的深度学习模型得到别的高性能模型。尽管听上去较为简单，迁移学习仍然在预处理、搭建和测试上有很多的研究空间。

02

ensorFlow 智能移动项目：6~10

如果图像分类和物体检测是明智的任务，那么用自然语言描述图像绝对是一项更具挑战性的任务，需要更多的智能-请片刻考虑一下每个人如何从新生儿成长（他们学会了识别物体并检测它们的位置）到三岁的孩子（他们学会讲述图片故事）。用自然语言描述图像的任务的正式术语是图像标题。与具有长期研究和发展历史的语音识别不同，图像字幕（具有完整的自然语言，而不仅仅是关键词输出）由于其复杂性和 2012 年的深度学习突破而仅经历了短暂而令人兴奋的研究历史。

02

tensorflow：AToolDeveloperGuideToTFModelFIles

该文章讲述了TensorFlow中GraphDef和SavedModel两个主要文件格式的导出、使用和保存的过程。其中，GraphDef文件格式用于在TensorFlow中导出的图，SavedModel文件格式用于在TensorFlow中保存的模型。通过这些文件格式，可以方便地将TensorFlow模型从一个环境迁移到另一个环境，或在TensorFlow集群中部署。

05

Tensorflow SavedModel模型的保存与加载

这两天搜索了不少关于Tensorflow模型保存与加载的资料，发现很多资料都是关于checkpoints模型格式的，而最新的SavedModel模型格式则资料较少，为此总结一下TensorFlow如何保存SavedModel模型，并加载之。

03

如何查看Tensorflow SavedModel格式模型的信息

在《Tensorflow SavedModel模型的保存与加载》一文中，我们谈到SavedModel格式的优点是与语言无关、容易部署和加载。那问题来了，如果别人发布了一个SavedModel模型，我们该如何去了解这个模型，如何去加载和使用这个模型呢？

01

tensorflow自定义网络结构

自定义层需要继承tf.keras.layers.Layer类，重写init,build,call

01

Tensorflow + OpenCV4 安全帽检测模型训练与推理

如何安装tensorflow object detection API框架，看这里：

02

学习笔记TF066 : TensorFlow 移动端应用，iOS、Android系统实践

TensorFlow对Android、iOS、树莓派都提供移动端支持。移动端应用原理。移动端、嵌入式设备应用深度学习方式，一模型运行在云端服务器，向服务器发送请求，接收服务器响应；二在本地运行模型，

00

tensorflow模型文件(ckpt)转pb文件的方法（不知道输出节点名）

网上关于tensorflow模型文件ckpt格式转pb文件的帖子很多，本人几乎尝试了所有方法，最后终于成功了，现总结如下。方法无外乎下面两种：

03

浅谈tensorflow模型保存为pb的各种姿势

1, 首先我们当然可以直接在tensorflow训练中直接保存为pb为格式，保存pb的好处就是使用场景是实现创建模型与使用模型的解耦，使得创建模型与使用模型的解耦，使得前向推导inference代码统一。另外的好处就是保存为pb的时候，模型的变量会变成固定的，导致模型的大小会大大减小。

02

TensorFlow 智能移动项目：1~5

本章介绍如何设置开发环境，以使用 TensorFlow 构建所有 iOS 或 Android 应用，本书其余部分对此进行了讨论。我们不会详细讨论可用于开发的所有受支持的 TensorFlow 版本，OS 版本，Xcode 和 Android Studio 版本，因为可以在 TensorFlow 网站或通过 Google。相反，我们将在本章中简要讨论示例工作环境，以便我们能够快速了解可使用该环境构建的所有出色应用。

02

实时单人姿态估计，在自己手机上就能实现 : ) 安卓和iOS都可以哦～

GitHub 地址：https://github.com/edvardHua/PoseEstimationForMobile

02

小白也可以操作的手机TensorFlow教程：Android版和iOS版

TensorFlow通常用于训练海量数据，但新兴的智能手机市场也不可忽略。那些不能等待未来和love Machine Learning的人正在通过制造工具来突破界限，他们的目标是拥有数万亿美元的市场。

06

深度学习算法优化系列六 | 使用TensorFlow-Lite对LeNet进行训练时量化

在深度学习算法优化系列三 | Google CVPR2018 int8量化算法这篇推文中已经详细介绍了Google提出的Min-Max量化方式，关于原理这一小节就不再赘述了，感兴趣的去看一下那篇推文即可。昨天已经使用tflite测试了训练后量化，所以今天主要来看一下训练时量化时怎么做的。注意训练中的量化实际上是伪量化，伪量化是完全量化的第一步，它只是模拟了量化的过程，并没有实现量化，只是在训练过程中添加了伪量化节点，计算过程还是用float32计算。然后训练得出.pb文件，放到指令TFLiteConverter里去实现第二步完整的量化，最后生成tflite模型，实现int8计算。

02

Python 数据科学入门教程：TensorFlow 目标检测

你好，欢迎阅读 TensorFlow 目标检测 API 迷你系列。这个 API 可以用于检测图像和/或视频中的对象，带有使用边界框，使用可用的一些预先训练好的模型，或者你自己可以训练的模型（API 也变得更容易）。

03

【技术分享】深入了解tensorflow模型存储格式

做模型的同学基本都会使用tensorflow，不知道大家是否会像我一样对tensorflow的模型存储感到疑惑：各种模型保存的方法、保存出的模型文件名称和结构还不一样、加载模型的时候有的需要重新定义一遍计算图而有的不需要、有的格式tfserving能用有的不能用。这篇文章会带大家了解每个模型文件分别包含什么内容、计算图是以什么样的形式保存在文件中的。

03

tensorflow实现将ckpt转pb文件的方法

本博客实现将自己训练保存的ckpt模型转换为pb文件，该方法适用于任何ckpt模型，当然你需要确定ckpt模型输入/输出的节点名称。

03

终于！谷歌移动端深度学习框架TensorFlow Lite正式发布

选自Google 机器之心编译机器之心编辑部今年 5 月，谷歌曾在 I/O 大会上宣布即将推出 TensorFlow Lite，今日，谷歌终于发布了新工具的开发者预览版本，这是一款 TensorFlow 用于移动设备和嵌入式设备的轻量级解决方案。TensorFlow 可以在多个平台上运行，从机架式服务器到小型 IoT 设备。但是随着近年来机器学习模型的广泛使用，出现了在移动和嵌入式设备上部署它们的需求。而 TensorFlow Lite 允许设备端的机器学习模型的低延迟推断。在本文中，TensorFlo

08

资源 | 微软开源MMdnn：实现多个框架之间的模型转换

选自GitHub 作者：Kit CHEN等机器之心编译参与：路雪、思源近日，微软开源 MMdnn，可用于转换、可视化和诊断深度神经网络模型的全面、跨框架解决方案，目前支持 Caffe、Keras、MXNet、CNTK 等框架。项目地址：https://github.com/Microsoft/MMdnn MMdnn 是一个用于转换、可视化和诊断深度神经网络模型的综合性、跨框架的解决方案。MMdnn 中的「MM」代表模型管理，「dnn」是「deep neural network」（深度神经网络）的缩写

06

震惊！谷歌正式发布移动端深度学习框架TensorFlow Lite

今年 5 月，谷歌曾在 I/O 大会上宣布即将推出 TensorFlow Lite，今日，谷歌终于发布了新工具的开发者预览版本，这是一款 TensorFlow 用于移动设备和嵌入式设备的轻量级解决方案。TensorFlow 可以在多个平台上运行，从机架式服务器到小型 IoT 设备。但是随着近年来机器学习模型的广泛使用，出现了在移动和嵌入式设备上部署它们的需求。而 TensorFlow Lite 允许设备端的机器学习模型的低延迟推断。在本文中，TensorFlow 团队将向我们介绍 TensorFlow Li

08

Keras 使用 Lambda层详解

一，许多应用，keras含有的层已经不能满足要求，需要透过Lambda自定义层来实现一些layer，这个情况下，只能保存模型的权重，无法使用model.save来保存模型。保存时会报

01

tensorflow 2.0模式下训练的模型转成 tf1.x 版本的pb模型实例

升级到tf 2.0后, 训练的模型想转成1.x版本的.pb模型, 但之前提供的通过ckpt转pb模型的方法都不可用(因为保存的ckpt不再有.meta)文件, 尝试了好久, 终于找到了一个方法可以迂回转到1.x版本的pb模型.

02

tensorflow使用freeze_graph.py将ckpt转为pb文件的方法

这节是关于tensorflow的Freezing，字面意思是冷冻，可理解为整合合并；整合什么呢，就是将模型文件和权重文件整合合并为一个文件，主要用途是便于发布。

01

Mask-RCNN模型的实现自定义对象(无人机)检测

打开标注工具PixelAnnotation 选择好dataset路径之后，顺序开始标注数据即可！

04

精通 TensorFlow 2.x 计算机视觉：第三、四部分

在本节中，您将基于从上一节中获得的理解，并开发更新的概念并学习用于动作识别和对象检测的新技术。在本节中，您将学习不同的 TensorFlow 工具，例如 TensorFlow Hub，TFRecord 和 TensorBoard。您还将学习如何使用 TensorFlow 开发用于动作识别的机器学习模型。

02

资源 | 英语不行？你可以试试TensorFlow官方中文版教程

TensorFlow 最近提供了官方中文版教程（Tutorials）和中文版指南（Guide）。其中教程主要介绍了 TensorFlow 的基本概念，以及各种基础模型的简单实现方法，这些模型基本上都是用 Keras 等易于理解的高阶 API 完成。而指南则深入介绍了 TensorFlow 的工作原理，包括高阶 API、Estimator、低阶 API 和 TensorBoard 等。

02

Tensorflow将模型导出为一个文件及接口设置

在上一篇文章中《Tensorflow加载预训练模型和保存模型》，我们学习到如何使用预训练的模型。但注意到，在上一篇文章中使用预训练模型，必须至少的要4个文件：

02

将keras的h5模型转换为tensorflow的pb模型操作

背景：目前keras框架使用简单，很容易上手，深得广大算法工程师的喜爱，但是当部署到客户端时，可能会出现各种各样的bug，甚至不支持使用keras，本文来解决的是将keras的h5模型转换为客户端常用的tensorflow的pb模型并使用tensorflow加载pb模型。

03

谷歌TensorFlowLite正式发布，机器学习框架向移动端大步挺进！

上个月，谷歌正式宣布推出针对移动设备和嵌入式设备的轻量级解决方案 TensorFlow Lite。而在此之前，今年 5 月份的谷歌 I/O 大会上他们已经对此进行了预告。承袭 TensorFlow 在服务器、IoT 设备等平台的良好表现，TensorFlow Lite 的推出将使得移动端的机器学习模型部署得以大范围推广。 📷 模型下载：download.tensorflow.org/models/tflite/smartreply_1.0_2017_11_01.zip 项目代码：https://github

07

干货 | tensorflow模型导出与OpenCV DNN中使用

Deep Neural Network - DNN 是OpenCV中的深度神经网络模块，支持基于深度学习模块前馈网络运行、实现图像与视频场景中的

03

资源 | 英语不行？你可以试试TensorFlow官方中文版教程

现在 TensorFlow 有官方中文版教程啦，以前的英文版 Tutorials 有了对应的中文翻译。各位还在 TensorFlow 门前徘徊的开发者们，现在可以对着中文教程学习各种流行模型啦。

03

TensorFlow固化模型的实现操作

TensorFlow目前在移动端是无法training的，只能跑已经训练好的模型，但一般的保存方式只有单一保存参数或者graph的，如何将参数、graph同时保存呢？

02

深度学习算法优化系列五 | 使用TensorFlow-Lite对LeNet进行训练后量化

在深度学习算法优化系列三 | Google CVPR2018 int8量化算法这篇推文中已经详细介绍了Google提出的Min-Max量化方式，关于原理这一小节就不再赘述了，感兴趣的去看一下那篇推文即可。今天主要是利用tflite来跑一下这个量化算法，量化一个最简单的LeNet-5模型来说明一下量化的有效性。tflite全称为TensorFlow Lite，是一种用于设备端推断的开源深度学习框架。中文官方地址我放附录了，我们理解为这个框架可以把我们用tensorflow训练出来的模型转换到移动端进行部署即可，在这个转换过程中就可以自动调用算法执行模型剪枝，模型量化了。由于我并不熟悉将tflite模型放到Android端进行测试的过程，所以我将tflite模型直接在PC上进行了测试（包括精度，速度，模型大小）。

01

在几分钟内构建强大的可用于生产的深度学习视觉模型

得益于更快的计算，更好的存储和易于使用的软件，基于深度学习的解决方案绝对可以看到从概念验证隧道进入现实世界的曙光！看到深度学习模型已广泛应用于该行业的各个领域，包括医疗保健，金融，零售，技术，物流，食品技术，农业等！考虑到深度学习模型需要大量资源并且经常需要大量计算的事实，因此我们需要暂停片刻，并考虑一下最终用户使用模型时的推断和服务时间。

03

使用Tensorflow对象检测在安卓手机上“寻找”皮卡丘

在TensorFlow的许多功能和工具中，隐藏着一个名为TensorFlow对象探测API（TensorFlow Object Detection API）的组件。正如它的名字所表达的，这个库的目的是训练一个神经网络，它能够识别一个框架中的物体。这个库的用例和可能性几乎是无限的。它可以通过训练来检测一张图像上的猫、汽车、浣熊等等对象。本文将用它来实现皮卡丘的检测。 TensorFlow对象检测API：https://github.com/tensorflow/models/tree/master/resea

05

业界 | 谷歌正式发布TensorFlow 1.5：终于支持CUDA 9和cuDNN 7

选自GitHub 机器之心编译机器之心编辑部昨天，谷歌在 GitHub 上正式发布了 TensorFlow 的最新版本 1.5.0，并开源了其代码。支持 CUDA 9 和 cuDNN 7 被认为是本次更新的最重要部分。机器之心对这次更新的重大改变以及主要功能和提升进行了编译介绍，原文请见文中链接。 GitHub 地址：https://github.com/tensorflow/tensorflow/releases/tag/v1.5.0 源代码（zip）：https://github.com/tenso

06

Spark Love TensorFlow

本篇文章介绍在 Spark 中调用训练好的 TensorFlow 模型进行预测的方法。

03

手把手教你为iOS系统开发TensorFlow应用（附开源代码）

选自machinethink.net 机器之心编译参与：赵华龙、邵明、吴攀、李泽南在你使用深度神经网络做预测之前，你首先要训练神经网络。现在存在许多不同的神经网络训练工具，TensorFlow 正迅速成为其中最热门的选择。近日，独立开发者 Matthijs Hollemans 在 machinethink.net 的博客上发布了一篇讲解如何在 iOS 系统上运行 TensorFlow 的深度长文教程，并开源了相关的代码。机器之心对本文进行了编译介绍。关于 TensorFlow 的更多资讯和教程，请参阅机

09

【深度学习】Tensorflow2.x入门（一）建立模型的三种模式

最近做实验比较焦虑，因此准备结合推荐算法梳理下Tensorflow2.x的知识。介绍Tensorflow2.x的文章有很多，但本文（系列）是按照作者构建模型的思路来展开的，因此不会从Eager Execution开始。另外，尽量摆脱小白文，加入自己的理解。本文约2.7k字，预计阅读10分钟。

03

手把手教程：如何从零开始训练 TF 模型并在安卓系统上运行

本教程介绍如何使用 tf.Keras 时序 API 从头开始训练模型，将 tf.Keras 模型转换为 tflite 格式，并在 Android 上运行该模型。我将以 MNIST 数据为例介绍图像分类，并分享一些你可能会面临的常见问题。本教程着重于端到端的体验，我不会深入探讨各种 tf.Keras API 或 Android 开发。

02

优化NVIDIA GPU性能，实现高效的模型推理

GPU已被证明是加速深度学习和AI工作负载（如计算机视觉和自然语言处理（NLP））的有效解决方案。如今许多基于深度学习的应用程序在其生产环境中使用GPU设备，例如用于数据中心的NVIDIA Tesla和用于嵌入式平台的Jetson。这提出了一个问题：如何从NVIDIA GPU设备获得最佳推理性能？

03

使用TensorFlow的经验分享

本人是一个将要大学毕业的学生，目前就职在中世康恺的AI研发部门，中世康恺是一家服务于医学影像信息化的新型互联网公司，该公司以数字医疗影像为核心, 打造“云+集团+中心”模式。

01

开源 | 基于Metal的机器学习框架Bender：可在iOS上运行TensorFlow模型

选自GitHub 机器之心编译参与：吴攀在正在举行的 WWDC 2017 上，苹果宣布发布了 Metal 2，详情可参阅机器之心的报道《苹果开发者大会 WWDC 2017：首次全面展示苹果的人工

09

扫码

添加站长进交流群

领取专属 10元无门槛券

手把手带您无忧上云

扫码加入开发者社群

相关资讯

热门标签

活动推荐

运营活动

活动名称

广告关闭