首页
学习
活动
专区
圈层
工具
发布

《Scikit-Learn、Keras与TensorFlow机器学习实用指南(第二版)》第19章 规模化训练和部署TensorFlow模型

但随着基础架构扩张,最好是将模型包装在服务中,它的唯一目的是做预测,其它组件查询就成(比如使用REST或gRPC API)。...默认时,TF Serving使用这个端口服务REST API。...Google提供了几个库,用于简化服务访问: Google API Client Library 基于OAuth 2.0和REST。可以使用所有GCP服务,包括AI Platform。...在写作本书的时候,AI Platform还没有客户端库,所以我们使用Google API客户端库。...如果想最快的获得响应(比如,在线游戏)。在客户端做查询肯定能降低延迟,使网站响应更快。 当网站服务是基于一些用户隐私数据时,在客户端做预测可以使用户数据不出用户机器,可以保护隐私。

7.7K20

GCP 上的人工智能实用指南:第三、四部分

请求-响应日志记录:此级别将在线预测请求和响应记录到 BigQuery 表中。 可以使用gcloud命令行以及 REST API 启用这些日志记录级别。...需要使用 REST API 启用它。 可以在创建模型和版本时设置日志记录级别。...该命令使用本地依赖性来预测并以与执行在线预测后的 Google Cloud AI 平台相同的格式返回结果。 测试本地预测将使您能够在计算在线预测请求成本之前发现错误。...)] 图 9.44:在线预测工作流程 您可以使用部署在 Google Cloud Storage 存储桶上的模型作为服务端点公开,并且这些服务端点可以由使用 REST API 或gcloud工具本身的某些应用使用...gcloud工具用于快速测试在线预测。 在实际的生产案例中,您可以使用用 Python 编写的脚本或 cURL 工具来使用 Rest API,从而在已部署的模型版本上公开预测功能。

9.1K10
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    GCP 上的人工智能实用指南:第一、二部分

    当源文本的语言未知时,API 还可促进语言检测。 与其他 AI 服务类似,翻译服务也可用作 REST API,用于在应用内进行编程访问和集成。 在撰写本文时,支持 100 种语言。...在本章中,我们介绍了不同的代码示例,到目前为止,您知道如何使用 Google Cloud AI Platform 提交模型并将这些模型用于预测。...用于模型预测的 REST API 我们可以使用一个简单的 REST API 来使用已部署的模型进行预测: export GOOGLE_APPLICATION_CREDENTIALS=key-file-path...这是两种预测技术所使用的各种设施的副作用。 在创建应用时,AI 平台会分配并初始化批量预测资源。 通常,已准备好在线预测,以便可以在需要时进行处理。 您可以通过这里了解有关在线预测的更多信息。...该 API 可用于实时预测,因为它具有很高的吞吐量和使用底层弹性计算能力的效率,而所有这些功能均由 Google Cloud Platform 启用。

    20.2K10

    使用Kafka在生产环境中构建和部署可扩展的机器学习

    在几种使用情况下,即使批处理事件也很好。例如,在大多数制造业或物联网(IoT)用例进行预测性维护时,您会监控几小时甚至几天的时间窗口,以检测基础设施或设备中的问题。...它使用机器学习算法来构建分析模型。分析模型被部署到流式传输平台。流式传输平台将分析模型应用于新事件以推断结果(即进行预测)。结果发送给数据使用者。...Apache Kafka的Streams API将H2O.ai模型嵌入到Kafka流中 由于Kafka Streams应用程序利用了底层的所有Kafka功能,因此这款新应用程序已准备好进行扩展和关键任务使用...这通常是通过REST接口完成的。...它还避免了与外部REST服务器进行通信以进行模型推断。 结论:使用Streaming Platform将分析模型部署到关键任务部署中 机器学习可以在任何行业创造价值。

    1.7K70

    每周云安全资讯-2023年第53周

    的全域委派功能中发现了一个关键安全问题,攻击者将能够利用该安全问题从Google Cloud Platform(GCP)中获取Google Workspace域数据的访问权。...https://cloudsec.tencent.com/article/bnaVB 3、Google Cloud 修复了一个 Kubernetes 服务权限提升漏洞 Google Cloud 已经解决了其平台中的一个中危安全漏洞...,该漏洞可能被已经有权访问 Kubernetes 集群的攻击者滥用以升级其权限。...https://cloudsec.tencent.com/article/NRF1M 6、GPT-4 API重大漏洞:15个样本微调,一句话生成恶意代码供出私人信息 即便是GPT-4 API「灰盒」也逃不过安全漏洞...谷歌《2024年云网络安全预测》报告强调,未来一年,人工智能日益被用于扩大恶意活动的规模,网络犯罪团伙、0 Day漏洞和现代网络钓鱼将是三种主要的攻击途径。

    33610

    GPT动作中的数据检索

    这些提供商通常提供REST API,使外部系统能够搜索和检索信息。当构建一个与提供商的REST API集成的动作时,请首先查阅现有文档。...当构建一个与关系数据库集成的动作时,有几件事情需要记住:REST API的可用性许多关系数据库不会原生暴露用于处理查询的REST API。...数据库权限尽管数据库支持用户级权限,但您的最终用户可能不具有直接访问数据库的权限。如果选择使用服务帐户提供访问权限,请考虑给服务帐户只读权限。这可以避免意外覆盖或删除现有数据。...在构建与向量数据库集成的动作时,有几件事情需要记住:REST API的可用性许多关系数据库不会原生暴露用于处理查询的REST API。...这意味着您需要使用嵌入式API将查询输入转换为向量嵌入,然后才能将其提交给向量数据库。最好在REST API网关中处理此转换,以便GPT可以提交纯文本查询字符串。

    1.1K10

    基于平台内通信渠道的钓鱼攻击机制与防御策略研究——以Booking.com事件为例

    2025年10月,英国游客Steve Alderson在使用Booking.com预订葡萄牙住宿后,于平台内置消息系统中收到一条看似来自酒店方的“付款验证”通知,并被引导至仿冒支付页面,最终损失逾1800...攻击者一旦获得管理员权限,即可读取所有预订记录及旅客联系方式,并通过API向特定订单发送自定义消息。...例如,某PMS的REST API若未对/api/v1/messages/send接口实施严格的身份绑定与速率限制,攻击者可构造如下请求:POST /api/v1/messages/send HTTP/1.1Host...可集成Google Safe Browsing API:import requestsdef is_malicious_url(url):api_key = "YOUR_API_KEY"payload...4.3 商户层:PMS安全加固最小权限原则:PMS API密钥应仅授予必要权限(如只读预订信息,禁止发送消息)。日志审计与告警:记录所有消息发送事件,对非工作时间、高频发送或含外部链接的操作实时告警。

    18610

    2025 电商 API 接口全解析:从接入到实战的通用指南

    2025 年新增趋势:API 与 AI 深度融合,如淘宝ai_tag商品标签、京东real_time_compare比价字段,帮助开发者快速获取决策数据。2...."url": "https://eco.taobao.com/router/rest", "fields": "num_iid,title,price,stock,ai_tag"...2025 年新增要求:京东、1688 回调通知均支持HTTPS强制加密,HTTP 地址将直接拒绝推送。四、2025 年电商 API 高频避坑策略(跨平台通用)1....常见原因:时间戳与平台服务器偏差超 5 分钟(淘宝 / 京东均严格限制);参数排序错误(如 “app_key” 排在 “method” 之后,需按 ASCII 升序);AppSecret 暴露在前端代码(被恶意调用导致权限泄露...五、2025 年电商 API 合规要点(避免封号)各平台对 API 使用的合规要求趋严,以下行为将直接导致账号处罚(封号 / 权限回收):数据滥用:商品 / 订单数据用于 “恶意比价”“竞价排名” 等竞争场景

    51110

    Android Q 开发者常见问题 | FAQ・第二期

    当您发布 Android App Bundle 文件到 Google Play 时,如果 Google Play 分析并发现任何一个可能设备的下载包超过 150MB 时,将会拒绝这个 App Bundle...关于 App Bundle 的介绍,请参阅: developer.android.google.cn/platform/te… Q: 2019 年 8 月 1 号开始没有支持 64 位的在线应用,64...A: 支持使用常规系统映像 (GSI) 的设备需要满足以下条件: 完全的 Treble 支持;可解锁 bootloader;停用 Android 启动时验证 (Verify Boot)。...为了提高用户的透明度,Android Q 对这些功能加上了地理位置权限的要求。开发者可以使用系统的对话框来选择 Wi-Fi 热点。...Wi-Fi network connection API Wi-Fi network suggestion API 其他 Q: 关于应用内存的分析,有什么好的工具或者方法吗?

    61210

    【claude code】claude code News | 10月23日速递

    Code,使开发人员无需终端或命令行即可使用AI编程助手。...❤ Jules Coding Agent升级 - 新增CLI和API选项 Google的编程助手Jules迎来重要更新 Jules现在提供了新的工具和API选项,最初Jules仅以Web界面形式提供,与...Coinbase Developer Platform开发的Payments MCP,通过给予AI Agent与人类相同的链上金融工具,从钱包和入金渠道到稳定币支付,所有这些都可通过自然语言访问,扩展了这一愿景...,该交易将为这家人工智能公司提供额外的计算能力和对谷歌TPU(张量处理单元)的访问权限。...据报道,Atlas浏览器将这些功能联系在一起,创造了一个AI不仅回答问题,而且记住、预测并整合到你在线所做的一切中的体验。 今日小结 今天的AI新闻真是精彩纷呈!

    15310

    数据目录构建哪家强?腾讯云TCHouse-X一站式方案深度评测

    正文 一、为什么数据目录突然成了刚需 规模爆炸:PB级湖仓,表、分区、字段、血缘指数级增长; 合规收紧:2025年《数据要素X行动》要求“可溯源、可分类、可分级”; AI落地:大模型训练需要精确的特征血缘与质量评分...元数据API 标准JDBC/REST Glue API REST+Pub/Sub OpenAPI...计费方式 元数据免费,计算按CU时;官网8月首月1折 Glue API按调用 元数据免费,扫描按量 按DataWorks套餐 最新活动(...一体化架构:湖仓元数据自动归一 官网描述:“高吞吐离线+低延时在线混合负载,替代多种拼装组件”。...• 券商B:利用TCHouse-X目录API对接内部审批系统,权限申请审批时间从2天压缩到2小时,合规检查100%自动化。

    32410

    8.寻光集后台管理系统-用户管理(增删改查)

    然后权限之类的限制策略才可以使用这些凭证来确定是否应该允许请求。 身份验证始终在视图的最开始运行,在权限和限制检查发生之前,在任何其他代码被允许继续之前。...REST框架提供多种开箱即用的身份验证方案,后面项目实战时,我们再讨论。 权限验证 与身份验证,限流一起,权限决定是否应该授予或拒绝访问请求。...权限用于授予或拒绝不同类别的用户访问 API 的不同部分。 最简单的权限样式是允许任何经过身份验证的用户访问,而拒绝任何未经身份验证的用户访问。 如何确定权限 DRF中权限始终定义为权限列表。...当权限检查失败时,将根据以下规则返回“403 Forbidden”或“401 Unauthorized”响应: 请求已成功验证,但权限被拒绝。— 将返回 HTTP 403 Forbidden 响应。...注意只有在使用通用视图或视图集时,分页才会自动执行。如果你使用一个常规的APIView,你需要自己调用分页API来确保你返回一个分页的响应。

    2.4K30
    领券