前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >专栏 >【知识图谱系列】动态时序知识图谱EvolveGCN

【知识图谱系列】动态时序知识图谱EvolveGCN

作者头像
Houye
发布于 2020-12-29 06:41:29
发布于 2020-12-29 06:41:29
4.8K0
举报
文章被收录于专栏:图与推荐图与推荐

EvolveGCN (AAAI 2020) 分享

EvolveGCN汇报ppt版可通过关注公众号后回复关键词:EvolveGCN 来获得,供学习者使用!

背景知识

在上一篇CompGCN中讲解了异质知识图谱在处理复杂实体间多关系类型的方案。本篇分享知识图谱落地时另一重要场景:动态时序知识图谱,下面先给出动态时序知识图谱的基本概念,方便还不熟悉的同学有一个更好的理解。

首先知识图谱本质上就是一个语义网络,由节点Node和边Edge构成,每个Node表示现实世界中存在的实体Entity,而每条边表示实体与实体之间的关系。简单来说,知识图谱就是把所有不同种类的信息连接在一起而得到的关系网络,比如社交网络。由于这种关系网络会随着时间推移,实体以及实体间的关系会不断变化,为了全面获取知识,搭建动态知识图谱,在知识图谱数据中加入时间维度,利用时序分析技术和图相似性技术,分析图谱结构随时间的变化和趋势,从而掌握到关键信息。

上图展示了一下动态图谱,节点和边的颜色代表不同种类,可以看出图谱从时刻t到时刻t+1,图谱的结构有明显变化。比如金融动态知识图谱,学习到图谱间的时序信息便显得十分重要,本篇便介绍AAAI 2020的一篇解决动态图谱的模型EvolveGCN,EvolveGCN思路较为创新但不是目前SOTA的方案,之后会陆续分享TGAT此类解决动态时序图谱的方案。

Motivation

在介绍EvolveGCN之前,对于动态时序图谱,试想一下:我们是不是可以对每个时刻t的图谱用GCN进行建模学习得到Node Embedding,再使用RNN将不同时刻的Node Embedding串联起来学习动态特性,这貌似是一种较为直接简单的方案。但仔细思考,此方案会要求每个时刻node都必须存在,但在有些场景下,每个时刻的Node存在不同。因此EvolveGCN思路便是用RNN去演化每个时刻GCN模型的参数,而不是用RNN串联Node Embedding。

Method

下图便是EvolveGCN模型图,为了实现动态学习主要注意以下三点:

1、每个时间片单独学习一个GCN,每个GCN输入不同体现在图谱的邻接矩阵不同,但在代码实现时必须要求每个时刻的节点是保持一致的,而节点之间的关系存在变动;

2、为了考虑动态图谱联系,用RNN将每个时间片GCN模型参数串起来进行序列学习

3、RNN循环网络采用两种:GRU,LSTM

实现方案一:EvolveGCN-H

EvolveGCN-H版本使用GRU对参数进行串联学习,GUR模型的隐藏状态使用上一时刻的参数

,而GRU的输入当前时刻的节点表征

,更新公式为:

因此Node Embedding

和参数

的更新公式为:

实现方案二、EvolveGCN-O

EvolveGCN-O版本使用LSTM对参数进行串联学习,LSTM模型的隐藏状态使用上一时刻的参数

,同时其输入也是用上一时刻参数的

,更新公式为:

因此Node Embedding

和参数

的更新公式为:

EvolveGCN-H和EvolveGCN-O版本对比

1、串联参数使用的RNN模型不同,EvolveGCN-H使用的是GRU,而EvolveGCN-O使用的是LSTM;2、因为EvolveGCN-O在参数更新时没有使用,因此nodefeature是非常有用时例如人工处理得到的,那使用EvolveGCN-H版本,如果Node feature在图谱结构中不是很重要便可采用EvolveGCN-O版本。

Conclusion

1、实验结果(Link Prediction)

(1)对于数据集SBM、UCI和AS,至少有一个版本的EvolveGCN可以获得最佳结果;

(2)对于数据集BC-OTC和BC-Alpha,EvolveGCN优于GCN和GCN-GRU,但低于DynGEM和Dyngraph2vec

本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2020-12-21,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 图神经网络与推荐系统 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
暂无评论
推荐阅读
编辑精选文章
换一批
Custom Runtime - 打破云函数语言限制
| 导语 本文主要介绍腾讯云Serverless SCF云函数中Custom Runtime怎样解锁语言限制,以及通过实例说明如何使用SCF Custom Runtime。 引言 SCF作为腾讯云Faas核心产品,支持javascript, python, php, java, go等多语言函数。但是,在实际使用过程中。我们从用户方面发现以下问题: - 更多语言支持。我们时常会收到来自内外的各种关于编程语言的咨询,比如SCF是否支持dotnet, rust, deno甚至C等多种语言环境 - 关于现有语
腾讯大讲堂
2020/09/02
1.6K0
Serverless + Deno!极速上线女友嘘寒问暖 Bot
作者:胡琦 | GitHub:hu-qi/deno-serverless 很久很久没有提笔写东西了,也意味着很久很久没有瞎折腾 Copy 大法了。我是谁?我是谁并不重要,江湖肯定没有 Copy 攻城狮的传说,不过,也许这是一篇真情露出的踩坑文。以前,听说过「If I have seen further,it is by standing on the shoulders of giants.」,而此刻我正站在 Ryan Dahl[1] 和 乂乂又又[2]的肩膀上,体验万物皆可 Serverless 的 S
腾讯云serverless团队
2020/12/11
9110
深度好文:云函数 SCF + KonaJDK11 + Spring + 提速降存一把梭
一、背景 腾讯 KonaJDK 团队最近对外开源了KonaJDK11, 该版本 JDK 是经过内部超大规模生产环境验证的定制 JDK,该版本在启动性能、峰值性能以及事物处理能力方面,相对于前一版本 Kona JDK8 都有了综合性提升,沉淀了腾讯云与大数据团队在大数据/机器学习、云原生场景下的深度优化,并且通过了 JCK 验证,确保充分的 Java SE 标准兼容。通过工业标准 Benchmark 表明,Kona JDK11 对比 Kona JDK8 大多数场景在峰值性能上具有非常明显的提升,个别性能提升
腾讯云serverless团队
2021/03/25
1.1K0
云函数 SCF 支持容器镜像交付 - 赋能应用 Serverless 化
01. FaaS 产品与容器生态的结合 容器镜像已成为云原生时代标准的交付物,并且有其强大的生态来解决 CICD、存储、编排等实际需求。云函数 SCF 从设计之初即是基于云原生架构的 FaaS 产品,同时也是 Serverless 思想的最佳产品化体现之一。在 Runtime 层支持自定义容器镜像后,意味着产品形态整体向容器化生态迈出了第一步。 一方面,解决函数运行时的环境依赖问题,给予用户更大的自由发挥空间;另一方面,产品形态层面的呈现使得用户无需受困于 Kubernetes 集群管理、安全维护、
腾讯云serverless团队
2021/06/03
1.6K0
部署基于 WebAssembly 的高性能 Serverless 云函数
使用容器镜像交付是云原生时代的重要特征,这不仅体现在企业内部应用中,也体现在公有云的 Serverless 云函数中。腾讯云 Serverless 云函数日前上线了「容器镜像交付」的功能,相较于传统 Serverless,容器镜像交付有着明显的好处:它解决了环境依赖的问题,使 Serverless 更加通用,拓展了 Serverless 的能力。 具体来说,容器镜像使得 Serverless 云函数不但能支持预设的 Node.js、Python 这些 Runtimes,而且也能支持机器码二进制程序(Nat
腾讯云serverless团队
2021/08/17
2K0
万物皆可 Serverless 之关于云函数冷热启动那些事儿
本文带大家来了解一下云函数的冷热启动过程,以及面对云函数这种冷热启动模式,开发者需要注意哪些问题。 效果展示 云函数被第一次调用(冷启动) 云函数被第一次调用(冷启动) 云函数被多次连续调用(热启动) 云函数被多次连续调用(热启动) 云函数的冷、热启动模式 先跟大家讲下这里的云函数冷热启动模式是什么意思。 冷启动是指你在服务器中新开辟一块空间供一个函数实例运行,这个过程有点像你把这个函数放到虚拟机里去运行,每次运行前都要先启动虚拟机加载这个函数,这是比较耗时的一个过程,所以云函数需要尽量减少自身冷
腾讯云serverless团队
2020/06/17
1.4K0
【玩转腾讯云】万物皆可Serverless之关于云函数冷热启动那些事儿
然后我们再来看一下腾讯云云函数文档里的简介 https://cloud.tencent.com/document/product/583/9199
乂乂又又
2020/04/23
1.8K0
【玩转腾讯云】万物皆可Serverless之关于云函数冷热启动那些事儿
Serverless 可观测性升级,云函数支持应用性能观测 APM
01. 云函数 + APM,进一步提升 Serverless 可观测性 Serverless 产品免运维、弹性扩缩容的产品特性,意味着由平台来进行请求的调度、资源的分发,也意味着用户在进行问题定位、异常排查时需要依赖平台提供的可观测性功能。腾讯云 Serverless 云函数 SCF 在可观测性上,已经与日志服务合作提供了专业可靠的日志功能,与云监控团队合作提供了指标丰富的监控功能。 对于具有更细粒度、更定制化的可观测性诉求的场景,近日 云函数 SCF 与腾讯云应用性能观测 APM 团队合作,推出了云函数
腾讯云serverless团队
2021/12/18
8120
基于腾讯云的 Rust 和 WebAssembly 函数即服务
腾讯云云函数 (SCF) 已经支持十多种编程语言和运行时框架。腾讯云最近发布的 SCF custom runtime(自定义运行时)更进一步 —— SCF 现在可以支持用任何编程语言编写的函数。 本文将介绍如何在云函数 SCF 中运行用 Rust 编写的 WebAssembly 函数。 我们先介绍一些基本概念,然后回顾一个完整但简单的 hello world 示例,部署您的第一个 WebAssembly 无服务器函数。最后,我们将用一个机器学习即服务 (MLaaS) 示例来做一些有用的事情。该示例接受数据
腾讯云serverless团队
2020/09/02
4.7K1
腾讯云云函数助力有赞云构建 Serverless 平台
腾讯云云函数 X 有赞云合作背景 有赞云的有容器应用主要以容器开发模式为主,对于大客定制项目,整体的开发周期较长,大量时间花在前后端联调测试阶段,项目交付效率急需提升,希望尝试全栈敏捷的开发模式。 另一方面,生态开发者目前的插件功能相对简单独立,希望可以尝试更轻量级的开发模式来提升研发和维护的效率。 此外,有赞的大客商家举行大型活动时都需要和有赞云报备,有赞云和三方一起评估稳定性方案后才能上线,希望可以通过新的技术降低开发者和云平台的运维成本。 有赞云 Serverless 平台技术选型 有赞云在
腾讯云serverless团队
2022/03/24
2K0
使用 Custom Runtime 拓展云函数编程语言 | 在线分享第十一期
云函数 SCF 是腾讯云为企业和开发者们提供的无服务器执行环境,帮助大家在无需购买和管理服务器的情况下运行代码。 云函数 SCF 已经支持了 Python、Node.js、PHP、Golang、Java 等语言,为了满足更多个性化开发语言及版本的函数实现,提供了 Custom Runtime 服务,即可定制化运行环境。 通过开放实现自定义函数运行时,支持根据需求使用任意开发语言(例如:Dart、Rust、Ruby )的任意版本来编写函数,并实现函数调用中的全局操作,如扩展程序的加载,安全插件,监控 age
腾讯云serverless团队
2020/11/18
8780
serverless从入门到实践总结篇
虚拟主机已经是快被淘汰掉的上一代产物了。云计算涌现出很多改变传统 IT 架构和运维方 式的新技术,比如虚拟机、容器、微服务,无论这些技术应用在哪些场景,降低成本、提升 效率是云服务永恒的主题。Serverless 的出现真正的解决了降低成本、提升效率的问题。它真正做到了弹性伸缩、高并发、按需收费、备份容灾、日志监控等。
前端进阶之旅
2022/07/04
4.5K1
serverless从入门到实践总结篇
在腾讯云云函数计算上部署.NET Core 3.1
云厂商(腾讯云、Azure等)提供了Serverless服务,借助于Serverless,开发人员可以更加专注于代码的开发,减少运维的成本。腾讯云的函数计算提供了很多运行库,对.NET的支持需要通过custom runtime 来支持,可以支持任何版本的.NET Core,也就是需要自定义runtime,需要使用到函数计算的custom runtime功能,具体参见https://cloud.tencent.com/document/product/583/47274。 本文主要介绍一下使用ASP.NET CORE 3.1部署在腾讯云Serverless(函数计算)的内容。
张善友
2020/09/12
1.5K0
发布更新|腾讯云 Serverless 产品动态 20200827
一、云函数 SCF 提供 Custom Runtime 功能正式发布 发布时间: 2020-08-05 产品背景: 在云函数 SCF 已支持的开发语言及版本的标准运行环境外,从开发语言的⻆度,开发者可以根据需求使用任意开发语言的任意版本来编写函数;从函数运行时周期的⻆度,开发者之前无法在函数调用中实现的全局操作得以实现,如扩展程序的加载,安全插件,监控 agent 等。 产品功能 云函数 SCF 提供了 Custom Runtime ,可定制化运行环境,通过将函数运行时开放自定义实现,开发者可以根据需求使
腾讯云serverless团队
2020/08/28
1.2K0
云函数SCF运行出现响应超时问题排查
云函数(Serverless Cloud Function,SCF)是腾讯云为企业和开发者们提供的无服务器执行环境,帮助您在无需购买和管理服务器的情况下运行代码。您只需使用平台支持的语言编写核心代码并设置代码运行的条件,即可在腾讯云基础设施上弹性、安全地运行代码。SCF 是实时文件处理和数据处理等场景下理想的计算平台。
邓愉悦
2020/10/23
2.7K0
Serverless实践系列(六):云函数+API,告知天气信息
首先想要说一下,为什么要把云函数与API网关进行结合? 我们通常用云函数SCF写一个函数应用,这个函数应用可能多种多样,例如之前介绍的包括OJ系统的判题功能、通过NLP实现文本摘要功能......那么,怎么把这些功能简单快速的结合到实际项目中,尤其是Web项目中呢?本文通过一个简单的小例子实现云函数SCF与API网关的结合,算作抛砖引玉,希望大家在自己的Web项目中,可以通过SCF+API网关实现更多功能。 任务说明 通过SCF编写一个两个爬虫程序,分别是通过IP地址获得IP归属地信息、通过地址获得天气
腾讯云serverless团队
2019/08/08
1.9K0
Serverless实践系列(六):云函数+API,告知天气信息
【Web Function】云函数 vapor 基础部署流程
https://github.com/VineFiner/ciam-hello.git
Vine
2021/12/12
6840
传统框架部署到 Serverless 架构的利与弊
Serverless 是一个比较新的概念、架构,让开发者放弃之前的开发习惯、放弃现有的 Express、Koa、Flask、Django 等框架,无缝转向 Serverless 架构,显然是不可能的,必须得有一段过渡和适应的时间。在这段时间内,开发者需要思考是否可以将现有的框架部署到 Serverless 架构上?如果要部署,如何才能顺利上云呢?
腾讯云serverless团队
2020/06/15
9520
入门 Serverless:如何实现 Hello World?
近年来,IT 技术的更新迭代速度非常快,每个时间点都有典型的代表名词以及概念,就目前而言,人工智能领域中的机器学习、深度学习、强化学习等名词和概念就非常热,同时区块链、物联网等技术发展也是异常火热。在云计算领域,有这样一个技术被众多云厂商认为是“风口项目”,甚至可以颠覆现有云计算中的某些格局,为此包括 AWS、谷歌以及腾讯云、阿里云等在内的云厂商,都为此投入了重大人力以及精力进行相关产品建设,它就是 Serverless 技术。 自 2006 年 8 月 9 日,Google 首席执行官埃里克·施密特(E
腾讯云serverless团队
2020/04/09
2.1K1
云函数 SCF Node.js Runtime 最佳实践
腾讯云云函数最近新发布了 Node.js 12.16 的 runtime,也是国内首家支持 Node.js 12.x 的主流云服务商。
腾讯云serverless团队
2020/05/20
2K0
推荐阅读
相关推荐
Custom Runtime - 打破云函数语言限制
更多 >
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档