清华刘知远：知识指导的自然语言处理

THU数据派

来源：专知

自然语言处理是实现人工智能、通过图灵测试的关键。虽然目前深度学习在自然语言处理上取得了巨大的突破，对自然语言的深度理解仍需要复杂知识的支持，来实现从理解字面意思到言外之意的跃迁。本文介绍清华大学刘知远老师的《知识指导的自然语言处理》。

深度学习在自然语言处理取得了巨大图谱，它能够高效学习多粒度语言单元间复杂语义关联。但是仅仅依靠深度学习并不能完成对自然语言的深度理解。对自然语言的深度理解需要从字面意义到言外之意的跃迁，这需要引入复杂知识的支持。

HowNet等知识库通过人工标注的方式积累了大量的知识，通过深度学习+知识图谱这种双向驱动的自然语言处理技术和体系，可以充分发挥深度学习和知识库的作用，更深层次地理解自然语言。

《知识指导的自然语言处理》主要内容如下：

• 自然语言处理与AI
• 数据驱动的自然语言处理：深度学习
• 自然语言的特点与技术挑战
• 表示学习
• 深度学习+知识图谱 双向驱动的自然语言处理技术体系
• 语言知识库
• HowNet
• 深度学习与HowNet
• 融合义原知识的词义表示学习
• 融合义原知识的神经语言模型
• 基于语义表示学习的义原推荐
• 义原只是计算相关论文
• 世界知识库
• 知识表示学习
• 世界知识的分布式表示学习
• 知识指导的实体细粒度分类
• 知识知道的神经网络文档排序
• 知识指导的预训练语言模型
• 世界知识指导自然语言处理相关论文
• 知识获取
• 神经网络知识获取技术
• 高效鲁棒的知识获取技术
• 开源工具

刘知远主页：

http://nlp.csai.tsinghua.edu.cn/~lzy/

完整版PPT下载链接（清华内网）：

http://nlp.csai.tsinghua.edu.cn/~lzy/talks/2019_knowledge_guided_nlp_cn.pdf

PPT预览：