首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    CVPR 2021 | 用于文本识别的序列到序列对比学习

    今天给大家介绍的是以色列科技大学Aviad Aberdam等人发表在CVPR2021上的一篇文章 ”Sequence-to-Sequence Contrastive Learning for Text Recognition”。作者在这篇文章中提出了一种用于视觉表示的序列到序列的对比学习框架 (SeqCLR)用于文本识别。考虑到序列到序列的结构,每个图像特征映射被分成不同的实例来计算对比损失。这个操作能够在单词级别从每张图像中提取几对正对和多个负的例子进行对比。为了让文本识别产生有效的视觉表示,作者进一步提出了新的增强启发式方法、不同的编码器架构和自定义投影头。在手写文本和场景文本数据集上的实验表明,当文本解码器训练学习表示时,作者的方法优于非序列对比方法。此外,半监督的SeqCLR相比监督训练显著提高了性能,作者的方法在标准手写文本重新编码上取得了最先进的结果。

    03

    《Scikit-Learn与TensorFlow机器学习实用指南》 第14章 循环神经网络

    击球手击出垒球,你会开始预测球的轨迹并立即开始奔跑。你追踪着它,不断调整你的移动步伐,最终在观众的掌声中抓到它。无论是在听完朋友的话语还是早餐时预测咖啡的味道,你时刻在做的事就是在预测未来。在本章中,我们将讨论循环神经网络 -- 一类预测未来的网络(当然,是到目前为止)。它们可以分析时间序列数据,诸如股票价格,并告诉你什么时候买入和卖出。在自动驾驶系统中,他们可以预测行车轨迹,避免发生交通意外。更一般地说,它们可在任意长度的序列上工作,而不是截止目前我们讨论的只能在固定长度的输入上工作的网络。举个例子,它们可以把语句,文件,以及语音范本作为输入,使得它们在诸如自动翻译,语音到文本或者情感分析(例如,读取电影评论并提取评论者关于该电影的感觉)的自然语言处理系统中极为有用。

    02

    【技术白皮书】第三章 - 2 :关系抽取的方法

    由于传统机器学习的关系抽取方法选择的特征向量依赖于人工完成,也需要大量领域专业知识,而深度学习的关系抽取方法通过训练大量数据自动获得模型,不需要人工提取特征。2006年Hinton 等人(《Reducing the dimensionality of data with neural networks》)首次正式提出深度学习的概念。深度学习经过多年的发展,逐渐被研究者应用在实体关系抽取方面。目前,研究者大多对基于有监督和远程监督2种深度学习的关系抽取方法进行深入研究。此外,预训练模型Bert(bidirectional encoder representation from transformers)自2018年提出以来就备受关注,广泛应用于命名实体识别、关系抽取等多个领域。

    03

    ACL2016最佳论文:CNN/日常邮件阅读理解任务的彻底检查

    摘要 NLP尚未解决的核心目标是,确保电脑理解文件回答理解问题。而通过机器学习系统,解决该问题的一大阻碍是:人类-注释数据的可用性有限。Hermann等人通过生成一个超过百万的实例(将CNN和日常邮件消息与他们自己总结的重点进行配对)来寻求解决方案,结果显示神经网络可以通过训练,提高在该任务方面的性能。本文中,我们对这项新的阅读理解任务进行了彻底的检测。我们的主要目标是,了解在该任务中,需要什么深度的语言理解。一方面,我们仔细的手动分析问题小的子集,另一方面进行简单的展示,在两个数据集中,细心的设计系统,就

    04
    领券