首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

利用机器学习探索食物配方:通过Word2Vec模型进行菜谱分析

Word2Vec方法利用深度学习基于神经网络技术,将单词转换为相应向量,使语义相似的向量在N维空间中相互接近,其中N表示向量维数。 究竟为什么我们需要在分析食物配方配料时嵌入文字呢?...嗯,我们需要一些方法来将文本分类数据转换为数字机器可读变量,如果我们想比较一个配方另一个配方。...在本教程中,我们将学习如何使用Word2Vec: 暗示相似的概念——在这里,单词嵌入帮助我们暗示与被置于预测模型中单词相似的成分。...大多数配料都以形容词作为前缀,例如干番茄、榨柠檬、新鲜香菜等。这些词(干,压缩,新鲜等等)在生成有意义词嵌入没有用处。因此,可以使用正则表达式函数来删除这些内容。...这种相似性把所有“巧克力”密切相关单词都显示出来了,比如黑巧克力,香草豆等等 原料“蛋黄酱”类似或相关成分 model.wv.most_similar('mayonnaise') ?

2K20
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    《自然语言处理入门》12.依存句法分析--提取用户评论

    每个单词不能依存于多个单词。 如果单词 A 依存于 B,那么位置处于 A B 之间单词 C 只能依存于 A、B 或 AB 之间单词。...依存句法分析任务采用评测指标为 UAS (unlabeled atachment score) LAS (labeled attachment score ),分别对应忽略标签包括标签 F1...电池非常棒,机身不长,长是待机,但是屏幕分辨率不高。 为了提取“电池”“机身”“待机”“分辨率”所对应意见,朴素处理方式是在分司词性标注之后编写正则表达式,提取名词后面的形容词。...然而正则表达式无法处理“长是待机”这样句式灵活例子。...利用这一规律, 不难写出第一版遍历算法, 也就是用个for 循环去遍历树中每个节点。对于算法遍历树中每一个词语, 如果其词性为名词且作为某个形容词名词性主语,则认为该名词是属性,而形容词是意见。

    2.6K20

    抽象语法树为什么抽象

    所以解析树,也被成为具象语法树(Concret Syntax Tree, 简称CST);而抽象语法树,忽略了一些解析树包含一些语法信息,剥离掉一些不重要细节,所以它看起并不像解析树那么事无巨细,这也是...想想我们学英语过程中,老师是如何教我们划分句子解构,比如一个简单英文自然语言例子: Little girl ate apple 它由【名词短语】【动词短语】组成, 再往下【名词短语】由【形容词】...【动词】【名词】又可以由具体单词构成。...我们会觉得语言描述冗长,而且并不直观,可以借助一些符号进行描述: -> -> -> <形容词...用更抽象形式化语言定义,文法可表示为: T表示终结符集合(如little、girl等,即词法分析中提到token) N表示非终结符集合(如里包括部分,表示了语法成分, 因为它们可以推导出其他句子成分

    1.6K30

    自然语言处理之分词、命名主体识别、词性、语法分析-stanfordcorenlp-NER(二)

    LSTM+CRF模型 语言文本特殊之处在于其具有一定结构,主谓宾定状补,状语后置,非限制性定语从句等等。这些结构存在代表着每个单词前后是有着一定词性限制。...局部马尔可夫性: P(Yu|Yv)=P(Yu|Yv,Yw)简单理解,因为YuYw之间没有边连接,则在给定随机变量Yv条件下Yu概率,跟多加了一个Yw无关。...B之间,那么C或者直接依存于B,或者直接依存于AB之间某一成分; 中心成分左右两面的其它成分相互不发生关系。...使用斯坦福句法分析器做依存句法分析可以输出句子依存关系,Stanford parser基本上是一个词汇化概率上下文无关语法分析器,同时也使用了依存分析。...形容词 appos: appositional modifier,同位词 attr: attributive,属性 aux: auxiliary,非主要动词助词,如BE,HAVE SHOULD/

    8.2K72

    深入理解BERT Transformer ,不仅仅是注意力机制

    向量空间可以用来表示一个单词、短语其他成分。...例如,形容词含义会随着单词不同而变化:“white wine” (白葡萄酒)颜色实际上是黄色,但是一只白猫(white cat)就是白色。...我们忽略了与“[CLS]”“[SEP]”标记相关注意力值。我们尝试使用了几个句子,发现想不过度解释它们结果很难。所以你可以随意用几个句子在这个colab notebook上测试我们假设。...注意力头如何辅助特定语义合成,例如形容词/名词语义合成 虽然我们没有发现注意力头集中关注形容词/名词等更一致组合,但是动词/副词语义合成与模型所衍生其它语义合成之间可能存在一些共同点。...有许多可能相关语义合成(单词-子词,形容词-名词,动词-介词,子句-子句)。

    70020

    深入理解BERT Transformer ,不仅仅是注意力机制

    向量空间可以用来表示一个单词、短语其他成分。...例如,形容词含义会随着单词不同而变化:“white wine” (白葡萄酒)颜色实际上是黄色,但是一只白猫(white cat)就是白色。...我们忽略了与“[CLS]”“[SEP]”标记相关注意力值。我们尝试使用了几个句子,发现想不过度解释它们结果很难。所以你可以随意用几个句子在这个colab notebook上测试我们假设。...注意力头如何辅助特定语义合成,例如形容词/名词语义合成 虽然我们没有发现注意力头集中关注形容词/名词等更一致组合,但是动词/副词语义合成与模型所衍生其它语义合成之间可能存在一些共同点。...有许多可能相关语义合成(单词-子词,形容词-名词,动词-介词,子句-子句)。

    64320

    正则表达式一元字符与字符组

    表示字符组用于匹配一串字符 如果我们需要搜索单词是"gray",同时又不确定他是否写作"gray",这个时候就可以使用正则表达式结构体-[........]-字符组。...依靠它,我们能把不同子表达式组合成一个总表达式,而这个总表达式又能匹配任意子表达式 假如BobRobert是两个表达式,但Bob|Robert 能够同时匹配任意一个正则表达式,在这样组合,子表达式被称为...gr[ea]ygr(e|a)y这两个例子可能会让人觉得多选结构字符组本身没多大区别,但是注意,一个字符组只能匹配单词一个字母,而每个多选结构自身可能都是完整正则表达式,可以匹配任意长度文本!...6  -i    符忽略大小写       E-Mail中header中字段类型通常以大写字母开头,例如SubjectFrom,但是E-Mail标准并没有对大小写进行严格规定,所以DATEfrom...该功能并不是正则表达式语言一部分,确实很多工具软件提供有用特性,egerp命令行参数"-i"表示进行忽略大小写匹配,把-i写在正则表达式之前; 7   单词分界符

    86670

    第一章 词与词组

    可以负责任说:不了解单词词性是语法混乱根源,是写不出正确句子、看不懂长难度重要原因。 英语词性分为十大类,包括动词、名词、形容词、副词、代词、介词、数词、连词、冠词感叹词。...英语中单词量最大词类是动词、名词、形容词副词,而副词往往是由形容词加“-ly”后缀转换而来,因此,需要大家重点记忆词类只有名词、动词形容词这三种,这三类词是英语写作中最容易出错地方,也是影响长难句理解关键因素...词组 在英语中,作用单词相似的一组词(由两个或两个以上词组成)构成“词组”,也叫做“短语”。起名词作用词组称为“”名词词组”,起动词作用词组称为“动词词组”,以此类推。...副词词组是由几个副词构成短语,如 very much等,其使用方法与副词相同,主要在句子中作状语,修饰动词、形容词副词等,表示时间、地点、方式等意义。...介词是一种用来表示词与词,或者词与句之间关系虚词,在句子中不能单独充当成分。它常名词搭配构成介词短语,表示不同意思。介词词形上可分为简单介词短语介词。

    1.1K20

    词性标注

    形容词代码为 a,语素代码g前面置以a。 a 形容词 取英语形容词 adjective第1个字母。 ad 副形词 直接作状语形容词形容词代码 a副词代码d并在一起。...an 名形词 具有名词功能形容词形容词代码 a名词代码n并在一起。 b 区别词 取汉字“别”声母。 c 连词 取英语连词 conjunction第1个字母。 dg 副语素 副词性语素。...f 方位词 取汉字“方” g 语素 绝大多数语素都能作为合成词“词根”,取汉字“根”声母。 h 前接成分 取英语 head第1个字母。 i 成语 取英语成语 idiom第1个字母。...j 简称略语 取汉字“简”声母。 k 后接成分 l 习用语 习用语尚未成为成语,有点“临时性”,取“临”声母。 m 数词 取英语 numeral第3个字母,n,u已有他用。...词性标注流程如下: 首先基于正则表达式进行汉字判断,jieba源代码posseg中正则表达式为: re_han_internal = re.compile("([\u4E00-\u9FD5a-zA-Z0

    1.3K10

    Python正则表达式

    本文写作思路建议: 1、本文主要阐述了Python正则表达式概念、常用操作、使用方法,方便快速了解正则表达式应用; 2、学习之前建议对字符串进行深入了解,比如字符串常用操作等,因为正则表达式一般主要操作对象就是对于字符串处理...1 正则表达式定义 正则表达式一般操作对象为字符串; 通常可以理解为正则表达式为记录文本规则代码或工具; 应用场景为比如查找符合某些复杂规则字符串。 以下是关于正则一些基本使用操作。...: ① 这个格式表示用于匹配以字母qw开头单词; ② 先从某个单词开始处(\b),然后匹配字母qw,接着是任意字母或字符(\w*),最后是单词结束处(\b); 针对上边这个格式,我们简单看一个示例,...)以外所有字符 \d 匹配数字 \b 匹配单词开始或结束,单词分界符通常是空格、标点符号或者换行 ^ 匹配字符串开始 $ 匹配字符串结尾 4 限定符 限定符就是指定数量字符; 之前提到可以匹配任意字符元字符...用于包括整个字符串开始结尾每一行 S或DOTALL 使用(.)字符匹配所有字符 X或VERBOSE 忽略模式字符串中未转义空格注释 10.1.2 search()方法 用于在整个字符串中搜索第一个匹配

    32020

    Python3快速入门(七)——Pyth

    \b匹配一个单词边界,也就是指单词空格间位置。例如, 'er\b' 可以匹配"never" 中 'er',但不能匹配 "verb" 中 'er'。 \B匹配非单词边界。'...[, flags]) compile 函数根据一个模式字符串可选标志参数生成一个正则表达式对象,正在表达式对象拥有一系列方法用于正则表达式匹配替换。...'不包括换行符) re.U 表示特殊字符集 \w, \W, \b, \B, \d, \D, \s, \S 依赖于 Unicode 字符属性数据库 re.X 为了增加可读性,忽略空格' # '后面的注释...pattern匹配正则表达式 string要匹配字符串。 flags标志位,用于控制正则表达式配方式,如:是否区分大小写,多行匹配等等。...flags标志位,用于控制正则表达式配方式,如:是否区分大小写,多行匹配等等 # -*- coding:utf-8 -*- import re # 将匹配数字乘于 2 def double(matched

    79910

    vim 正则表达式

    毋庸多言,在vim中正则表达式得到了十分广泛应用。 最常用 / :s 命令中,正则表达式都是不可或缺。 下面对vim中正则表达式一些难点进行说明。...这个设置也可以在正则表达式中通过 \m \M 开关临时切换。 \m 后面的正则表达式会按照 magic 处理,\M 后面的正则表达式按照 nomagic 处理, 而忽略实际magic设置。...0个或1个(忽略优先) 从上表中可见,vim忽略优先量词不像perl *? +? ?? 那样,而是统一使用 \{- 实现。 这大概跟忽略优先量词不常用有关吧。...<=foo)bar/ # vim写法 /\(foo\)\@<=barvim正则表达式 写道 元字符 说明 . 匹配任意一个字符 [abc] 匹配方括号中任意一个字符。...表示位置符号 元字符 说明 $ 匹配行尾 ^ 匹配行首 \< 匹配单词词首 \> 匹配单词词尾 替换变量 在正规表达式中使用 \( \) 符号括起正规表达式,即可在后面使用\1、

    1.4K30

    正则表达式

    正则表达式语法 普通字符 没有特殊限定时候匹配一个相同字符 简单转义字符 \n换行符\t制表符\字符字符本身 标准字符集合 能够与多种字符匹配表达式 区分大小写,大写取反 \d0~9中任一字符...任何一个字符 自定义字符集合 []匹配方式,匹配方括号中任一字符 [ab5@]匹配"a"、"b"、"5"或"@"[^abc]匹配"a"、"b"、"c"以外任一字符 [f-k]匹配"f"~"k"中任一字符...[^A-F0-3]匹配"A"~"F"、"0"~"3"以外任一字符 特殊符号,被包含到中括号中,失去特殊意义,除"^""-"以外 标准字符集,除小数点外,如果被包含于中括号,自定义字符集包含该集合。...字符边界 字符所处位置,零宽(不占位) ^字符串开始$字符串结束\b单词边界(前面后面的字符不全是\w) 正则表达式匹配模式 IGNORECASE忽略大小写模式 匹配时忽略大小写 默认情况下,区分大小写...SINGLELINE单行模式 整个文本看作一个字符串 小数点“.”可匹配任一字符,包含“\n” MULTILINE多行模式 每行都是一个字符串,都有开头结尾 匹配开始\A,匹配结束\Z 选择符分组

    30430

    关于NLP你还不会却必须要学会事儿—NLP实践教程指南第一编

    ▌删除特殊字符 特殊字符符号通常是非字母数字字符,有时甚至是数字字符,这增加了非结构化文本中额外噪声。通常,可以使用简单正则表达式删除它们。...我们将特别讨论演示示例中英语语法结构。在英语中,通常单词结合在一起形成其他组成成分。这些成分包括单词、短语、从句句子。...Adj(ective): 形容词是用来描述或限定其他词词,通常是名词名词短语。“美丽花”这个短语有名词“花”,这个名词用形容词 “美丽” 来描述或限定。形容词词性标记符号是 ADJ。...名词短语作为动词主语或宾语。 动词短语(VP):此类短语是有一个动词充当头词。通常,动词短语有两种形式。有一种形式是既有动词成分,也有名词、形容词或副词等作为宾语一部分。...介词短语(PP):这些短语通常包含介词作为前置词其他词汇成分,如名词、代词等。这些行为就像形容词或副词,用来描述其他词或短语。

    1.8K10

    用深度学习从非结构化文本中提取特定信息

    一个经典例子将是一个用于电影评论或新闻数据集幼稚情感分析工具——最简单工作模型只能在“好”或“坏”形容词同义词一些强调词出现情况下运行。在我们研究中,我们利用了这两种方法。...我们可以将一个模型定义为一个正则表达式,给出句子分解(例如,我们可以将一个短语定义为许多形容词加上一个名词),或者我们可以用NLTK中抽取名词短语示例来教授一个带有标记文本数量模型。...每个单词向量都由一些二进制特征组成,比如数字或其他特殊字符出现(技能通常包含数字符号:c#、Python3)、第一个字母或整个单词大写(SQL)。...原因在于,通常简历忽略语法是为了突出经验,并给它一些结构(人们在句子开头用谓语,而不是主语,有时短语缺少适当语法结构),很多单词都是特定术语或名称。我们必须编写自己POS标记器来解决上述问题。...对于给定窗口大小n,我们取候选短语右侧n个相邻单词左侧n个单词,这些单词向量表示形式被连接到可变长度向量中,并传递到LSTM层。我们发现最优n=3。

    2.6K30

    【Python正则表达式】:文本解析与模式匹配

    # string 要匹配字符串 # flags 标志符指定,用于控制正则表达式配方式,如:是否区分大小写,多行匹配等等 # 必须从字符串开头匹配!...在使用正则表达式时,需要根据具体情况考虑各种特殊字符操作符含义使用方式,并进行适当转义处理或括号分组。...在使用正则表达式时,需要根据具体情况考虑各种特殊字符操作符含义使用方式,并进行适当转义处理或括号分组。...# re.I 或 re.IGNORECASE:表示忽略大小写匹配 import re # 定义正则表达式,使用忽略大小写(re.I)匹配模式 pattern = r'hello' # 定义字符串 string...pattern 用于匹配字符串中价值货币单位,使用了 re.X 修饰符来进行可读性更好正则表达式编写。

    18110

    Vim中查找替换及正则表达式使用详解

    前言 正则表达式是文本处理领域中一个强大工具,它可以让文本处理能力呈指数级提升,如果一款文本编辑器不支持正则表达式,那么它就算不上是一个现代化编辑器,这绝非虚言。...下面这篇文章主要跟大家介绍了关于Vim查找替换及正则表达式使用相关内容,分享出来供大家参考学习,下面来一起看看吧。...如果不加g选项,则只替换每行第一个匹配到字符串; i ignore,忽略大小写。 这些选项可以合并使用,如cgi表示不区分大小写,整行替换,替换前询问。...正则表达式 1、元字符 元字符 元字符 说明 . 匹配任意字符 [abc] 匹配方括号中任意一个字符,可用-表示字符范围。...匹配单词词尾 2、替换变量 在正则式中以\(\)括起来正则表达式,在后面使用时候可以用\1、\2等变量来访问\(\)中内容。

    5.9K10

    一文概览NLP句法分析:从理论到PyTorch实战解读

    我们将从句法与语法定义出发,探讨其历史背景理论分类,介绍成分依存两大主流句法分析方法,并最终提供PyTorch实战代码演示。希望这篇文章能为您在理论学习实践应用方面提供有力支持。...简单来说,句法就像是一个建造句子配方”,告诉我们如何将词汇(ingredients)合成为完整、有意义句子(dish)。...例子 “The quick brown fox”(快速棕色狐狸)是一个名词短语,其中“quick”“brown”是修饰“fox”形容词。...句法范畴(Syntactic Categories) 句法范畴是对单词或短语在句子中功能抽象表示。常见句法范畴包括名词(N)、动词(V)、形容词(Adj)等。...例子 名词短语(NP)是一个复合范畴,可能由名词(N)形容词(Adj)组成,如“happy dog”。

    45910
    领券