在Keras中使用的训练词嵌入(Gensim)中的未知词
在Keras中使用的训练词嵌入(Gensim)中的未知词是指在训练词嵌入模型时，出现在训练数据中但未在词汇表中出现的词语。这些未知词通常是由于数据集中的拼写错误、新词汇或低频词汇等原因导致的。
为了处理未知词，可以采取以下几种方法：
- 忽略未知词：可以选择忽略未知词，直接将其视为特殊标记或者用一个特定的向量表示。
- 使用预训练的词嵌入模型：可以使用预训练的词嵌入模型，如Word2Vec、GloVe等，这些模型通常包含了大量的词汇表和对应的词向量。对于未知词，可以通过模型中其他相似词的向量进行插值或者使用特定的未知词向量进行表示。
- 动态更新词嵌入模型：可以在训练过程中动态更新词嵌入模型，将未知词加入到词汇表中，并重新训练模型。这样可以逐步扩充词汇表，提高模型对未知词的处理能力。
对于Keras中使用的训练词嵌入(Gensim)中的未知词，可以使用Gensim库提供的方法来处理。具体步骤如下：
- 构建词嵌入模型：使用Gensim库中的Word2Vec或FastText等方法构建词嵌入模型，并指定词汇表的大小、词向量的维度等参数。
- 预处理文本数据：将文本数据进行预处理，包括分词、去除停用词、转换为词索引等操作。
- 训练词嵌入模型：使用Gensim库提供的训练方法，将预处理后的文本数据输入到词嵌入模型中进行训练。
- 处理未知词：在训练过程中，如果遇到未在词汇表中出现的词语，可以根据前面提到的方法进行处理，如忽略、使用预训练模型或动态更新模型。
- 应用词嵌入模型：训练完成后，可以将训练好的词嵌入模型应用于其他任务，如文本分类、情感分析等。
腾讯云提供了一系列与自然语言处理相关的产品和服务，包括腾讯云智能语音、腾讯云智能机器翻译等。您可以通过腾讯云官方网站了解更多相关产品和服务的详细信息：https://cloud.tencent.com/product/nlp
相关·内容
我有来自gensim的预科word2vec。并使用gensim查找words之间的相似之处，就像预期的那样。但我很难找到两个不同句子之间的相似之处。使用cosine similarities不是句子的一个好选择，也不能给出很好的效果。Soft Cosine similarities in gensim提供了一些更好的结果，但是看起来也不太好。
我在gensim找到了gensim。这比softcosine和cosine要好一点。
我在想，如果有更多的选择，比如使用像keras和tensorflow这样的深度学习，从经过预先训练的word2vec中找到相似的句子。我知道可以使用word embbe
浏览 0提问于2019-09-21得票数 0
回答已采纳
我在gensim中训练过word2vec。在Keras中，我想用它来制作句子矩阵，使用这个词嵌入。因为存储所有句子的矩阵是非常空间和内存低效的。因此，我想在Keras中创建嵌入层来实现这一点，这样它就可以在其他层(LSTM)中使用。你能详细告诉我怎么做吗？
PS:它与其他问题不同，因为我使用gensim进行word2vec训练，而不是keras。
浏览 1提问于2018-09-01得票数 9
回答已采纳
1回答
我正在使用GENSIM (word2vec)训练一个单词嵌入，并在KERAS的神经网络中使用训练好的模型。当我有一个未知(词汇表外)的单词时，就会出现问题，因此神经网络不再工作，因为它无法找到该特定单词的权重。我认为解决这个问题的一种方法是将一个新单词(<unk>)添加到具有零权重(或随机权重？)的预训练单词嵌入中。哪个更好？)这种方法可以吗？此外，对于这个词嵌入，权重在这个神经网络中是不可训练的。
浏览 18提问于2020-12-19得票数 1
我对gensim还是个新手，现在我正在尝试解决这个问题，这涉及到在keras中使用doc2vec嵌入。我无法在keras中找到现有的doc2vec实现--就我所见的所有示例而言，到目前为止，每个人都只是使用gensim来获取文档嵌入。
一旦我在gensim中训练了我的doc2vec模型，我就需要以某种方式将嵌入权重从genim导出到keras中，这并不是很清楚如何做到这一点。我看到了
model.syn0
假设给出了word2vec嵌入权重(根据)。但目前还不清楚如何对文档嵌入执行相同的导出。有什么建议吗？
我知道通常我只能直接从gensim模型中获得每个文档的嵌入，但我想稍后对keras中的
浏览 15提问于2018-02-27得票数 2
回答已采纳
我的任务是将文档向量模型投入生产。我是一个R用户，所以我的原始模型在R中。我们的途径之一是用Python重新创建代码和模型。
我对Doc2vec的Gensim实现感到困惑。
在R中工作的过程如下：
离线
单词向量是使用text2vec包中的函数(即GloVe或GlobalVectors )在大型语料库上训练的，这给了我一个大的Word矢量文本文件。
在ML步骤发生之前，使用来自Doc2Vec库的TextTinyR函数将每个文本从一个更小、更具体的训练语料库中转换成一个向量。这不是机器学习的步骤。没有模特受过训练。Doc2Vec函数有效地聚合了句子中的单词向量，其意义与找到向量
浏览 45提问于2021-06-17得票数 1
回答已采纳
我已经在gensim中预先训练了word2vec。在keras中，我希望对从预先训练word2vec中获取的单词使用单词向量，并将单词的词性标记特性编码为一个热向量。在Keras中，我认为使用嵌入矩阵，所以我想在Keras中创建嵌入层来实现这一点，这样它就可以用于更多的层(LSTM)。你能详细告诉我怎么做吗？
浏览 25提问于2019-10-05得票数 0
2回答
我有大量的文本数据在多个网页上的产品，我有兴趣出售给客户。我试着在维基百科上使用预先训练过的快速文本词嵌入，但它并没有给我分类任务带来好的结果。可能是因为网站上的文本数据包含了很多技术细节，它不同于维基百科中的文本数据。因此，我想做一些转移学习的词嵌入，保持预先训练的快速文本词嵌入为基础。
我如何使用Keras来训练我自己的自定义单词嵌入到这些网页上？
如何用快速文本预训练嵌入和训练初始化自定义词嵌入？这种初始化是否真的有助于提供更好的单词嵌入？
我更喜欢使用Keras来训练单词嵌入的解决方案。
我知道嵌入有trainable=True选项，不确定如何使用它。
Embeddin
浏览 2提问于2019-01-24得票数 1
我正在尝试用gensim训练Word2Vec模型。我制作了一个简单的训练文件，基本上只有一行重复多次。
entertainment films Movies cinema
entertainment Movies
entertainment films
entertainment cinema
使用像上面这样的培训文件的想法是为了确保像电影之类的词与娱乐最相似。
>>> wv_model = gensim.models.Word2Vec(sents, size=300, min_count=1,
workers=8, window=1, sg=0)
但是当我检查结
浏览 0提问于2021-07-14得票数 0
1回答
我用word2vec 4训练了一个GenSim模型。
问题是我的语料库很小。
如何测试我所获得的嵌入词的质量？
有什么标准措施来做到这一点吗？
浏览 0提问于2020-12-02得票数 2
回答已采纳
1回答
理解词嵌入的迁移学习
、、、、
我无法想象预先训练过的单词嵌入的迁移学习在NLP任务(比如命名实体识别)中是如何有用的。我正在学习Andrew NG的序列模型课程，他似乎说，如果目标任务的训练集非常少，那么转移单词嵌入的学习将有助于在应用程序中处理训练集中的未知单词。
让我们考虑命名实体识别的任务，
我的问题是，为目标任务设置的很小的训练内容是什么？它们是带有实体标记的单词嵌入还是句子？
他是否认为，如果训练集只是在预先训练过的模型中有嵌入词的标记句，那么训练集中不存在但更接近训练集的单词也会在应用程序中被有效捕获？
考虑一下‘橘子’正在训练中。但是，“苹果”并不是。
所以，在“我喜欢橘子汁”和“我喜欢苹果汁”这两个句子中，
浏览 0提问于2020-07-27得票数 1
1回答
Gensim是Word2Vec的一个优化的python端口(参见)
我目前正在使用以下向量：
我将用gensim重新运行模型培训，因为他们的模型中有一些噪音标记。因此，我想找出word2vec在gensim中的一些等价参数是什么
他们从word2vec中使用的参数是：
2字上下文窗口，PMI加权，无压缩，300 K尺寸
当我训练一个Word2Vec模型时，gensim等价性是什么？
是：
>>> model = Word2Vec(sentences, size=300000, window=2, min_count=5, workers=4)
在gensim中有P
浏览 2提问于2015-04-29得票数 3
回答已采纳
1回答
我正在尝试理解如何使用Tensorflow2来训练没有预设标签的单词嵌入。
在Tensorflow2教程()中，它展示了如何使用带标签的预结构化数据集来训练单词嵌入。
imdb = keras.datasets.imdb
(train_data, train_labels), (test_data, test_labels) = imdb.load_data(
num_words=vocab_size)
embedding_dim=16
model = keras.Sequential([
layers.Embedding(vocab_size, embedding_dim, in
浏览 9提问于2019-08-03得票数 0
1回答
我有一个预先训练好的Fasttext模型，我想把它嵌入到Keras中。 model = Sequential()
model.add(Embedding(MAX_NB_WORDS,
EMBEDDING_DIM,
input_length=X.shape[1],
input_length=4,
weights=[embedding_matrix],
trainable=False)) 但它并没
浏览 14提问于2020-03-26得票数 0
回答已采纳
我一直在使用预先训练的模型，如谷歌新闻或手套6B模型，但在我的文本数据中的许多单词没有它们的向量表示在那些预先训练的模型中。所以我想也许用我的数据来训练我自己的模型。
在训练我们自己的两类分类模型时有什么缺点吗？还是我应该继续使用预先训练过的模型。训练我们自己的模型和使用预先训练的模式有什么区别？
# This is how I am thinking to train the model
from gensim.models import Word2Vec
w2v_model=Word2Vec(list_of_sentance_train,min_count=5,size=50, w
浏览 0提问于2019-03-07得票数 0
我在最新的维基百科文章转储上构建了一个盒子嵌入模型，我需要将它与gensim中的word2vec模型进行比较。我看到，如果我使用WikiCorpus类中的get_texts()方法将语料库数据生成为txt文件，会有很多停用词，所以这让我认为WikiCorpus不会删除停用词，不是吗？现在，一旦在维基语料库txt上训练了我的盒子模型，我注意到调用我为盒子嵌入打印创建的“最相似”函数经常会停止单词，而不是将相同的单词传递给在相同语料库txt上训练的word2vec模型的最相似函数，从而产生最佳结果。有人能告诉我为什么Word2vec模型在语料库txt上有很多停用词，而我的盒子模型在同一语料库上没有
浏览 13提问于2021-11-05得票数 0
1回答
我需要使用Gensim在维基百科文章上训练一个word2vec嵌入模型。
最终，我将使用整个维基百科
但是目前，我正在做一些实验/优化来提高模型的质量，我想知道有多少篇文章足够训练一个有意义/好的模型？每个单词在词汇表中需要多少个例子？
浏览 0提问于2018-02-10得票数 6
我正在构建一个使用预先训练好的gensim word2vec的pytorch BiLSTM。我首先使用从头开始使用模型训练的nn.Embedding层，但我决定使用预先训练的word2vec嵌入来提高准确性。我的模型体系结构遵循一个简单的BiLSTM体系结构，其中第一层是嵌入层，然后是BiLSTM层，最后是两个前馈层。
import torch
import gensim
import torch.nn as nn
import torch.optim as optim
import torch.nn.functional as F
word2vec = gensim.models.Wor
浏览 12提问于2021-10-31得票数 1
1回答
Keras的词袋嵌入层？
、、、、
我有一个非常简单的Keras模型，如下所示：
model = Sequential()
model.add(Dense(hidden_size, input_dim=n_inputs, activation='relu'))
model.add(Dense(n_outputs, activation='softmax'))
我使用的嵌入是词袋。
我希望将嵌入步骤作为模型的一部分。我想把它当做一个嵌入层...但我不知道是否有可能实现一个词袋模型作为Keras嵌入层？我知道你可以将预先训练好的BOW和GloVe嵌入模型传递给嵌入层，所以我想知道这样的事情是否可以用B
浏览 1提问于2021-02-08得票数 0
1回答
LSTM/RNN可用于文本生成。展示了为Keras模型使用预先训练的GloVe单词嵌入的方法。
如何在Keras模型中使用经过预先训练的Word2Vec单词嵌入？ post确实有帮助。
当模型中提供了单词序列作为输入时，如何预测/生成下一个单词？
尝试了抽样方法：
# Sample code to prepare word2vec word embeddings
import gensim
documents = ["Human machine interface for lab abc computer applications",
浏览 4提问于2017-02-06得票数 26
1回答
我已经下载了手套训练矩阵，并使用它在Keras层。但是，我需要将句子嵌入到另一个任务中。
我想要计算这个句子中所有嵌入词的平均值。
最有效的方法是什么，因为大约有25000句话？
另外，我不想使用Keras中的Lambda层来获取它们的平均值。
浏览 2提问于2020-06-09得票数 0
回答已采纳
当我读到“用于句子分类的卷积神经网络”时，我注意到该论文实现了“CNN-非静态”模型--一个使用来自word2vec的预训练向量的模型，所有的单词--包括随机初始化的未知单词，和预训练向量对每个任务都进行了微调。所以我只是不明白预先训练好的向量是如何对每个任务进行微调的。因为据我所知，输入向量是由word2vec.bin(预训练)从字符串转换而来的，就像图像矩阵一样，在训练CNN过程中不能改变。所以，如果可以的话，怎么做？请帮我一下，提前谢谢！
浏览 4提问于2016-10-18得票数 1
我在gensim中有一个大型的预训练的Word2Vec模型，我想从这个模型中使用预训练的单词向量作为Keras模型中的嵌入层。
问题是嵌入的大小是巨大的，而且我不需要大多数的单词向量(因为我知道哪些单词可以作为输入)。因此，我想摆脱它们，以减少我嵌入层的大小。
有没有一种方法可以根据单词的白名单来保持想要的字向量(包括对应的索引！)？
浏览 0提问于2018-06-18得票数 8
回答已采纳
我正在构建一个聊天机器人，所以我需要使用Word2Vec向量化用户的输入。
我使用的是Google提供的一个有300万字的预训练模型(GoogleNews-vectors negative300)。
因此，我使用Gensim加载模型：
import gensim
model = gensim.models.KeyedVectors.load_word2vec_format('GoogleNews-vectors-negative300.bin', binary=True)
问题是加载模型大约需要2分钟。我不能让用户等那么久。
那么，我可以做些什么来加快加载时间呢？
我考虑将30
浏览 564提问于2017-03-24得票数 24
回答已采纳
1回答
是否存在预训练的Gensim的Phrases模型?如果没有，是否可以使用预训练的单词嵌入进行逆向工程并创建短语模型？ 我正在尝试将GoogleNews-vectors-negative300.bin与Gensim的Word2Vec一起使用。首先，我需要将我的单词映射到短语中，这样我就可以从Google的预训练嵌入中查找它们的向量。 我搜索了Gensim的官方文档，但没有找到任何信息。谢谢!
浏览 18提问于2020-10-16得票数 1
回答已采纳
我们是否可以使用tf 2.0 tf.saved_model.save将经过训练的Gensim Word2Vec模型保存为已保存的模型？换句话说，我如何将经过训练的嵌入向量保存为保存的模型签名，以便与tensorflow 2.0一起使用。以下步骤通常是不正确的：
model = gensim.models.Word2Vec(...)
model.init_sims(..)
model.train(..)
model.save(..)
module = gensim.models.KeyedVectors.load_word2vec(...)
tf.saved_model.save(
浏览 0提问于2020-05-06得票数 0
1回答
当我在Gensim中用大量的单词/数据(假设数十万字向量)训练一个word2vec模型时，gensim是否自动使用负采样？
或者，是否有办法让它使用它？
浏览 0提问于2019-07-17得票数 0
1回答
我正在尝试使用我的word2vec模型中的权重作为keras中神经网络嵌入层的权重。我下面介绍的使用：
word_model = gensim.models.Word2Vec(sentences, size=100, min_count=1,
window=5, iter=100)
pretrained_weights = word_model.wv.syn0
keras_model.add(Embedding(input_dim=vocab_size, output_dim=emdedding_size,
浏览 0提问于2018-05-13得票数 1
1回答
快速文本预训练句子相似度
、、、、
我想使用快速文本预训练模型来计算一组句子之间的相似度。有谁可以帮我？什么是最好的方法？
我通过训练一个tfidf模型来计算句子之间的相似性。像这样写代码。是否有可能改变它和使用快速文本预先训练的模型？例如，使用向量来训练tfidf模型？
def generate_tfidf_model(sentences):
print("generating TfIdf model")
texts = [[sentence for sentence in doc.split()] for doc in sentences]
dictionary = gensim.co
浏览 3提问于2019-12-04得票数 2
回答已采纳
我有一个在Gensim中训练的Word2Vec模型。如何在Word Embeddings的Tensorflow中使用它。我不想在Tensorflow中从头开始训练嵌入。谁能用一些示例代码告诉我如何做到这一点？
浏览 4提问于2017-03-28得票数 8
我当时正在研究word2vec gensim模型，发现它真的很有趣。我很高兴找到一个未知/看不见的词，当与模型检查时，将能够从培训过的模型中得到类似的术语。
这个是可能的吗？可以为此对word2vec进行调整吗？或者训练语料库需要有我想要找到相似之处的所有单词。
浏览 0提问于2015-12-26得票数 14
我有一个用gensim训练过的超过98892个文档的word2vec模型。对于没有出现在句子数组中的任何给定句子(即，我在其上训练模型的集合)，我需要用该句子更新模型，以便下次查询它时会给出一些结果。我是这样做的：
new_sentence = ['moscow', 'weather', 'cold']
model.train(new_sentence)
并将其打印为日志：
2014-03-01 16:46:58,061 : INFO : training model with 1 workers on 98892 vocabulary and
浏览 1提问于2014-03-02得票数 38
我想加载一个预先训练的word2vec嵌入与gensim到一个PyTorch嵌入层。
如何将gensim加载到PyTorch嵌入层中的嵌入权值计算出来？
浏览 0提问于2018-04-07得票数 49
回答已采纳
我最近偶然发现Gensim中添加了doc2vec。如何在doc2vec中使用预先训练好的词向量(例如，在word2vec原始网站中找到的)？
或者，doc2vec是从用于段落向量训练的相同句子中获得单词向量吗？
谢谢。
浏览 1提问于2014-12-14得票数 44
1回答
NLP情感分析网不学习
、、、
我想训练一个神经网络来分析情绪。我已经学习了keras网页上的教程，但是为了以后能够使用网络，我必须将代码修改为我的usecase。
为此，我将imdb数据集中的文本从keras从数字解码回文本，然后对文本进行词干处理，因为我需要使用带词根的文本。在那之后，由于我想控制我做单词嵌入的方式，而不是使用text_to_sequences ( pad_sequences )，所以我正在训练一个doc2vec嵌入，并且在训练集上使用它，这样我就可以从我想要分类的文本中获得嵌入。
问题是，网没有学到任何东西，准确度没有提高，我也不能减少损失的函数。我尝试过很多事情，比如网络的体系结构，所有的超参数，以及
浏览 2提问于2020-05-29得票数 1
回答已采纳
2回答
我使用gensim构建了我的语料库的word2vec嵌入。目前，我正在使用gensim模型将我的(填充)输入句子转换为单词向量。这些向量被用作模型的输入。
model = Sequential()
model.add(Masking(mask_value=0.0, input_shape=(MAX_SEQUENCE_LENGTH, dim)))
model.add(Bidirectional(
LSTM(num_lstm, dropout=0.5, recurrent_dropout=0.4, return_sequences=True))
)
...
model.fit(traini
浏览 2提问于2018-12-19得票数 3
1回答
多输入特征的神经网络训练
、、、、
我已经提到了。然而，我仍然是困惑，因为我是新的RNN和CNN。我正在和keras一起训练神经网络分类器。在我的csv文件中，我有三个特性。
句子
概率
目标
每句话都是一个只有5个字的句子，有1860个这样的句子。概率是0,1范围内的浮点值，目标是需要预测的字段(0或1)。
我首先随机开始使用嵌入的句子，如下所示。
import string
import nltk
from nltk.tokenize import word_tokenize
from nltk.corpus import stopwords
import numpy as np
import gensi
浏览 0提问于2019-06-19得票数 0
我使用Gensim框架(https://radimrehurek.com/gensim/auto_实例/index.html#文档)生成了一个经过预先培训的C0模型。该数据集包含507种情感(句子)，它们被标记为积极或消极。在执行完所有文本处理之后，我使用Gensim生成了经过预先训练的word2Vec模型。该模型有234个唯一的词，每个向量都有300个维数。不过，我有个问题。
如何使用生成的word2vec嵌入向量作为CNN的输入？
浏览 0提问于2021-11-15得票数 2
回答已采纳
1回答
我已经用gensim库训练了一个word2vec模型。例如，我的模型包含两个单词的向量："new“和"york”。但是，我还想为单词"new york“训练一个向量，因此我将"new york”转换为"new_york“，并训练一个新的向量模型。最后，我想将单词"new“、"york”和"new_york“的向量组合成单词"new”的一个向量表示。 如何将新的向量值保存到模型中？ 我尝试将新的向量分配给模型，但gensim不允许为向量模型分配新值。
浏览 14提问于2019-06-02得票数 1
回答已采纳
我有一个TF Estimator，它在输入层使用特征列。其中之一是我随机初始化的EmbeddingColumn (默认行为)。 现在我想在gensim中预先训练我的嵌入，并将学习到的嵌入转移到我的TF模型中。embedding_column接受初始值设定项参数，该参数需要一个可调用对象，该可调用对象可以使用tf.contrib.framework.load_embedding_initializer进行created。 然而，该函数需要一个保存的TF检查点，而我没有，因为我在gensim中训练了我的嵌入。 问题是:如何将gensim字向量(即numpy数组)保存为TF检查点格式的张量，以便我
浏览 66提问于2019-10-08得票数 0
我需要使用gensim来获取单词的向量表示，我认为最好使用的是在英文维基百科语料库上预先训练好的word2vec模块。有人知道在哪里下载它，如何安装它，以及如何使用gensim创建矢量吗？
浏览 5提问于2017-07-26得票数 16
回答已采纳
1回答
我有点困惑于如何正确使用Keras中的嵌入层来实现seq2seq (我想在Keras中重建TensorFlow se2seq机器翻译教程 )。我的问题如下：
我理解嵌入层将句子中的单词值转换为固定维长的表示。但我观察到嵌入层有两种不同的用法:一方面(如关于Keras博客的本教程)通过weights参数利用外部预训练的word2vec向量：
from keras.layers import Embedding
embedding_layer = Embedding(len(word_index) + 1,
EMBEDDING_DIM,
weights=[embedding_matrix
浏览 0提问于2017-03-13得票数 7
1回答
在用gensim工具包加载了一个经过预先训练的word2vec模型之后，我想找到一个给定上下文的同义词，比如“她是一个聪明的人”。
浏览 2提问于2018-05-05得票数 1
回答已采纳
1回答
我正在使用gensim库来查找与我所拥有的一些单词最相似的单词。用10000个数据样本(短文主要是1-2句)来训练，我得到了非常糟糕的结果！为什么会这样？通过重复训练和测试，得到了不同的结果。难道不应该是决定性的吗？
model = gensim.models.Word2Vec(senforword2vec)
print(model.most_similar(positive=['bad'], topn=1))
(“金额”，0.9987443089485168)
在另一列火车上
(“尚”，0.9984885454177856)
浏览 0提问于2017-07-13得票数 1
回答已采纳
2回答
在我的模型中，我使用了GloVe预训练的嵌入。我希望保持他们的不可训练，以减少模型参数的数量和避免过分适合。然而，我有一个特殊的符号，我想训练它的嵌入。
使用提供的嵌入层，我只能使用参数“trainable”以下列方式设置所有嵌入的可训练性：
embedding_layer = Embedding(voc_size,
emb_dim,
weights=[embedding_matrix],
input_length=MAX_LEN,
浏览 0提问于2018-02-27得票数 12
回答已采纳
2回答
我正在研究关键词提取，现在我能够创建一些特征，并运行候选短语以及训练机器学习模型使用随机森林进行分类的特征。 出于好奇，我想尝试深度学习，因为我想手动删除特征提取层，我想让它自己找出特征，并通过传递一些文本文档和每个文档的相关关键短语(1/0是否正确)来生成模型。我想知道，是否有任何训练模型接受纯文本而不是浮点值，如果不是，我如何通过将句子和关键短语转换为浮点值并传递给训练模型来实现同样的目标 甚至尝试使用Keras Sequential模型创建模型(给出了示例) model = Sequential()
model.add(Dense(18, input_dim=14, init='
浏览 18提问于2019-05-03得票数 3
1回答
据我所知，批量(香草)梯度下降对所有训练数据进行一次参数更新。随机梯度下降(SGD)允许您更新每个训练样本的参数，帮助模型更快地收敛，但代价是函数损失的高度波动。 ? 批量(香草)梯度下降集batch_size=corpus_size。 SGD设置batch_size=1。 和小批量梯度下降集batch_size=k，其中k通常为32，64,128… gensim如何应用SGD或小批量梯度下降？看起来batch_words等同于batch_size，但我想确认一下。 在gensim模型中设置batch_words=1是否等同于应用SGD？
浏览 32提问于2019-05-02得票数 0
回答已采纳
1回答
我在不同的项目中使用了gensim word2vec包和Keras Embedding layer。然后我意识到他们似乎在做同样的事情，他们都试图把一个单词转换成一个特征向量。
我能正确理解这一点吗？这两种方法到底有什么区别？
谢谢!
浏览 0提问于2019-10-11得票数 8
回答已采纳
我下载了一个"glove.txt“格式的单词嵌入训练，并将其作为gensim.models.keyedvectors.Word2VecKeyedVectors类型的模型导入，这要归功于下面的文档：
但是我想要一个gensim.models.word2vec.Word2Vec类型的模型
有没有办法将其转换或直接导入为所需的格式？
浏览 18提问于2021-03-10得票数 0
回答已采纳
2回答
我已经为不同的语言训练了几个使用gensim的word2vec模型，但是每个语言的size都是不同的。
向量如下所示：
vec_sp = word_vectors_sp.get_vector("uno")
如何将vec_sp用作不同向量大小的不同模型的输入：
word_vectors_en.most_similar(positive=[vec_sp], topn=1)
在第二个模型中获得相应的单词
浏览 3提问于2020-02-18得票数 3
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
实时音视频活动推荐
腾讯云开发者
