我试图使用run_ner.py执行this script，但我试图从检查点继续微调的所有操作都失败了。有什么想法吗？ 我用Google Colab运行它。ner/run_ner.py" --data_dir ./ \--do_train --do_eval --do_predict 正如您所看到的，我已经尝试将model_name_or_path参数值(即"bert-base-cased")替换为<em
浏览 70提问于2020-04-28得票数 0
2回答
我有一些定制的数据，我想使用进一步培训的伯特模型。到目前为止，我已经尝试了以下两种方法：
BertForPreTraining model)Starting 从一个预先培训的BERT检查点开始，并继续使用蒙面语言建模(MLM) +下一句预测(NSP)头进行预培训但我仍然感到困惑的是，如果使用BertForPreTraining或BertForMaskedLM真的对伯特进行持续的预培训，或者这只是两个微调模型，分别使用MLM+NSP和M
浏览 5提问于2021-07-20得票数 5
回答已采纳
恢复从run_clm.py实现的GPT2微调 GPT2 huggingface是否具有从保存的检查点恢复训练的参数，而不是从头开始再次训练？假设python笔记本在训练时崩溃，检查点将被保存，但当我再次训练模型时，它仍然从头开始训练。 来源：here 微调代码： !num_train_epochs=1 \ --tokenizer_name=gpt2 从上面的代码可以看出，run_clm.py是huggingface提供的一个脚
浏览 98提问于2021-01-01得票数 1
回答已采纳
我正在使用一个模型(SimCLR)从图像中学习表示。在训练前，模型是针对单个虚拟标签进行训练的。现在我想用8类数据对模型进行微调。当将经过预先训练的模型检查点加载到具有8级头部的尚未经过精细调整的模型时，我遇到了一个ValueError。ValueError: Tensor's shape (2048, 1) is not compatible with supplied shape [2048, 8]
在加载到检查点以对模型进行微调
浏览 0提问于2021-08-11得票数 0
2回答
我的第一个解决方案是在文本上使用word2vec提取30个特性，并将它们与随机森林中的其他值一起使用。它产生了良好的效果。我感兴趣的是改进文本到特征模型。现在我想知道，我如何微调我的数据上的伯特模型-改进特征提取模型-得到更好的文本到特征，我的随机森林算法。我知道如何微调二进制预测器(BertForSequenceClassification)的
浏览 7提问于2019-09-23得票数 2
回答已采纳
我想用一些自己的数据集来训练/微调BERT模型，这些数据集只包含来自特定领域的原始数据，类似于BioBERT。在第一步中，我只想用这些原始数据训练BERT，而不是使用任何特定的NLP任务进行微调。所以，我想要构建一个库，我可以使用它来对特定任务的带注释的训练数据进行微调，例如NER等。这是否可能以我计划的方式实现？我尝试使用Huggingface的示例脚本：
我以以下方式使用了run_ml
浏览 2提问于2021-03-28得票数 0
是否可以使用最新的检查点继续培训，并为模型添加另一个数据集(不同的tfrecord文件)，还是必须使用更新的数据集重新启动培训？我重新训练了“盗梦空间”模型来检测人，因为没有其他方法从预先训练过的模型中删除其他89个对象。
浏览 1提问于2018-01-18得票数 1
回答已采纳
1回答
(使用我自己的令牌程序和数据集)All model checkpoint weights were used when我想知道这是否意味着我从零开始就开始使用“预先训练的重量” of RoBERTa？如果它是从预先训练的权重中训练出来的，那么是否有一种方法可以使用随机启动的权重而不是预先训练的权重？==== 2021/10/26更新的===
我使用蒙面语言建模任务通过以下命令训练
浏览 14提问于2021-10-26得票数 1
回答已采纳
在初始代码中，我们对目标数据集的原始模型进行了微调。在使用variables_to_restore和init_fn与MonitoredTrainingSession.相结合进行培训之前，只从检查点加载一些层。如何使用tf.estimator.Estimator方法实现这种权重加载？
浏览 7提问于2017-09-26得票数 7
1回答
登机牌恢复训练区
、、
我运行了一个强化学习培训脚本，它使用Pytorch并将数据记录到tensorboardX并保存了检查点。现在我想继续训练。我如何告诉tensorboardX从我停止的地方继续？谢谢!
浏览 2提问于2020-09-10得票数 4
回答已采纳
在我们的应用程序中，flink检查点的大小正在增加，并且永远不会以rocks db作为状态后端。(AWS KDA)这里我们使用的键是UUID，并且不会重复。如何配置以确保检查点大小不会增加，或者对db进行微调以删除少于1天的任何较旧的密钥。
浏览 3提问于2021-03-01得票数 0
我只是想知道对象检测API中可用检查点的“分类”和“检测”微调类型之间的区别。他们都有资格训练新奇的课程吗？从这样的训练中获得的检查点，可以用非常相同的pipeline.config进一步训练，或者它需要具有不同的微调类型？为了使问题更清楚，可以参考中提到的ckpts。深入代码可以发现，例如，CenterNet模型的一些类使用CenterNetResnetV1FpnFeatureExtractor类从检查点恢复模型，这似乎只接受“分类”类型()，而可以找到一些作
浏览 1提问于2020-11-19得票数 2
1回答
在使用Tensorflow进行Sagemaker训练作业的非脚本模式下，我可以使用checkpoint_path在S3中指定检查点路径。
但是，在脚本模式下，此参数被禁用。如何在脚本模式下从Sagemaker Tensorflow培训作业的最新检查点开始？
浏览 14提问于2020-02-24得票数 0
1回答
我正在使用Chainer训练(微调)一个Resnet模型，然后使用检查点进行评估。检查点是具有以下结构的npz文件：当我使用chainer.serializers.load_npz(args.load, model)加载模型进行评估时(其中模型是标准的resnet)，我得到以下错误如何更改生成的npz中文件的名称以删除前缀，或者我还应该做些什么来解决这个问题？
谢谢!
浏览 7提问于2020-03-24得票数 1
我遵循的教程，微调一个预先训练过的模型，以检测图像中的新对象。预先训练的模型是ssd_inception_v2_coco.。
我的
浏览 1提问于2019-04-18得票数 0
回答已采纳
检查站
从tensorflow.python.framework导入graph_util input_graph_defsession，tf.saved_model.tag_constants.SERVING，clear_devices=True) builder.save()
谢谢
浏览 1提问于2018-06-29得票数 1
回答已采纳
我们可以在Azure ML Studio中使用单独的训练数据集自定义命名实体识别(NER)模型吗？我想要做的是从文本中找出非英语的名字。(训练数据集包括将用于训练的名称集)
浏览 6提问于2016-08-22得票数 3
1回答
我微调了一个经过预先训练的伯特模型，它来自Huggingface，在一个自定义的数据集上使用火把-闪电对10个时代进行了调整。我用重量和偏倚记录器记录日志。当我像这样从检查点加载时：我收到警告说权值被重新初始化：在我的例子中，我对BertForSequenceClassification进行</
浏览 6提问于2022-04-06得票数 0
我正在使用这个API，更确切地说，我微调了一个模型到我的数据集。根据API的描述，我使用model_main.py函数从给定的检查点/冻结图重新训练模型。
然而，我不清楚微调在API中是如何工作的。
浏览 0提问于2019-05-06得票数 9
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
云直播
对象存储
腾讯会议活动推荐
腾讯云开发者
