使用SGD实现具有L2正则化的Logistc回归:不使用sklearn
使用SGD实现具有L2正则化的Logistic回归是一种常见的机器学习算法，它可以用于二分类问题。SGD代表随机梯度下降，是一种优化算法，用于最小化损失函数。
具体步骤如下：
- 数据准备：首先，需要准备训练数据集和测试数据集。训练数据集包含输入特征和对应的标签，用于训练模型。测试数据集用于评估模型的性能。
- 特征工程：对于Logistic回归，通常需要对输入特征进行预处理，例如标准化、归一化等操作，以提高模型的性能。
- 初始化参数：初始化模型的参数，包括权重和偏置。
- 定义损失函数：使用交叉熵损失函数作为模型的损失函数，并添加L2正则化项。L2正则化可以防止过拟合。
- 随机梯度下降：使用随机梯度下降算法更新模型的参数。在每个训练样本上计算梯度，并根据学习率和正则化参数更新模型的参数。
- 训练模型：使用训练数据集迭代更新模型的参数，直到达到停止条件（例如达到最大迭代次数或损失函数收敛）。
- 模型评估：使用测试数据集评估模型的性能，可以使用准确率、精确率、召回率等指标进行评估。
以下是一些相关的概念和推荐的腾讯云产品：
- SGD（Stochastic Gradient Descent）：随机梯度下降是一种优化算法，用于最小化损失函数。
- L2正则化：L2正则化是一种正则化技术，通过在损失函数中添加权重的平方和来防止过拟合。
- Logistic回归：Logistic回归是一种用于二分类问题的线性模型，通过将线性函数的输出映射到[0, 1]的范围来预测样本的概率。
- 腾讯云产品推荐：腾讯云提供了多种与云计算相关的产品和服务，包括云服务器、云数据库、人工智能服务等。具体推荐的产品和产品介绍链接地址可以根据实际需求进行选择。
请注意，以上答案仅供参考，具体实现方式可能因实际情况而异。
相关·内容
我将用Keras编写的逻辑回归器的结果与默认的Sklearn进行比较。我的输入是一维的。我的输出有两个类，我感兴趣的是输出属于类1的概率。
我希望结果几乎是一样的，但它们甚至不是很接近。
这是我如何生成随机数据的方法。注意，X_train，X_test仍然是向量，我只是使用大写字母，因为我已经习惯了。在这种情况下，也没有必要进行缩放。
X = np.linspace(0, 1, 10000)
y = np.random.sample(X.shape)
y = np.where(y<X, 1, 0)
这里是y在X上的累加，在这里做回归并不是火箭科学。
我做了一个标准的火车测试-分
浏览 7提问于2017-07-05得票数 13
回答已采纳
sklearn的LogisticRegression分类器和它的SGDClassifier有什么区别？我知道SGD是一种优化方法，而Logistic回归(LR)是一种机器学习算法/模型。我也知道SGDClassifier是一个线性分类器，它是由SGD优化的(根据这个答案：根据这个答案，但是下面这两个模型有什么不同呢？)
SGDClassifier(loss='log')和LogisticRegression(solver='sag')？
浏览 0提问于2022-11-24得票数 0
回答已采纳
当使用线性回归？时，必须在成本函数中加入L2正则化。
在计算成本时，Im没有添加l2或考虑到。这样做不对吗？
下面的代码片段应该足够了：
def gradient(self, X, Y, alpha, minibatch_size):
predictions = None
for batch in self.iterate_minibatches(X, Y, minibatch_size, shuffle=True):
x, y = batch
predictions = x.dot(self.theta)
for it i
浏览 1提问于2016-06-17得票数 2
回答已采纳
scikit-learn库有以下类似的分类器： Logistic回归分类器有不同的求解器，其中之一是“sgd”。 http://scikit-learn.org/stable/modules/generated/sklearn.linear_model.LogisticRegression.html#sklearn.linear_model.LogisticRegression 它也有一个不同的分类器'SGDClassifier‘，损失参数可以作为逻辑回归的'log’提到。 http://scikit-learn.org/stable/modules/generated/sk
浏览 42提问于2017-05-14得票数 14
例如，在Python中对我的数据执行以下逻辑回归模型时。。。
### Logistic regression with ridge penalty (L2) ###
from sklearn.linear_model import LogisticRegression
log_reg_l2_sag = LogisticRegression(penalty='l2', solver='sag', n_jobs=-1)
log_reg_l2_sag.fit(xtrain, ytrain)
我并没有指定范围内的岭惩罚值。最优惩罚是用公式显式计算的(如普通最小二乘岭回归
浏览 1提问于2019-08-26得票数 1
回答已采纳
sklearn中的Logistic回归类带有L1和L2正则化。如何关闭正则化以获得像Matlab中的glmfit那样的“原始”逻辑拟合？我想我可以设置C=大数字，但我不认为这是明智的。
有关详细信息，请参阅documentation
浏览 8提问于2014-08-21得票数 21
对于用SPSS和sklearn的LogisticRegression计算的模型系数，我有点困惑。
对于这两种方法，我都得到了不同的系数和截取。
在Python中，我运行以下代码：
import numpy as np
from sklearn.linear_model import LogisticRegression
vals = [0.01, 0.04, 0.07, 0.08, 0.08, 0.09, 0.10, 0.15, 0.20, 1.85, 1.93, 1.97 ,2.02, 2.09, 2.12, 2.13, 2.21, 2.25]
labels = [0, 0, 0, 0,
浏览 0提问于2021-05-27得票数 0
在为示例提供的雪橇_小套间中，需要传递给cross_validating类(如RandomizedSearchCV )的参数空间定义如下。
params_space = {
'c1': scipy.stats.expon(scale=0.5),
'c2': scipy.stats.expon(scale=0.05),
}
在示例中，显示的算法是"lbfgs“。sklearn_crfsuite中支持的其他算法有"l2sgd“、"ap”、"pa“、"arow”。在这些情况下，应该如何定义变量params_spa
浏览 0提问于2017-09-19得票数 2
1回答
目前，我正在运行两种逻辑回归。
用SGD进行logistic回归
logistic回归与GD
按以下方式实施
SGD= SGDClassifier(loss="log",max_iter=1000,penalty='l1',alpha=0.001)
logreg = LogisticRegression(solver='liblinear', max_iter=100, penalty='l1', C=0.1)
不要介意超参数，因为我已经使用了GridsearchCV并尝试了多个组合。
当计算精度时，用GD逻辑比SGD更好。我想知
浏览 0提问于2021-05-11得票数 1
我通过参加不同的课程来学习数据科学，最近我学到了一些在做线性或logistic回归模型时非常有趣的东西:正则化。
在下面的屏幕截图中，我目前正在做的课程，显示正则化这些模型包括一个额外的因素，在成本函数的公式(我已经用红色圈)。当我们有许多输入特性时，这个因素通过增加成本来帮助解决过度拟合的问题。
📷
现在，在这个过程中，我们自己创建公式和函数，以更好地理解这些模型背后的机制。但是，我希望以后继续使用sklearn中的函数。
我想知道sklearn的LinearRegression()和LogisticRegression()模型在受训时是否包括(或有任何参数使它们包含)正则化。
谢谢大家！
浏览 0提问于2022-08-18得票数 0
回答已采纳
1回答
我尝试使用sklearn和状态模型库进行逻辑回归。他们的结果是接近的，但不一样。例如，sklearn获得的(斜率，截距)对为(-0.84371207，1.43255005)，而由状态模型获得的对为(-0.8501，1.4468)。为什么和如何让它们保持不变？
import pandas as pd
import statsmodels.api as sm
from sklearn import linear_model
# Part I: sklearn logistic
url = "https://github.com/pcsanwald/kaggle-titanic/raw/
浏览 2提问于2021-11-14得票数 1
回答已采纳
我正在为我的回归模型试验不同的损失函数。我注意到在滑雪板上有：
sklearn.linear_model.HuberRegressor和sklearn.linear_model.ElasticNet
对我来说，两者都使用L1和L2损失的组合。这到底有什么区别？谢谢!
浏览 0提问于2019-09-18得票数 0
在logistic回归中使用正则化参数C(见)，使函数的拟合得到很好的定义，避免过拟合或step函数的问题(见)。
然而，logistic回归中的正则化应该只考虑特征的权重，而不是截距(这里还解释了：)。
但似乎sklearn.linear_model.LogisticRegression实际上也规范了拦截。原因如下：
1)仔细考虑上面的链接()：sigmod稍微向左移动，靠近拦截0。
2)尝试用logistic曲线和人工最大似然函数拟合数据点。将截距包含到L2范数中，得到与sklearn函数相同的结果。
请提出两个问题：
1)我是否弄错了，这是一个错误，还是有充分的理由使拦截正规化？
( 2
浏览 7提问于2017-11-02得票数 4
回答已采纳
2回答
在Keras和Pytorch中，SGD优化器具有权重衰减参数，我发现tf.train.GradientDescentOptimizer没有重量衰减参数。什么是tensorflow等效的SGD与重量衰减？
Pytorch
Keras优化器-
浏览 4提问于2019-03-07得票数 1
我正在尝试使用Keras进行简单的多项logistic回归，但是结果与标准的科学学习方法有很大的不同。
例如，对于虹膜数据：
import numpy as np
import pandas as pd
df = pd.read_csv("./data/iris.data", header=None)
from sklearn.model_selection import train_test_split
df_train, df_test = train_test_split(df, test_size=0.3, random_state=52)
X_train = df
浏览 1提问于2020-01-08得票数 4
回答已采纳
我正在布尔0/1数据集上进行逻辑回归(预测某一年龄给你一定数量的薪水的概率)，而且我在sklearn和StatsModels上得到了非常不同的结果，那里sklearn是非常错误的。
我已经将sklearn惩罚设置为None，将截取项设置为false，以使函数更类似于StatsModels，但我不知道如何使sklearn给出一个合理的答案。
灰色线是0或1处的原始数据点，我只是在地形图上将1缩小到0.1。
变量：
# X and Y
X = df.age.values.reshape(-1,1)
X_poly = PolynomialFeatures(degree=4).fit_transfor
浏览 6提问于2021-03-27得票数 4
回答已采纳
文档指向，它说：
我们实现了两种求解logistic回归的算法:小批处理梯度下降算法和L算法.为了更快的收敛，我们建议在小批处理梯度下降上的L。
所以在spark.mllib中有和。在ml.classification.LogisticRegression中使用哪一种？
浏览 0提问于2018-04-20得票数 0
2回答
问题：问题--根据它们的默认参数值，吡火花和scikit学习中的逻辑回归模型的默认实现(没有自定义参数集)似乎会产生不同的结果。
我正在尝试复制使用pypark (参见：)执行的logistic回归(没有自定义参数集)的结果，并使用来自scikit-learn的logistic回归模型(请参见：)。
在我看来，这两种模型实现(在pyspark和scikit中)都不具有相同的参数，所以我不能只是简单地匹配scikit中的参数来适应那些在pyspark中的实现。对于如何在两种模型的默认配置上匹配，有什么解决方案吗？
参数Scikit模型(默认参数)：
`LogisticRegression(
C=
浏览 3提问于2017-06-18得票数 6
回答已采纳
1回答
我上过一门关于神经网络的课程，不太明白为什么我从logistic回归和两层神经网络(输入层和输出层)中得到了不同的结果。输出层使用sigmoid激活函数。根据我所了解到的，我们可以使用神经网络中的sigmoid激活函数来计算概率。这应该是非常相似的，如果不是完全相同的逻辑回归试图完成的。然后利用梯度下降将误差降到最小。也许有一个简单的解释，但我不明白为什么准确性分数有这么大的差异。在本例中，我没有使用任何培训或测试集，只是简单的数据来演示我不理解的内容。
logistic回归的准确率为71.4%。在下面的例子中，我为'X‘和结果'y’数组创建了数字。当结果等于'1‘时，
浏览 1提问于2017-09-24得票数 10
回答已采纳
4回答
我是机器学习的新手，我正在尝试为我的一个项目分析分类算法。我在sklearn库中偶然发现了SGDClassifier。但许多论文都将SGD作为一种优化技术。有人能解释一下SGDClassifier是如何实现的吗？
浏览 1提问于2017-08-02得票数 7
2回答
对于逻辑回归，我试图复制维基百科页面的结果。所以，我的代码如下所示：
import numpy as np
from sklearn.linear_model import LogisticRegression
x = np.array([0.5, 0.75, 1, 1.25, 1.5, 1.75, 1.75, 2, 2.25, 2.5, 2.75, 3, 3.25, 3.5, 4, 4.25, 4.5, 4.75, 5, 5.5])
y = np.array([0, 0, 0, 0, 0, 0, 1, 0, 1, 0, 1, 0, 1, 0, 1, 1, 1, 1, 1, 1])
log
浏览 2提问于2017-06-25得票数 3
1回答
以Iris数据为基础，选择基于GridSearchCV函数的最优逻辑模型。
我的工作到目前为止
import numpy as np
from sklearn import datasets
from sklearn.model_selection import GridSearchCV
from sklearn.linear_model import LogisticRegression
iris = datasets.load_iris()
X = iris.data[:, :2]
y = iris.target
# Logistic regression
reg_log = Log
浏览 4提问于2020-11-08得票数 0
回答已采纳
1回答
我试着比较线性回归(正常方程)和SGD，但看起来SGD离我们很远。我做错了什么吗？
这是我的密码
x = np.random.randint(100, size=1000)
y = x * 0.10
slope, intercept, r_value, p_value, std_err = stats.linregress(x=x, y=y)
print("slope is %f and intercept is %s" % (slope,intercept))
#slope is 0.100000 and intercept is 1.61435309565e-11
这是我的
浏览 9提问于2015-07-14得票数 3
回答已采纳
我正在尝试使用正则化( L1或L2)实现逻辑回归。mnrfit()函数不实现正则化。有没有什么内置的函数可以做正则化，或者我必须自己编写正则化代码？如果是这样的话，有没有我可以看的教程？我一直在看的论文在数学上是相当密集的。
浏览 5提问于2013-03-26得票数 1
回答已采纳
Lasso虽然是一种回归算法，但可以用作分类器。因此，应该有一个方法来做一个中华民国曲线，并找到它的AUC。
这是我的代码，用于建模、缩放和标准化它：
X = data.drop(['Response'], axis = 1)
Y = data.Response
from sklearn.model_selection import train_test_split
X_train, X_test, Y_train, Y_test = train_test_split(X, Y, test_size=0.25, random_state = 42)
from sklear
浏览 12提问于2022-08-26得票数 1
回答已采纳
1回答
我查看了scikit learn logistic回归文档，发现惩罚可以是L1和L2。我知道套索和岭回归分别也称为L1和L2正则化，所以我想知道L1和L2惩罚是否指的是同一件事？
浏览 53提问于2020-12-27得票数 1
回答已采纳
在python sklearn中，SGD分类器和SGD回归器有什么不同？另外，我们可以设置批处理大小以提高性能吗？
浏览 3提问于2019-02-15得票数 1
2回答
岭回归规范化
、、、、
我建立了一个简单的线性模型，其中X(维数D)变量来自具有0协方差的多重正态变量。只有前10个变量的真系数为1，其余变量的系数为0。因此，理论上，岭回归结果应该是真系数除以(1+C)，其中C是惩罚常数。
import numpy as np
from sklearn import linear_model
def generate_data(n):
d = 100
w = np.zeros(d)
for i in range(0,10):
w[i] = 1.0
trainx = np.random.normal(size=(n,d))
e
浏览 1提问于2018-06-07得票数 0
回答已采纳
3回答
Logistic回归中的参数微调
、、、、
我正在运行逻辑回归，在文本列上运行tf-idf。这是我在逻辑回归中使用的唯一一列。如何才能确保参数尽可能地调优？
我希望能够运行一组步骤，最终允许我说我的Logistic回归分类器运行得尽可能好。
from sklearn import metrics,preprocessing,cross_validation
from sklearn.feature_extraction.text import TfidfVectorizer
import sklearn.linear_model as lm
import pandas as p
loadData = lambda f: np.genfr
浏览 0提问于2014-02-17得票数 20
回答已采纳
有没有一种方法可以通过参数或其他方式在statsmodel中对logistic回归模型进行L2惩罚？我只是在文档中找到了L1惩罚，但没有L2惩罚。
浏览 16提问于2016-05-21得票数 9
我正在尝试将LogisticRegression模型从sklearn应用到MNIST数据集，并且我已经将培训-测试数据分成了70-30个部分。
然而，当我简单地说model.fit(train_x, train_y)时，需要很长的时间。
我在启动逻辑回归时没有添加任何参数。
代码：
import seaborn as sns
import matplotlib
import matplotlib.pyplot as plt
from sklearn.datasets import fetch_mldata
from sklearn.linear_model import Logistic
浏览 1提问于2019-04-26得票数 1
在tensorflow中，我们可以在序列模型中添加L1或L2正则化。我在pytorch中找不到类似的方法。我们如何在net的定义中为pytorch中的权重添加正则化： class Net(torch.nn.Module):
def __init__(self, n_feature, n_hidden, n_output):
super(Net, self).__init__()
self.hidden = torch.nn.Linear(n_feature, n_hidden) # hidden layer
""&#
浏览 70提问于2021-02-02得票数 3
回答已采纳
2回答
我试图用python对波士顿的住房数据运行岭回归，但我有以下问题，我在任何地方都找不到答案，所以我决定在这里发布它： 是否建议在拟合模型之前进行缩放？因为当我缩放和不缩放时，我得到相同的分数。另外，就选择最佳阿尔法而言，阿尔法/科夫图的解释是什么？ import numpy as np
import pandas as pd
import matplotlib.pyplot as plt
import seaborn as sns
import matplotlib.pyplot as plt
%matplotlib inline
from sklearn import linear_mo
浏览 25提问于2019-01-08得票数 3
回答已采纳
1回答
我正在尝试使用scikit-learn在令牌级对数据进行分类。我已经有了一个train和test拆分。数据采用以下\t分离格式：
-----------------
token label
-----------------
way 6
to 6
reduce 6
the 6
amount 6
of 6
traffic 6
....
public 2
transport 5
is 5
a 5
key
浏览 0提问于2020-05-29得票数 0
1回答
我对助推的理解只是循序渐进地训练模型，并从以前的错误中吸取教训。
built算法能用多个logistic回归建立吗？还是logistic回归+决策树？
如果是的话，我想知道一些深入讨论这个问题的论文或书籍.
浏览 0提问于2021-09-08得票数 1
回答已采纳
2回答
我喜欢在统计模型中使用线性套索回归，以便能够使用“公式”符号来编写模型，这将为我在处理许多分类变量及其交互时节省相当多的编码时间。然而，它似乎还没有在统计模型中实现？
浏览 1提问于2017-04-17得票数 11
回答已采纳
假设我运行SGDRegressor或SGDClassifier，并获得一组我想在将来使用的系数。做基本的预测绝对是微不足道的(因为对于回归器来说，这只是矩阵乘法)，但如果能够在拟合的模型上使用其他方法(如predict_proba等)，那就更好了。有没有一般的方法可以做到这一点？我翻遍了所有的文件但什么也没找到。
为清晰起见，特定的代码示例：
from sklearn import linear_model
sgd = linear_model.SGDRegressor()
sgd.fit([[0, 1, 1], [0, -1, 1]], [0, 1])
coefs = sgd.coef_
浏览 4提问于2013-05-20得票数 2
回答已采纳
我正在做多类分类并应用Logistic回归
当我通过调用
logistic.fit(InputDATA,OutputDATA)
估计量“逻辑”符合数据。
现在，当我调用logistic.coef_时，它会打印一个4行(我有4个类)和n列(每个特性都有一个)的2D数组。
这就是我在SCIKIT学习网站上看到的：
coef_：用于线性回归问题的数组、形状( n_features )或(n_targets，n_features)估计系数。如果在fit (Y2D)中传递多个目标，这是一个二维形状数组(n_targets，n_features)，而如果只传递一个目标，则这是长度为n_features的
浏览 7提问于2015-07-22得票数 8
一种训练Logistic回归的方法是使用随机梯度下降，而scikit-learn提供了一个接口。
我想做的是拿一个科学工具-学习的SGDClassifier，并让它的分数与Logistic回归这里一样。然而，我一定是错过了一些机器学习的改进，因为我的分数并不相等。
这是我目前的密码。我在SGDClassifier上遗漏了什么，它会产生与Logistic回归相同的结果？
from sklearn import datasets
from sklearn.linear_model import LogisticRegression
from sklearn.linear_model import
浏览 0提问于2015-08-04得票数 28
回答已采纳
在python的sklearn中，有一个用于的C参数(正则化参数)。
现在，我想知道R语言中的等价物是什么？当我在R中做逻辑回归时，我是这样做的：
glm(<outcome> ~ <covariates>, family="binomial")
但是它对C参数使用的是什么呢？C用于正则化，但我在R中找不到任何这样的等价物
以下是我检查过的一些地方：
浏览 0提问于2016-03-18得票数 0
我读过关于自动编码器的，这是由安德鲁·吴介绍的。在这里，他用稀疏的正则化来减少联系，但稀疏性的公式与正则化的公式不同。所以，我想知道为什么我们不直接使用正则化术语，如模型NNs或logistic回归：(1/2 * m) * Theta^2？
浏览 3提问于2016-09-24得票数 0
我使用的SGDRegressor具有恒定的学习速率和默认的损失函数。我很想知道函数中的alpha参数从0.0001更改到100将如何改变回归者的行为。下面是我的示例代码：
from sklearn.linear_model import SGDRegressor
out=[(0,2),(21, 13), (-23, -15), (22,14), (23, 14)]
alpha=[0.0001, 1, 100]
N= len(out)
plt.figure(figsize=(20,15))
j=1
for i in alpha:
X= b * np.sin(phi) #Sinc
浏览 0提问于2022-04-08得票数 1
3回答
什么是体重衰减？
、、、
我最近开始学习ML和TensorFlow。在浏览网站上的时，我看到了一段让我有点困惑的段落：
训练网络进行N维分类的常用方法是多项式logistic回归。softmax回归Softmax回归将一个softmax非线性应用于网络的输出，并计算归一化预测和标签的1-热编码之间的交叉熵。对于正则化，我们还将通常的质量衰减损失应用于所有学习变量。模型的目标函数是交叉熵损失和所有这些重量衰减项之和，由损失()函数返回。
我在论坛上读过一些关于什么是重量衰减的答案，我可以说，它被用于正则化的目的，以便计算权重的值，以获得最小的损失和更高的精确度。
在上面的文章中，我了解到loss()是由交叉熵损失
浏览 14提问于2017-08-07得票数 2
回答已采纳
我是Python的新手，我想要拟合一个岭二项回归。我知道二项式回归可以在以下网址获得：
我还知道带有L2惩罚的逻辑回归可以用sklearn.linear_model拟合。
因为binomial是Bernoulli的总和，所以我可以在将我的二项式结构化数据转换为Bernoulli结构后，通过更改它的第i行来使用scikit：
(size_i，success_i)
转换成长度为size_i的向量，记录success_i 1和size_i - success_i 0。但是，这对我不起作用，因为size_i非常大。
有没有办法用Python拟合二项岭回归？
浏览 0提问于2016-04-06得票数 0
代码：
from sklearn.linear_model import LogisticRegression
l = LogisticRegression()
b = l.fit(XT,Y)
print "coeff ",b.coef_
print "intercept ",b.intercept_
这是数据集
XT =
[[23]
[24]
[26]
[21]
[29]
[31]
[27]
[24]
[22]
[23]]
Y = [1 0 1 0 0 1 1 0 1 0]
结果：
coeff [[ 0.00850441]]
浏览 5提问于2017-03-06得票数 2
回答已采纳
2回答
我试图为回归做一个简单的测试用例，它是x的线性函数，但是SGDRegressor给了我一个错误的结果。
import numpy as np
from sklearn.linear_model import SGDRegressor
from random import random
X = np.array(range(1000))
y = np.array([x + random() for x in X])
X = X.reshape(1000,1)
sgd = SGDRegressor()
sgd.fit(X, y)
print [sgd.intercept_, sgd.coef_]
浏览 0提问于2015-07-16得票数 4
回答已采纳
1回答
我在dataset上使用Keras运行一个logisitic回归模型。然而，我经常在一个问题中运行，在这个问题中，模型的验证精度值低于理论值。
这个假设被这样的事实所证实:如果我再次运行模型(不改变任何东西)，模型会以不同的值(通常是更高的值)进行验证。
我认为这样的问题是由于梯度下降遇到了一个局部极小值，当我再次运行它时，由于随机波动，我有时会跳过局部极小值。
那么有什么办法，来防止这样的问题呢？
def base():
model = Sequential()
model.add(Dense(20,activation = 'linear', input_d
浏览 0提问于2018-07-05得票数 0
回答已采纳
1回答
我正在使用Sklearn逻辑回归函数对文本进行二进制分类。
我使用三种不同的输入来完成任务:单词袋，TF-以色列国防军，Doc2vec嵌入.
问题是，对于文字袋，更强的正则化提高了测试集的性能.然而，对于TF和Doc2vec嵌入，更强的正则化并不能提高测试集的性能.实际上，性能降级与更强的正则化。
为什么是这种情况？
浏览 0提问于2020-06-28得票数 0
我正在训练Logistic回归，并使用袋子。我想使用gridsearch CV来找到最好的超参数。我使用'__‘来表示基础估计器的一个超参数：
from sklearn.linear_model import LogisticRegression
from sklearn.ensemble import BaggingClassifier
param_grid = {
'base_estimator__C': [1e-15, 1e-10, 1e-8, 1e-4, 1e-3, 1e-2, 1, 5, 10, 20, 50, 100, 1000], # lambd
浏览 9提问于2020-06-01得票数 0
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
实时音视频
即时通信 IM活动推荐
腾讯云开发者
