人工智能学习 - 正则化和特征选择

// 导入包含回归方法的类
from sklearn.linear_model import Ridge
// 创建类的实例
RR = Ridge(alpha=1.0)
// 在数据上拟合实例，然后预测期望
RR = RR.fit(X_train, y_train)
y_predict = RR.predict(X_test)

// 导入包含回归方法的类
from sklearn.linear_model import ElasticNet
// 创建类的实例
EN = ElasticNet(alpha=1.0,l1_ratio=0.5)
// 在数据上拟合实例，然后预测期望
EN = EN.fit(X_train, y_train)
y_predict = EN.predict(X_test)

// 导入包含特征选择方法的类
from sklearn.feature_selection import RFE
// 创建类的实例
rfeMod = RFE(est, n_features_to_select=5)
// 在数据上拟合实例，然后预测期望值
rfeMod = rfeMod.fit(X_train, y_train)
y_predict = rfeMod.predict(X_test)

// 导入包含回归模型的类
from sklearn.linear_model import SGDRegressor
// 创建类的实例
SGDreg = SGDRregressor(loss='squared_loss',alpha=0.1, penalty='l2')
// 在数据上拟合实例，然后预测数据
SGDreg = SGDreg.fit(X_train, y_train)
y_pred = SGDreg.predict(X_test)
// 其他损失方法：Epsilon_insensitive、huber 等

// 导入包含分类模型的类
from sklearn.linear_model import SGDClassifier
// 创建类的实例
SGDclass = SGDClassifier (loss='log',alpha=0.1, penalty='l2')
// 在数据上拟合实例，然后预测数据
SGDclass = SGDclass.fit(X_train, y_train)
y_pred = SGDclass.predict(X_test)
// 其他损失方法：hinge、squared_hinge 等