2回答
我使用sklearn.tree.DecisionTreeRegressor预测了一个具有两个独立变量的回归问题，即特征"X"，"Y“和预测的可靠变量"Z”。当我绘制树时，叶子似乎与分类树没有太大不同。结果不是每个叶上的函数，而是每个叶上的单个值，就像在分类中一样。 有人能解释一下，为什么这被称为回归，为什么它不同于分类树吗？ 因为我似乎误解了sklearn类，有没有python的树包，它会进行“真正的”回归，并且在每个叶子上都有一个输出函数？对于X、Y和Z，这可能是每片叶子上的某种曲面。
浏览 46提问于2021-01-08得票数 0
2回答
回归树性能不佳
、、
我的目标是像房价这样的连续价值。我正在用它训练一个回归树。我在scklearn中使用Gradientboostregressor，Python。
我的目标值(房价)呈L型分布:高端房价比低端房价高出10倍。我的回归树模型低估了高值，而高估了低值。
我能做些什么来改进模型预测？我尝试对log(价格)建模，然后对exp(预测)建模，但效果不佳。
非常感谢。
浏览 1提问于2020-05-21得票数 1
我已经能够在数据集上创建一个RandomForestClassifier。
clf = RandomForestClassifier(n_estimators=100, random_state = 101)
然后我可以在测试数据上使用它，如下所示：
prediction = pd.DataFrame(clf.predict(x)) # x = Matrix of predictor values
所以我的问题是，我如何在Python之外测试clf.predict，我如何查看正在使用的值，以及如何“手动”测试它。例如，如果您在回归中获得betas值，则可以在Excel中使用这些值并复制
浏览 2提问于2018-11-05得票数 0
1回答
我想建立各种分类和回归决策树。我的用例集中于决策规则的提取和交流。以前，weka在我的组织中被用于决策树学习。weka可以做Python或Sklearn不能做的事情吗？
我目前使用熊猫，小熊，枕木，和sk-学习和其他图书馆为我的工作流程。
浏览 0提问于2020-07-03得票数 2
1回答
在Python & R中，线性回归模型在学习训练数据后给出了数学表达式，通常以截距、变量系数和p值/t值的形式表示。在训练数据集上对复杂模型进行训练后，可以提取基于决策树、随机森林、XGBoost等复杂模型的数学表示吗？
浏览 0提问于2022-11-11得票数 1
我正在查看python和R中隔离森林的各种实现，它们都在python中学习，在R中使用y变量，在ExtraTrees回归器中使用一个y变量。
既然隔离森林是无人监管的，我想知道为什么它会变成一个监督问题？当在以前看不见的数据集上得分时，这不是一个问题吗？
例如，sklearn (python) 第248项具有这样的功能。
在孤独中，第144行也是如此。
浏览 0提问于2020-09-22得票数 4
5回答
梯度增强树库
、、
你知道一个很好的梯度提升树机器学习库吗？
最好是：
具有AdaBoost、TreeBoost、AnyBoost、LogitBoost等优秀算法。
可配置弱分类器
能够同时进行分类和预测(回归)
包含各种允许的信号:数字、类别或自由文本。
C/C++或Python
露天矿
到目前为止，我已经找到了看起来不错的。但我想知道是否还有其他图书馆？
浏览 9提问于2012-01-27得票数 16
我的理解是：
在回归树中:每片叶子的目标值计算为训练期间到达该叶的实例的目标值的平均值。
在模型树中:每个叶的值是一个线性函数，它使用特征的子集，通过对在训练期间到达该叶的实例执行线性回归来确定。
是科学工具中的tree.DecisionTreeRegressor -学习回归树还是模型树
浏览 11提问于2014-06-02得票数 2
回答已采纳
1回答
我对决策树方法很陌生。对于决策树回归模型，它是否只适合于数据的分段步进函数？什么时候，为什么人们会更喜欢它，而不是一些传统的回归，如局部加权(黄土)回归？
浏览 0提问于2017-10-27得票数 3
当我在python中放置random_state = None并运行决策树进行回归时，每次构建树需要不同的变量。
难道不应该只有几个顶部的变量，应该用来分裂，并应该扔给我类似的树每次？
另外，如果我对random_state使用整数并运行决策树，它将为每个random_state设置提供一个不同的树。在有这么多树的情况下，应该选择哪棵树？
浏览 0提问于2020-10-21得票数 1
1回答
我正在学习助推，机器学习集成元算法.教授将三个弱分类器组合成一个整体，并说在这个时间点之前，它是很容易理解的。取一个数据集，训练一个简单的模型，找出最小的错误率，如下所示。这种思想很容易实现，例如，梯度下降会使logistic回归到最小的错误率。然后，教授夸大其词地讨论了数据分类器的错误。
我的问题是:这是什么意思？有人可以根据Python或R中的开放数据集提供此操作的示例吗？
浏览 0提问于2019-05-09得票数 3
我读过一个比较线性回归和随机森林回归的问题。我当时应该在两者之间作出选择，并解决一个问题。问题中提到，“随机森林也能比线性回归更好地处理缺失值和基数”。为什么会这样呢？这是怎么发生的？
浏览 0提问于2022-06-17得票数 1
4回答
如何在Python中可视化回归树
、、、、
我希望可视化一个回归树构建使用任何集成方法在科学学习(梯度提升回归，随机森林回归，打包回归)。靠近，处理分类器树。但是，这些问题需要“树”方法，这是SKLearn中的回归模型所不能使用的。
但它似乎没有产生任何结果。我遇到了问题，因为这些树的回归版本没有.tree方法(该方法只存在于分类版本)。我想要一个类似于的输出，但是基于一个sci工具包，学习树。
我已经探索了与对象相关的方法，但无法给出答案。
浏览 4提问于2017-11-09得票数 2
回答已采纳
1回答
我正在测试梯度提升回归器从滑雪板，时间序列预测噪音数据(货币市场)。
https://scikit-learn.org/stable/modules/generated/sklearn.ensemble.GradientBoostingRegressor.html
令人惊讶的是，梯度增强回归器在训练数据上达到了很高的精度--这让人吃惊，因为数据太吵了。但是，它在测试集上表现很差。
这显然是过度拟合的情况，所以我想知道我可以改变哪些参数来正则化梯度增强回归。
到目前为止，我已经尝试了max_depth，将其减少到1(从默认的3)。在提高验证集的准确性方面，这似乎非常有效。
有人知道我可以调整哪些
浏览 0提问于2019-11-18得票数 1
回答已采纳
1回答
我刚接触分析，并且正在寻找各种方法来生产模型。比方说，对于线性回归，我们可以得到方程y= mx +c，我们可以将其用于传入数据，我们可以将它从R/ SAS/ Python中提取出来，并在任何数据库中使用它，也可以是…
如果我想在R/ SAS / Python框架之外的传入数据上生成XG boost / Decison树/ Random forest，它是如何工作的？我可以从哪里得到自变量的参数？
我从哪里得到要实现的方程式？
谢谢
浏览 1提问于2017-07-16得票数 0
1回答
我有一个提供辐射度的卫星数据，我用它来计算通量(使用表面和云信息)。现在使用回归方法，我可以得到一个将辐射和通量联系起来的数学模型，并且可以用来预测新辐射度值的通量，而不需要其他新的输入。
是否可以使用决策树或回归树来执行相同的操作？在回归中，有一个连接因变量和自变量的数学方程。使用决策树，您如何开发这样的模型？
浏览 0提问于2013-07-13得票数 0
我想建立一个随机森林回归模型来模拟计数数据(泊松分布)。默认的'mse‘损失函数不适用于此问题。有没有一种方法可以定义自定义损失函数并将其传递给Python中的随机森林回归器(Sklearn等)？
有没有什么实现可以将Python中的计数数据放入任何包中？
浏览 4提问于2018-03-26得票数 7
学习GradientBoostingRegressor：
📷
我在看GradientBoostingRegressor的scikit学习文档。
这里说，我们可以使用'ls‘作为一个损失函数，这是最小二乘回归。但是我很困惑，因为最小二乘回归是一种最小化SSE损失函数的方法。
所以他们不应该在这里提到SSE吗？
浏览 0提问于2020-10-22得票数 1
回答已采纳
问题:连续变量的值随时间的模型演变。
我读了一篇论文，介绍了一种预测时间序列下一个值的方法。虽然ARIMA模型对于长期预测更准确，但ARTXP模型更适合于推断下一个值。
微软的数据挖掘算法库实现了ARTXP，这是自回归树模型的一个变体。
算法是如何工作的？您是否有针对此模型的Python实现？
浏览 0提问于2013-02-28得票数 0
回答已采纳
1回答
我是机器学习领域的初学者，我想学习如何使用梯度增强树(GBT)进行多类分类。我读过一些关于GBT的文章，但是关于回归问题，我找不到关于GBT多类分类的正确解释。我也检查GBT在科学知识-学习图书馆机器学习。GBT的实现是利用回归树作为弱学习者进行多类分类的GradientBoostingClassifier。
GB以提前阶段的方式建立了一个加性模型；它允许对任意可微损失函数进行优化。在每个阶段，n_classes_回归树都适用于二项或多项偏差损失函数的负梯度。二进制分类是一种特殊情况，其中只有一个回归树是归纳出来的。
来源：
问题是，为什么我们用回归树来学习GBT而不是分类树呢？如果有
浏览 0提问于2018-04-25得票数 0
回答已采纳
1回答
在AWS机器学习中，只有两种内建的预测/分类模型.Logistic回归和线性回归。在AWS ML的当前版本中，是否有可能：
( 1)重新建立logistic模型和线性回归模型下的模型。
2)构建用Python/R编写的自己的模型，在AWS ML上实现它们，并运行诸如神经网络、随机森林、集群alghoritms等？
在AWS开发者指南的最新版本中，我找不到那些问题的答案，这是不可能的。有小费吗？
浏览 12提问于2016-12-13得票数 2
回答已采纳
我试图创建一个由一个确定的回归者组成的集合，考虑到这一点，我已经在寻找一些方法来使用sklearn已经存在的集成方法，并试图改变集合的基本估计器。打包文档很清楚，因为它说您可以通过将回归变量作为参数传递给"base_estimator“来更改基估计器，但是使用GradientBoosting，您可以在"init”参数中传递一个回归变量。
我的问题是:在GradientBoosting的init参数中传递我的回归量，它会使用我指定的回归量作为基估计器而不是树吗？文档中说，init值必须是“用于计算初始预测的估计器对象”，因此我不知道我将传递给init的估计器是否实际上是作为弱学习
浏览 2提问于2020-09-15得票数 0
回答已采纳
我已经将回归树与我的数据集相匹配，来自summary(tree1)的输出如下：
Regression tree:
tree(formula = y ~ X)
Variables actually used in tree construction:
character(0)
Number of terminal nodes: 1
Residual mean deviance: 0.985 = 71680 / 72770
Distribution of residuals:
Min. 1st Qu. Median Mean 3rd Qu. Max.
-1.0050
浏览 0提问于2019-08-01得票数 0
4回答
我正在研究一个分类问题。我有一个包含相同数量的分类变量和连续变量的数据集。如何在决策树和逻辑回归之间决定使用哪种技术？
假设logistic回归更适合连续变量，决策树更适合连续变量和范畴变量，这是否正确？
浏览 0提问于2015-06-09得票数 17
回答已采纳
2回答
如果数据集包含一些特征，其中一些是分类变量，另一些是连续变量，则决策树比线性回归更好，因为树可以根据分类变量准确地划分数据。是否存在线性回归优于随机森林的情况？
浏览 2提问于2018-06-26得票数 3
2回答
我的预测模型中既有分类特征，也有连续特征，我希望选择(和排序)最重要的特征。
我使用一个热编码将所有的分类变量转换为虚拟变量(为了更好地解释我的logistic回归模型)。
一方面，我使用LogisticRegression (sklearn)，并通过使用它们的系数对最重要的特征进行排序。通过这种方式，我将分类变量和连续变量都视为最重要的特性。
另一方面，当我想使用决策树模型(SelectFromModel)对特征进行排序时，他们总是先给连续的特征排序(feature_importances_)，然后给出分类(虚拟)变量。与Logistic回归完全不同的行为。
虽然决策树模型的性能远高于Log
浏览 0提问于2020-01-15得票数 9
回答已采纳
我正在学习分类/回归构建树，并想了解树函数是如何知道是构建分类树还是回归树。
下面构建分类树：
library(tree)
library(ISLR)
library(dplyr)
Carseats <- Carseats %>% mutate(High = factor(ifelse(Sales <= 8, "No", "Yes")))
tree.carseats <- tree(High~ . -Sales, Carseats)
这将创建一个回归树：
library(MASS)
set.seed(1)
tree.boston=tre
浏览 2提问于2020-03-19得票数 1
回答已采纳
1回答
我正在学习随机森林回归模型。我知道它形成了许多树(模型)，然后我们可以通过平均所有树的结果来预测我们的目标变量。我对决策树回归算法也有一定的了解。我们怎样才能形成最佳的树木数量呢？ 例如，我有一个数据集，其中我正在预测人员工资，而我只有两个输入变量，分别是“经验年限”和“绩效得分”，那么使用这样的数据集我可以形成多少随机树？随机森林树依赖于输入变量的数量吗？任何好的例子都会受到高度赞赏.. 提前感谢
浏览 127提问于2019-06-08得票数 1
1回答
我是初学者，正在学习数据科学。
我可以知道分类和回归决策树是如何工作的吗？我想知道决策树是如何从分类到投影计算的。(例如，投影是基于特定组的模式吗？)(分类决策树)；它是特定组的平均值吗？(回归决策树)
我想知道决策树背后的理论。谢谢
浏览 1提问于2018-01-18得票数 1
回答已采纳
我不清楚为什么一些资源在线演示了多目标随机森林回归作为实例化。
model = MultiOutputRegressor(RandomForestRegressor())
相对于：
model = RandomForestRegressor()
当两者似乎都生成多个回归的输出时。有人能澄清吗？
浏览 2提问于2022-10-21得票数 1
当我阅读关于决策树的scikit--学习用户手册时，他们提到
CART (分类和回归树)与C4.5非常相似，但它的不同之处在于它支持数值目标变量(回归)，不计算规则集。CART使用特征和阈值构造二叉树，在每个节点上获得最大的信息增益。
我不明白C4.5算法在哪里计算规则集(我甚至不知道规则集是什么意思)。它与购物车本质上是一样的，只不过它使用吉尼指数而不是交叉熵。
请有人详细解释哪些规则集是什么以及它们在C4.5中是如何使用的？
浏览 0提问于2017-09-23得票数 6
1回答
我曾在同一标准化数据集(二进制分类)上训练过skearn中的Logistic回归和决策树。
决策树的最重要系数是(按tree.feature_importances_排序)：
📷
对于logistic回归(按abs(logreg.coef_)排序)：
📷
“总日费用”是决策树中最重要的系数，而logistic回归则仅为第5位。为什么？
S的“总日收费”比下一个决策树系数高出大约35%，但对于logreg来说，它几乎比最重要的系数少50%。
我无法想象这种最优的分离超平面，至少在三维。我可以想象，logreg中最大的coeff必须与维数相对应，这是最好的分离维数。
浏览 0提问于2022-11-28得票数 0
2回答
我试图在python中的一些栅格数据上构建和实现一个回归树算法，但似乎找不到最好的方法。我将试图解释我想要做的事情：
我想要的输出是光栅图像，它的值代表湖面深度，称为depth.tif。我有一系列的光栅图像，每个图像代表不同的陆地卫星波段的反射值，比如B1.tif，B2.tif，…，B7.tif，我想用它们作为独立变量来预测湖泊深度。
在我的训练数据中，我有一个已知湖深6000点的形状文件。为了创建一棵树，我提取了每个点的对应反射率值，然后将其导出到一个表中。然后，我在机器学习软件weka中使用这个表创建了一个600分支的回归树，它可以根据反射率值来预测深度值。但是因为树太大了，所以我不能用p
浏览 2提问于2014-09-29得票数 0
1回答
如何计算回归决策树的输出
、、、、
在回归树中做了所有可能的拆分后，我试图理解。你最终得到了终端节点，然后你需要计算输出来获得回归估计。在这种情况下，规则是对终端节点中的观测值进行平均，还是在有多个终端节点的情况下使用某种加权平均？！
浏览 22提问于2021-07-07得票数 0
1回答
我有近8-10个变量(其中2个是离散的、分类的)和一个单一的数值目标参数的大约5000到6000次观测。根据初始评价，随机森林回归可能是当前情况下的一个很好的算法。
目前的观察/变量是否足以计算提议的方法？如果其他回归算法被推荐为目前的情况，请告诉我。
浏览 0提问于2020-04-21得票数 1
回答已采纳
1回答
我想从scrach中实现自己版本的CART决策树(以了解它是如何工作的)，但是Gini索引(用于表示数据集的纯度)遇到了一些问题。
更确切地说，我不明白吉尼指数在回归树的情况下是如何工作的。
我能找到的几个描述将其描述为：
gini_index = 1 - sum_for_each_class(probability_of_the_class²)
其中probability_of_the_class只是一个类的元素数除以元素总数的元素数。
但我不能用这个定义在回归的情况下，我有连续的变量。
这里有什么我误解了吗？
浏览 0提问于2018-07-18得票数 3
回答已采纳
我想使用PySpark回归树来预测连续变量，而不是对数据进行分类。例如，在每个终端节点，使用剩余训练数据的平均值。标号是0，无穷大实数。
这在Spark中是可能的吗？文档使用术语回归树：，但是它喜欢预测是连续的，而不是被预测的。
浏览 3提问于2016-06-03得票数 0
我正在使用Python语言中的H2O实现回归树的可视化。
上面的例子提供了一个使用PrintMOJO的方法。但是，输出的数字不包括每个节点的样本大小(以及节点的平均值)。在SKLearn中包含了样本大小和平均值，但我不知道如何在H2O中集成它们。
这就是我要找的：
有什么想法吗？
我寻找了很多资源，但我不知道应该使用哪个选项或变量来实现这一点。如果我换成R，会不会让事情变得更简单？
浏览 5提问于2019-06-03得票数 1
在我的项目中，我应该使用分类器来根据6个输入值来预测8个类中的一个。我必须比较一个只运行C++代码的设备上的所有监督学习分类器。所以我使用python来教/拟合机器学习模型，但是我需要为每个分类器在C++上运行它找出最终的公式。有什么办法从模型中得到这些公式/代码吗？
使用的机器学习算法：
支持向量机
朴素贝叶斯
线性回归
线性判别分析
决策树
K-最近邻算法
Logistic回归
神经网络
梯度增强算法
随机森林。
浏览 2提问于2018-05-27得票数 3
1回答
决策树回归:不需要多项式？
、、、、
我正在测试一个回归任务的不同模型。在使用OLS、Ridge和Lasso时，我使用了不同的多项式度的解释变量。例子:对于两个变量x和y，2级给出了解释变量x，x^2，xy，y，y^2。
然而，在使用决策树时，我不确定使用任何高于1的度作为解释变量是否有意义。示例:在应用决策树回归器时，测试x^2、xy和y^2是否有意义？
我问的原因是，决策树回归是一个非线性回归。一方面，这可能是一个争论，它没有意义，包括高阶多项式，因为十项树已经可以处理非线性。
浏览 0提问于2020-01-20得票数 3
回答已采纳
1回答
我有一个购物网站。我想要建立一个简单的预测模型来预测用户在一次访问后购买某一产品的可能性(在每个页面上花费的时间，她来自哪里，她有多少评论等)，他可能离开一个页面等。
在Ruby on Rails、Python或Java中，有哪些工具可用于此任务？典型的统计建模技术，如逻辑回归，线性回归在这种情况下有效吗？
谢谢。
浏览 2提问于2012-05-11得票数 2
回答已采纳
3回答
我有一个业务问题，我在python中运行了回归模型来预测我的目标值。当我用我的测试集验证它时，我发现我的预测变量与我的实际值相差很远。现在我想从这个模型中提取的东西是，哪个特征起到了偏离我的预测值与实际值的作用(假设差异在某个阈值中)？我想对这些功能的影响进行排名，这样我就可以告诉我的客户了。谢谢
浏览 0提问于2019-01-29得票数 1
1回答
因此，我是Python的新手，我正在尝试使用sklearn包中的DecisionTreeClassifier()函数。问题是，我有(大多数)名义变量，而DecisionTreeClassifier()无法处理这些变量。在R (我很熟悉)中，这很容易解决，只需将变量设置为因子(as.factor())，回归函数就会自动创建虚拟变量并删除一个虚拟引用变量。为此，我使用了pandas.get_dummies()函数，该函数不会删除因子变量的“引用”级别。 这会在DecisionTreeClassifier()函数中引起任何问题吗？有没有更好的方法来做这件事？谢谢。
浏览 38提问于2019-09-05得票数 0
回答已采纳
1回答
我试图通过python实现平衡的树检查，如下所示。
# Balanced tree definition:
# if tree's left and right sub tree are balanced, and their height difference is not bigger than 1, then the tree is balanced else not.
class Node:
def __init__(self, val):
self.left = None
self.right = None
self.
浏览 0提问于2017-07-10得票数 2
2回答
我正在查看中的部分依赖图。在本教程或中没有给出任何等式。R函数的给出了我期望的公式：
对于Python教程中给出的结果来说，这似乎没有意义。如果这是对房价的平均预测，那它又是负的还是小的呢？我期望数以百万计的价值。我是不是遗漏了什么？
更新：
对于回归，似乎平均是从上述公式减去。怎么才能把这个加回去？对于我训练过的模型，我可以通过
from sklearn.ensemble.partial_dependence import partial_dependence
partial_dependence, independent_value = partial_dependence(mo
浏览 0提问于2018-03-13得票数 6
回答已采纳
2回答
如何改进回归？
、、、、
我想问一下，是否有任何方法可以使回归对于我的数据集真正泛化。
我的问题是，在我用随机森林或SVM回归器训练数据后，它在训练数据集中工作得很好，但当我尝试测试数据集时，它显示出非常糟糕的结果。即使它们有相同的基本方程。
我真的不知道如何改善这一点。这是否意味着我应该继续使用更多的数据集来训练我的回归？
有人能帮我吗？
浏览 1提问于2021-02-04得票数 1
3回答
我用Python (随机森林回归器)训练了一个预测模型，我想以某种方式提取每个特性的权重，以创建一个用于手动预测的excel工具。
我发现的唯一一件事是model.feature_importances_，但它没有帮助。
有什么办法可以做到吗？
def performRandomForest(X_train, y_train, X_test, y_test):
'''Perform Random Forest Regression'''
from sklearn.ensemble import RandomForestRe
浏览 0提问于2016-01-08得票数 9
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
实时音视频活动推荐
腾讯云开发者
