在图像和语音识别、自然语言处理、医疗诊断、金融预测等领域，它在智慧的浪潮中焕发生机，将未来的可能性绘制得更加丰富多彩。 1.2 逻辑回归 逻辑回归是一种用于解决二分类问题的统计学习方法。...尽管其名字中包含"回归"一词，但实际上，逻辑回归是一种分类算法，用于预测一个样本属于两个类别中的哪一个。...首先设置图的标题和横纵坐标的标注。将x轴标签设置为"Exam 1 score"，表示第一次考试成绩，将y轴标签设置为"Exam 2 score"，表示第二次考试成绩。...该函数的具体实现在代码中并未给出，但可以假设它用于对原始数据进行处理，提取特征和标签，并进行必要的数据预处理步骤。提取得到的特征存储在data_x中，标签存储在data_y中。...通过设置x轴标签为'iteration'，y轴标签为' cost value'，以及图的标题为'curve of cost values'，可以更直观地观察训练过程中代价函数的变化情况。
如果在某一点θ¯，使得J(θ)在每一个坐标轴θ¯i(i = 1,2,…n)上都是最小值，那么J(θi)就是一个全局的最小值。...于是我们的优化目标就是在θ的n个坐标轴上(或者说向量的方向上)对损失函数做迭代的下降，当所有的坐标轴上的θi(i = 1,2,…n)都达到收敛时，我们的损失函数最小，此时的θ即为我们要求的结果。...以上就是坐标轴下降法的求极值过程，可以和梯度下降做一个比较： a) 坐标轴下降法在每次迭代中在当前点处沿一个坐标方向进行一维搜索 ，固定其他的坐标方向，找到一个函数的局部极小值。...而梯度下降总是沿着梯度的负方向求函数的局部最小值。 b) 坐标轴下降优化方法是一种非梯度优化算法。...有没有折中的办法可以综合前向梯度算法和前向选择算法的优点，做一个折中呢？这就是终于要出场的最小角回归法。
x 轴和 y 轴分别代表两个权值，z 轴代表在给定两个特定权值的情况下损失函数的值。我们的目标就是找到损失最小的特定权值，这个点被称作损失函数的最小值点。...我们得到的轨迹完全局限在 x-y 平面内，这个平面包含权重。 正如上面的动画所描述的，梯度下降并不涉及在 z 轴方向上的移动。因为仅由 x 轴和 y 轴方向描述的权重是自由参数。...实际得到的轨迹是定义在 x-y 平面中的，如下图所示： ? 实际的梯度下降轨迹 x-y 平面中的每一个点代表着一个唯一的权重组合，而我们希望有一组由最小值描述的权重。...尽管它在 x 方向上是一个最小值点，但是它在另一个方向上是局部最大值点，并且，如果它沿着 x 方向变得更平坦的话，梯度下降会在 x 轴振荡并且不能继续根据 y 轴下降，这就会给我们一种已经收敛到最小值点的错觉...如果我们进入局部极小值或者鞍点，我们就会被困住。帮助梯度下降摆脱这些困境的一种方法就是随机梯度下降。
MSE是目标变量与预测值之间距离平方之和。 ? 下面是一个MSE函数的图，其中真实目标值为100，预测值在-10,000至10,000之间。预测值（X轴）= 100时，MSE损失（Y轴）达到其最小值。...MSE损失（Y轴）与预测值（X轴）关系图 2、平均绝对误差，L1损失（Mean Absolute Error, L1 Loss） 平均绝对误差（MAE）是另一种用于回归模型的损失函数。...MAE损失（Y轴）与预测值（X轴）关系图 3、MSE vs MAE （L2损失 vs L1损失） 简而言之， 使用平方误差更容易求解，但使用绝对误差对离群点更加鲁棒。但是，知其然更要知其所以然！...Log-cosh是预测误差的双曲余弦的对数。 ? ? Log-cosh Loss（Y轴）与预测值（X轴）关系图。...Quantile Loss（Y轴）与预测值（X轴）关系图。真值为Y= 0 我们也可以使用这个损失函数来计算神经网络或基于树的模型的预测区间。下图是sklearn实现的梯度提升树回归。 ?
x 轴和 y 轴分别代表两个权值，z 轴代表在给定两个特定权值的情况下损失函数的值。我们的目标就是找到损失最小的特定权值，这个点被称作损失函数的最小值点。...我们得到的轨迹完全局限在 x-y 平面内，这个平面包含权重。 正如上面的动画所描述的，梯度下降并不涉及在 z 轴方向上的移动。因为仅由 x 轴和 y 轴方向描述的权重是自由参数。...实际得到的轨迹是定义在 x-y 平面中的，如下图所示： 实际的梯度下降轨迹 x-y 平面中的每一个点代表着一个唯一的权重组合，而我们希望有一组由最小值描述的权重。...尽管它在 x 方向上是一个最小值点，但是它在另一个方向上是局部最大值点，并且，如果它沿着 x 方向变得更平坦的话，梯度下降会在 x 轴振荡并且不能继续根据 y 轴下降，这就会给我们一种已经收敛到最小值点的错觉...如果我们进入局部极小值或者鞍点，我们就会被困住。帮助梯度下降摆脱这些困境的一种方法就是随机梯度下降。
敏捷是应对不确定因素的一种灵活管控方式，所以，在敏捷项目环境中，我们需要监控需求交付的价值来确保满足客户的期望，及时跟干系人沟通，反馈项目的真实状态。...期间，我们可以采用一些工具和技术来追踪、报告价值，包括挣值、累计流量图、风险燃尽图和任务看板面板等。 一、燃尽图 燃尽图是一个用来展示迭代进度的信息发射源。...以图形化的方式展现了团队迭代剩余的工作量(y轴)与工作日(x轴)的关系，因整体上总是递减而得名。其目的是监控迭代进度或者项目的进度，追踪剩余的总和并预测达成迭代目标的可能性。...然后，在大多数项目中，项目经理都会执行风险分析，风险应对，弱化对风险管理的规划，导致在选择任务和进度规划时没有考虑到这些风险因素。 使用敏捷方法，有很多机会可以在项目风险变成问题前主动进行应对。...三、燃起图 燃起图，以图形化的方式展现了项目或团队多个迭代的需求累计完成情况(y轴)和各迭代(x轴)的关系，因整体上总是递增而得名。
这些项可以使用 N 个整数之类的值进行索引。 所有 ndarrays 都是同构的：每个项目占用相同大小的内存块，并且所有块的解释方式完全相同。...| ## 数组方法 一个ndarray 对象有许多方法，这些方法以某种方式在数组上操作或与数组一起操作，通常返回一个数组结果。以下简要解释了这些方法。（每个方法的文档字符串中有更完整的描述。）...如果 axis 是整数，则操作在给定轴上完成（对于可以沿给定轴创建的每个 1-D 子数组）。...如果axis是整数，则对给定轴进行操作（对可以沿给定轴创建的每个 1 维子数组进行操作）。...示例 拥有自己内存的数组的基本对象为 None： >>> x = np.array([1,2,3,4]) >>> x.base is None True 切片创建一个视图，其内存与 x 共享： >>>
但是Lasso回归有一个很大的问题，导致我们需要把它单独拎出来讲，就是它的损失函数不是连续可导的，由于L1范数用的是绝对值之和，导致损失函数有不可导的点。...于是我们的优化目标就是在\(\theta\)的n个坐标轴上(或者说向量的方向上)对损失函数做迭代的下降，当所有的坐标轴上的\(\theta_i\)(i = 1,2,...n)都达到收敛时，我们的损失函数最小...以上就是坐标轴下降法的求极值过程，可以和梯度下降做一个比较： a) 坐标轴下降法在每次迭代中在当前点处沿一个坐标方向进行一维搜索 ，固定其他的坐标方向，找到一个函数的局部极小值。...而梯度下降总是沿着梯度的负方向求函数的局部最小值。 b) 坐标轴下降优化方法是一种非梯度优化算法。...有没有折中的办法可以综合前向梯度算法和前向选择算法的优点，做一个折中呢？有！这就是终于要出场的最小角回归法。
MSE是目标变量与预测值之间距离平方之和。 下面是一个MSE函数的图，其中真实目标值为100，预测值在-10,000至10,000之间。预测值（X轴）= 100时，MSE损失（Y轴）达到其最小值。...MSE损失（Y轴）与预测值（X轴）关系图 2、平均绝对误差，L1损失（Mean Absolute Error, L1 Loss） 平均绝对误差（MAE）是另一种用于回归模型的损失函数。...MAE损失（Y轴）与预测值（X轴）关系图 3、MSE vs MAE （L2损失 vs L1损失） 简而言之， 使用平方误差更容易求解，但使用绝对误差对离群点更加鲁棒。但是，知其然更要知其所以然！...Log-cosh是预测误差的双曲余弦的对数。 Log-cosh Loss（Y轴）与预测值（X轴）关系图。...Quantile Loss（Y轴）与预测值（X轴）关系图。真值为Y= 0 我们也可以使用这个损失函数来计算神经网络或基于树的模型的预测区间。下图是sklearn实现的梯度提升树回归。
深度学习模型的目标函数可能有若干局部最优值 鞍点和海森矩阵 区别于驻点，驻点是导数为0且能取到极值的解，而鞍点是一阶二阶导数都为0的点，比如，它在上不是极值点，但它在0上的一阶导为0，这样的点成为鞍点，...这样目标函数在x轴方向上是局部最小值，但在y轴方向上是局部最大值，但是它的对x的偏导(梯度)和对y的偏导都为0，那怎么判断是鞍点还是极值点呢，即如何求出并判断出二维函数的极值呢，可由二阶泰勒公式进行推导...，这里是数学分析学科的重要内容，需要引入海森矩阵的定义，海森矩阵其实就是多元函数二阶导数构成的矩阵H，这里以二元函数f(x,y)为例子 一般来说，海森矩阵是对称阵，因为深度学习中的目标函数的二阶导数一般是连续的...，然后将目标函数自变量中的每一个元素按照公式 进行调整，其中是防止分母为0的项，这里的开方、除法和乘法的运算都是按元素运算的，这些按元素运算使得目标函数自变量中每个元素或者每个维度都分别拥有自己的学习率...如此一来，自变量每个元素的学习率在迭代过程中因为考虑了历史更新值就不再一直降低或不变，使用了小批量随机梯度按元素平方的指数加权移动平均来调整学习率的方法 AdaDelta算法 它也是针对AdaGrad算法在迭代后期可能较难找到有用解的问题做了改进的一种方法
边缘直方图（Marginal Histogram） 边缘直方图具有沿 X 和 Y 轴变量的直方图。这用于可视化 X 和 Y 之间的关系以及单独的 X 和 Y 的单变量分布。...带标记的发散型棒棒糖图（Diverging Lollipop Chart with Markers） 带标记的棒棒糖图通过强调您想要引起注意的任何重要数据点并在图表中适当地给出推理，提供了一种对差异进行可视化的灵活方式...密度图（Density Plot） 密度图是一种常用工具，用于可视化连续变量的分布。通过“响应”变量对它们进行分组，您可以检查 X 和 Y 之间的关系。...则可以在右侧的辅助 Y 轴上再绘制第二个系列。...此图使用“谋杀”和“攻击”列作为 X 和 Y 轴。或者，您可以将第一个到主要组件用作 X 轴和 Y 轴。 49.
边缘直方图（Marginal Histogram） 边缘直方图具有沿 X 和 Y 轴变量的直方图。这用于可视化 X 和 Y 之间的关系以及单独的 X 和 Y 的单变量分布。...带标记的发散型棒棒糖图（Diverging Lollipop Chart with Markers） 带标记的棒棒糖图通过强调您想要引起注意的任何重要数据点并在图表中适当地给出推理，提供了一种对差异进行可视化的灵活方式...密度图（Density Plot） 密度图是一种常用工具，用于可视化连续变量的分布。通过“响应”变量对它们进行分组，您可以检查 X 和 Y 之间的关系。...则可以在右侧的辅助 Y 轴上再绘制第二个系列。...此图使用“谋杀”和“攻击”列作为 X 和 Y 轴。或者，您可以将第一个到主要组件用作 X 轴和 Y 轴。 ? 49.
更简短的写法是输入-输出对，比如(3,4)。我们可以创建许多对形式(x,f(x)) ，例如(5,6)和(8,9)、(1,2)和(6,7)。但是，当我们按输入数字对这些对排序时，就更容易理解这个函数。...相反，我们可以将这些对解释为二维坐标上的形式 ? 。 这是一个二维矢量上面的数字代表X轴上的横坐标，下面的数字代表Y轴上的纵坐标。也就是y=f(x)我们可以在表面上画出这些点。...它在层次结构窗口中具有一个蓝色图标，并在其右侧具有一个箭头。检查器的标题还表明它是预制件，并显示更多控件。现在，位置和旋转以粗体显示，表明实例的值覆盖了预制件的值。...（Y=X） 一个稍微不那么明显的函数是f (x)=x的平方，它定义了一个最小值为0的抛物线。 ? ? （Y=X的平方） 2 创建更多立方体 尽管此时我们有一个函数视图，但这很丑陋。...4.1 保持对点的追踪 要为视图制作动画，我们需要随着时间的推移调整其点的位置。我们可以通过删除所有点并在每次Update时创建新点来实现，但这是一种非常低效的方式。
像下面这个图，就是一个回归问题的预测。再举个简单的例子，比如可以根据房屋的面积、户型、楼层等指标预测房屋的价格，这也是一个回归问题，因为我们最终预测的结果不是一个类别型变量，而是一个连续型变量。 ?...梯度下降算法 首先在一个三维空间中，以 作为x轴，以 作为y轴，以损失函数 作为z轴，那我们的目的就是在找到z轴最小值的同时确定其所对应的x轴上的值 和y轴上的值 。...经过多次迭代之后，x轴和y轴上的值决定的点就慢慢的靠近z轴上的最小处。 ? 上面这个图是从正上方视角去看刚才的那个三维空间。...我们随机选择的点在x0处，经过多次迭代之后，慢慢的靠近圆心处，也就是z轴上最小值附近。 这里面有一个核心问题需要注意，在x0处为什么会走向图中的x1处，为什么不是另一个方向呢？...线性回归过拟合 当线性回归模型过拟合时我们通常使用正则化的方法来进行优化，此时我们主要是对损失函数进行优化： 前半部分是我们在线性回归模型中的损失函数，也就是预测值和实际值的误差。
我们可以说函数映射了 3到4，写这个的一个更短的方法是把它们作为一个输入-输出对，比如(3，4)。我们可以创建许多对形式(x，f(X))。例如(5，6)和(8，9)和(1，2)和(6，7)等等。...这是一个2D向量，上面的数字代表水平坐标，在X轴上，底部的数字代表Y轴上的垂直坐标。换句话说，y=f(X)。然后在一个坐标轴的表面上画出这些点。只要有足够多的点，就会得到一条线。...要做到这一点的话，就需要把这些立方图做成模板。把立方体从层次结构窗口（hierarchy window）拖到项目窗口（project window）中。...（一个立方体的预制件） 预制体（Prefabs ）是配置游戏对象的一种方便的方法。如果你更改了预置体资源，那么它在任何场景中的所有实例都会以相同的方式进行变更。...实例化方法为我们提供了对它创建的任何内容的引用。因此，我们给它创建一个 Transform 组件的临时变量来持有函数的返回值。 ? 现在我们可以通过给它分配3D向量来调整点的位置。
线性回归使用最佳的拟合直线（也就是回归线）在因变量（ ）和一个或多个自变量（ ）之间建立一种关系。在这种技术中，因变量是连续的，自变量可以是连续的也可以是离散的，回归线的性质是线性的。...类比线性方程 ： 可以用矩阵的形式表示该方程，其中 x 与 w 均可以被看作一个列矩阵： 通过函数 ，线性回归使用输入的特征矩阵 来输出一组连续型的标签值 y_pred，以完成各种预测连续型变量的任务...贝叶斯公式 + 条件独立假设 = 朴素贝叶斯方法 逻辑回归 逻辑回归实际上是用线性回归模型的预测结果去逼近后验概率的逻辑发生比 为特征权重和， 为特征值，可以是连续变量，也可以是离散变量。...ax.spines['bottom'].set_position(('data',0)) #data表示通过值来设置x轴的位置，将x轴绑定在y=0的位置 ax.spines...['left'].set_position(('axes',0.5)) #axes表示以百分比的形式设置轴的位置，即将y轴绑定在x轴50%的位置，也就是x轴的中点; 三维图 import
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
云直播
对象存储
实时音视频
