前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >专栏 >讲讲似然比检验

讲讲似然比检验

作者头像
张俊红
发布于 2020-09-15 08:34:27
发布于 2020-09-15 08:34:27
2.6K0
举报
文章被收录于专栏:张俊红张俊红
总第239篇/张俊红

前面我们讲了T检验、F检验、Q检验等。这一篇来讲讲似然比检验。在讲似然比检验之前,我们先讲两个与似然比相关的概念:似然函数与极大似然估计。

似然函数

说到似然函数,就不得不说一下似然性了,似然性是与概率相对应的一个概念。概率用于在已知一些参数的情况下,预测接下来的观测所得到的结果,而似然性则是用于在已知某些观测所得到的结果时,对有关事物的性质的参数进行估计。

我们知道正态分布的概率密度函数的中主要有两个参数:均值和标准差。如果我们知道了数据服从正态分布,也知道该分布对应的均值和标准差,这个时候我们就知道每个值发生的可能性,这就是概率;如果我们不知道分布对应的均值和标准差,但是可以观测到已经发生的一些值,那么通过已经观测到的结果值对分布对应的均值和标准差进行估计的过程就是似然性。

已经观测到的值x与要估计的参数θ之间会构造出来一个函数,这个函数就是似然函数:L(θ|x)。

似然函数L(θ|x)(在数值上)等于给定参数θ后变量X整体观测结果的概率,等于每一个x取值的概率乘积。

如果已知了变量x的分布,那么每个x发生的概率就是其概率密度函数得出。

极大似然估计

知道什么是似然函数以后,我们再来看看什么是极大似然估计。用一句话来描述就是:极大似然估计是求取使观测到的结果概率P(X = x|θ)最大化时对应的参数θ的取值。

其实就是求似然函数L(θ|x)最大时对应的θ值,我们知道,要求最值,一般都是对函数求导即可,这里对函数L(θ|x)求导,即可得到θ值。

似然比检验

了解完似然函数和极大似然估计以后,我们再来看我们今天的主题,似然比检验。

似然比检验和其他检验思想比较类似,似然比检验的核心是根据似然比这个统计量来进行判断,其他检验是根据其他统计量来进行判断,比如t检验是根据t统计量来进行判断。

似然比检验的原假设H0是:θ=θ0,备择假设H1:θ=θ1,其中θ0是θ1的子集。

似然比的公式如下:

似然比表示θ取不同值对应的似然函数的比值。如果λ很大,说明参数θ=θ1时对应的似然性要比θ=θ0时对应的似然性大。此时,更倾向于拒绝H0假设;反之,若此值较小,说明参数θ=θ0时对应的似然性要比θ=θ1时对应的似然性大,更倾向于接受H0假设。

那λ到底大于多少算大,小于多少算小呢?这个时候就需要有个临界值λ0,如果λ>λ0,那么就拒绝H0假设。

接下来的问题就是求取λ0,要临界值λ0,必须知道当H0成立时λ的分布,当n足够大时,λ是服从卡方分布的,知道分布,然后再根据显著性水平α就可以计算出临界值了。

以上就是关于似然比检验相关的内容。

本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2020-09-05,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 俊红的数据分析之路 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
暂无评论
推荐阅读
编辑精选文章
换一批
2000字详解:极大似然估计, 最大后验概率估计
统计学中,似然函数是一种关于统计模型参数的函数。给定输出x时,关于参数θ的似然函数为L(θ|x),似然函数在数值上等价与给定θ后的
double
2018/07/31
2K0
数学模型-参数估计和显著性
极大似然估计(Maxinum Likelihood Estimation):利用总体的分布密度或概率分布的表达式及其样本所提供的信息求未知参数估计量的一种方法.
EatRice
2020/06/02
2.3K0
数学模型-参数估计和显著性
概率统计学习之参数估计与假设检验
假设随机变量X的分布函数是已知的,但是它的一个或多个参数未知,需要借助总体的一个样本来对总体参数进行估计,就是参数估计问题。
SYSU星空
2022/05/05
1K0
概率统计学习之参数估计与假设检验
使用TensorFlow Probability实现最大似然估计
TensorFlow Probability是一个构建在TensorFlow之上的Python库。它将我们的概率模型与现代硬件(例如GPU)上的深度学习结合起来。
deephub
2023/02/01
8160
估计和贝叶斯定理 Estimation Bayes Rule
高斯分布的概率密度函数(PDF):观测数据x ,均值\mu ,方差\sigma^2
esse LL
2024/08/09
1510
假设检验再学习
假设检验要解决的问题:根据样本观察得到的一些结论、根据经验积累得到的一些认识,以及由此得到的判断是否成立?假设检验是一种非常有用的统计方法,在统计学中具有重要的地位。
小末快跑
2019/07/03
1.1K0
最大似然函数最大似然原理小结:最大似然估计法的一般步骤:例子:
极大似然估计法是基于极大似然原理提出的,为了说明极大似然原理,我们先看个例子 例子: 1、某同学与一位猎人一起外出打猎。忽然,一只野兔从前方窜过,只听一声枪响,野兔应声倒下,若你推测一下,是谁击中了野兔,你会怎样想 2、有一时间A,我们知道它发生的概率p只可能是: p=0.1,0.3或0.6 若在一次观测中,事件A发生了,试让你推想一下p取何值 最大似然原理 概率大的事件在一次观测中更容易发生; 在一次观测中发生了的事件其概率应该大 (1)
用户1733462
2018/06/07
21K0
一文读懂矩估计、极大似然估计和贝叶斯估计
所谓参数估计,就是已知随机变量服从某个分布规律,但是概率分布函数的有些参数未知,那么可以通过随机变量的采样样本来估计相应参数。
lyhue1991
2020/08/11
4.9K1
统计学.参数估计(点估计~最大似然估计)
先介绍无偏估计 是统计学中一个非常重要的概念。简单来说,如果我们用样本统计量去估计总体参数,当这个统计量的期望值等于总体参数的真实值时,我们就称这个统计量为该参数的无偏估计。
云深无际
2024/11/25
2410
统计学.参数估计(点估计~最大似然估计)
专知主题链路知识推荐#4-机器学习中往往被忽视的贝叶斯参数估计方法
【导读】主题链路知识是我们专知的核心功能之一,为用户提供AI领域系统性的知识学习服务,一站式学习人工智能的知识,包含人工智能( 机器学习、自然语言处理、计算机视觉等)、大数据、编程语言、系统架构。使用请访问专知 进行主题搜索查看 - 桌面电脑访问www.zhuanzhi.ai, 手机端访问www.zhuanzhi.ai 或关注微信公众号后台回复" 专知"进入专知,搜索主题查看。今天给大家继续介绍我们独家整理的机器学习——贝叶斯参数估计方法。 这次介绍一下机器学习中常见的参数估计方法,这对推断模
WZEARW
2018/04/08
9000
专知主题链路知识推荐#4-机器学习中往往被忽视的贝叶斯参数估计方法
ProbabilityTheory
6.相关系数 $\rho_{XY}=\frac{Cov(X,Y)}{\sqrt{D(X)}\sqrt{D(Y)}}$
DuncanZhou
2018/09/04
3940
R语言与点估计学习笔记(EM算法与Bootstrap法)
众所周知,R语言是个不错的统计软件。今天分享一下利用R语言做点估计的内容。主要有:矩估计、极大似然估计、EM算法、最小二乘估计、刀切法(Jackknife)、自助法(Bootstrap)的相关内容。 点估计是参数估计的一个组成部分。有许多的估计方法与估计理论,具体内容可以参见lehmann的《点估计理论》(推荐第一版,第二版直接从UMVU估计开始的) 一、矩估计 对于随机变量来说,矩是其最广泛,最常用的数字特征,母体的各阶矩一般与的分布中所含的未知参数有关,有的甚至就等
机器学习AI算法工程
2018/03/14
2.6K0
R语言与点估计学习笔记(EM算法与Bootstrap法)
假设检验 (hypothesis testing)
假设检验(hypothesis testing)是指从对总体参数所做的一个假设开始,然后搜集样本数据,计算出样本统计量,进而运用这些数据测定假设的总体参数在多大程度上是可靠的,并做出承认还是拒绝该假设的判断。如果进行假设检验时总体的分布形式已知,需要对总体的未知参数进行假设检验,称其为参数假设检验;若对总体分布形式所知甚少,需要对未知分布函数的形式及其他特征进行假设检验,通常称之为非参数假设检验。此外,根据研究者感兴趣的备择假设的内容不同,假设检验还可分为单侧检验(单尾检验)和双侧检验(双尾检验),而单侧检验又分为左侧检验和右侧检验。
为为为什么
2023/11/07
5260
假设检验 (hypothesis testing)
[白话解析] 深入浅出 极大似然估计 & 极大后验概率估计
本文在少用数学公式的情况下,尽量仅依靠感性直觉的思考来讲解 极大似然估计 & 极大后验概率估计,并且从名著中找了几个实例给大家看看这两种估计如何应用 & 其非常有趣的特点。
罗西的思考
2020/09/07
1.9K0
讲讲大厂面试必考的假设检验
假设检验的核心其实就是反证法。反证法是数学中的一个概念,就是你要证明一个结论是正确的,那么先假设这个结论是错误的,然后以这个结论是错误的为前提条件进行推理,推理出来的结果与假设条件矛盾,这个时候就说明这个假设是错误的,也就是这个结论是正确的。以上就是反证法的一个简单思路。 了解完反证法以后,我们开始正式的假设检验,这里还是引用一个大家都很熟悉的一个例子『女士品茶』。 女士品茶是一个很久远的故事,讲述了在很久很久以前的一个下午,有一群人在那品茶,这个时候有位女士提出了一个有趣的点,就是把茶加到奶里和把奶加到茶
博文视点Broadview
2023/05/19
4500
讲讲大厂面试必考的假设检验
【机器学习基础】人人都能看懂的EM算法推导
估计有很多入门机器学习的同学在看到EM算法的时候会有种种疑惑:EM算法到底是个什么玩意?它能做什么?它的应用场景是什么?网上的公式推导怎么看不懂?
Ai学习的老章
2021/01/08
8840
【机器学习基础】人人都能看懂的EM算法推导
机器学习之从极大似然估计到最大熵原理以及EM算法详解
极大似然估计是建立在极大似然原理的基础上的一个统计方法,极大似然原理的直观想法是,一个随机试验如有若干个可能的结果A,B,C,... ,若在一次试验中,结果A出现了,那么可以认为实验条件对A的出现有利,也即出现的概率P(A)较大。极大似然原理的直观想法我们用下面例子说明。设甲箱中有99个白球,1个黑球;乙箱中有1个白球.99个黑球。现随机取出一箱,再从抽取的一箱中随机取出一球,结果是黑球,这一黑球从乙箱抽取的概率比从甲箱抽取的概率大得多,这时我们自然更多地相信这个黑球是取自乙箱的。一般说来,事件A发生的概率与某一未知参数 \theta 有关, \theta 取值不同,则事件A发生的概率P(A|\theta )也不同,当我们在一次试验中事件A发生了,则认为此时的\theta 值应是t的一切可能取值中使P(A|\theta )达到最大的那一个,极大似然估计法就是要选取这样的t值作为参数t的估计值,使所选取的样本在被选的总体中出现的可能性为最大。
大黄大黄大黄
2018/04/01
3.1K17
机器学习之从极大似然估计到最大熵原理以及EM算法详解
概率论之概念解析:极大似然估计
【导读】本文是数据科学家Jonny Brooks-Bartlett概率论基础概念系列博客中的“极大似然估计”一章,主要讲解了极大似然估计的若干概念。分别介绍了参数、直观理解极大似然估计、极大似然估计计
WZEARW
2018/04/12
1.7K0
概率论之概念解析:极大似然估计
【V课堂】R语言十八讲(十六)—广义线性模型
所谓广义线性模型,顾名思义就是一般狭义线性模型的推广,那我们先看看我们一般的狭义线性模型,这在第十讲也说过可以参看http://www.ppvke.com/Blog/archives/30010,我们经常说的线性回归是OLS线性模型.这种模型的拟合方法是将实际观测值与理论预测值的误差平方和使之最小化,从而推导出线性模型的参数,即最小二乘法.而广义线性模型是通过极大似然估计法来估计参数的,所谓极大似然估计,就是将观测值所发生的概率连乘起来,得到似然函数,然后求似然函数的极大值,来推导出线性模型的参数,其中
小莹莹
2018/04/23
1.1K0
【V课堂】R语言十八讲(十六)—广义线性模型
一文读懂EM期望最大化算法和一维高斯混合模型GMM
EM最大期望算法是一个数值求解似然函数极大值的迭代算法,就好像梯度下降算法是一种数值求解损失函数极小值的迭代算法一样。
lyhue1991
2020/08/27
2.3K1
一文读懂EM期望最大化算法和一维高斯混合模型GMM
推荐阅读
相关推荐
2000字详解:极大似然估计, 最大后验概率估计
更多 >
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档