乐趣区

关于算法:拓端tecdat使用R语言做极大似然估计实例

原文链接:http://tecdat.cn/?p=18970

在广泛的了解中,最大似然预计是应用已知的样本后果信息来反向推断最有可能导致这些样本后果的模型参数值!

换句话说,最大似然预计提供了一种在给定观测数据的状况下评估模型参数的办法,即“模型已确定且参数未知”。

在所有双射函数的意义上,极大似然预计是不变的  ,如果   是 的极大似然预计  

让   等于  中的似然函数。因为   是的最大似然预计  

因而, 是 的最大似然预计。

例如,伯努利散布为   

 

给定样本  ,概率是

 

则对数似然

 

与 ICI

 

因而,一阶条件

 

何时满足  。为了阐明,思考以下数据

> X
\[1\] 0 0 1 1 0 1 1 1 1 0 0 0 1 0 1

(负)对数似然

> loglik=function(p){+ -sum(log(dbinom(X,size=1,prob=p)))
+ }

咱们能够在上面看到

> plot(u,v,type="l",xlab="",ylab="")

依据以上计算,咱们晓得的极大似然预计  是

> mean(X)
\[1\] 0.53

数值为

$par
\[1\] 0.53

$value
\[1\] 10.36

$counts
function gradient
20 NA

$convergence
\[1\] 0

$message
NULL

咱们没有说优化是在区间内 。然而,咱们的概率估计值属于 。为了确保最优值在 ,咱们能够思考一些束缚优化程序

ui=matrix(c(1,-1),2,1), ci=c(0,-1)
$par
\[1\] 0.53

$value
\[1\] 10.36

$counts
function gradient
20 NA

$convergence
\[1\] 0

$message
NULL

$outer.iterations
\[1\] 2

$barrier.value
\[1\] 6.91e-05

在上一张图中,咱们达到了对数似然的最大值

> abline(v=opt$par,col="red")

另一种办法是思考  (如指数分布)。则对数似然 

 

这里

 

因而,一阶条件

 

满足

 

从数值角度来看,咱们有雷同的最优值

(opt=optim(0,loglik))
$par
\[1\] 0.13

$value
\[1\] 10.36

$counts
function gradient
20 NA

$convergence
\[1\] 0

$message
NULL

> exp(opt$par)/(1+exp(opt$par))
\[1\] 0.53

最受欢迎的见解

1.Matlab 马尔可夫链蒙特卡罗法(MCMC)预计随机稳定率(SV,Stochastic Volatility)模型

2.基于 R 语言的疾病制图中自适应核密度估计的阈值抉择办法

3.WinBUGS 对多元随机稳定率模型:贝叶斯预计与模型比拟

4. R 语言回归中的 hosmer-lemeshow 拟合优度测验

5.matlab 实现 MCMC 的马尔可夫切换 ARMA – GARCH 模型预计

6. R 语言区间数据回归剖析

7. R 语言 WALD 测验 VS 似然比测验

8.python 用线性回归预测股票价格

9. R 语言如何在生存剖析与 Cox 回归中计算 IDI,NRI 指标

退出移动版