函数模型极大似然估计 (MLE) 及 Stata 实现

作者: 郭李鹏 Stata 连享会: 知乎 | 简书 | 码云 | CSDN连享会最新专题直播

连享会-知乎推文列表

连享会 - Stata 暑期班:直播 (不必舟车劳顿了) 时光: 2020.7.28-8.7 主讲嘉宾:连玉君 (中山大学) | 江艇 (中国国民大学) 课程主页gitee.com/arlionn/PX | 微信版

MLE 简介

最大似然估量 ( MLE ) 在计量经济学中有普遍的利用。本文重要介绍 MLE 的基础原理和利用,并演示如何在 Stata 软件中进行最大似然估量。

MLE 的基础原理

计量经济学中, 最小二乘估量、最大似然估量和广义矩估量是结构统计量的三种基础方式。

最小二乘估量,最合理的参数估量量应当使得模型能最好地拟合样本数据,也就是估量值和观测值之差的平方和最小。

矩估量的基础思想是,简略随机样本的原点矩依概率收敛到相应的总体原点矩,用样本矩调换总体矩,进而找出未知参数的估量。

最大似然估量,最合理的参数估量量应当使得从模型中抽取该 n 组样本观测值的概率最大,也就是概率散布函数或者说是似然函数最大。

最小二乘估量和广义矩估量进行统计推断时并不须要设定密度函数,即无需对干扰项散布进行假设;而最大似然估量的前提条件是,能够写出密度函数的完全设定,其中包括一系列待估参数。

概似函数

假设针对一个包括 m 个随机变量的随机向量 ,我们收集了 n 个样本值: , , , ,则这 n 个随机向量的结合密度函数 可以写成

其中 是一个参数向量,包括了结合密度函数中所涉及到的所有参数。结合密度函数 又称作概似函数,极大化概似函数所得到的解通常以 表现,即最大似然估量值。

对数似然函数

对于散布独立的样本 ,假设其密度函数为 ,经对数转换后的结合密度函数即对数似然函数:

依据最大似然估量的原理,我们可以通过极大化对数似然函数获得未知参数 的估量值。

MLE 的基础步骤

在 Stata 中进行最大似然估量的基础步骤如下:

  • 推导最大似然函数
  • 编写似然函数的 Stata 程序
  • 设定说明变量和被说明变量,完全设定 ml model 命令
  • 估量最大似然函数:履行 ml maximize 命令
  • 何时应用 MLE ?

    MLE 的重要应用在离散数据模型和一些散布比拟庞杂的模型,重要有:Logit 模型,Probit 模型,泊松模型,负二项模型,非似然函数模型以及随机边界模型等。

    连享会最新专题直播

    MLE 的 Stata 实现

    典范1:线性回归模型的 MLE 估量

    对于线性回归模型,若假设其满足所有基础假设条件,且干扰项遵从正态散布,y 遵从均值为 ,方差为 的正态散布,可以将 设定为某些变量的线性函数,即 。具体完全情势如下:

    矩阵情势为:

    我们可以通过 MLE 获得该模型中两组参数 的估量值。

    在用 Stata 进行似然估量前,须要先写出对数似然函数基础设定情势:

    在 Stata 中履行最大似然估量的第一步是将不包含线性回归函数的似然函数的基础设定编写为 ado 文件,须要注意的是,程序中只定义概似函数的基础设定,如何将线性回归函数参加模型由其他管道设定。

    cap program drop mymean_lf program define mymean_lf version 9.1 args lnf mu sigma quietly replace `lnf' = ln(normalden(($ML_y1 - `mu')/`sigma')) - ln(`sigma') end