Generalized Method of Moments

         計量經濟學或是數理統計學都會學到許多種估計參數的方式，例如：最小平方法(Least Square，某些線性代數課也會教)、最大概似估計法(Maximum Likelihood Estimation, MLE)，或者是動差法(Method of Moments, MM)。這些估計方式操作起來都不難，但是在實務運用上會出現一個問題，那就是這些估計方式都要求必須知道參數服從的機率分布，然而許多經濟理論其實都不會假設各參數服從哪些機率分布。

        自20世紀中葉開始，已經有許多經濟學家設法找出一種估計方式，能夠在不用知道參數分配的情況之下，也能夠估計參數，其中最有名的一個，就是由芝加哥大學經濟系教授漢森(Lars Peter Hansen)於1982年提出的廣義動差法(Generalized Method of Moments, GMM)，他本人則是在2013年與席勒(Robert Shiller)與法馬(Eugene Fama)，共同因為對於實證資產訂價方面的貢獻而獲得了諾貝爾經濟學獎。廣義動差法因為條件假設較寬鬆，相較於其他許多估計方式更貼近經濟與金融市場的現況，被許多經濟學家與金融研究者廣泛應用至今。

提出了廣義動差法的芝加哥大學教授Lars Peter Hansen

廣義動差法

        在廣義動差法當中，我們只需要知道參數的動差條件(Moment Condition)，就能透過一階條件找出參數的估計量(Estimator)。廣義動差法的估計量定義是

此處，y_t為隨機變數，θ為參數，h(y_t, θ)為動差條件組成的向量，E[h(y_t, θ)]=0，W_T是一個正定矩陣(Positive definite matrix，即所有特徵值均大於0的矩陣)，主要用途在於當動差條件數量多過參數數量時(也就是m>p)可以調整權重。

廣義動差法的特性

       我們說某個數量很大的樣本有一致性(Consistency)，若它會依機率收斂(Converge in probability)到某個值。廣義動差法的估計量在樣本很大的情況下有一致性，因為

根據大數法則(Law of Large Numbers)，g_T設為0以後，θ的估計量會收斂到能讓動差條件的期望值為0的條件。

        此外，廣義動差法的估計量之漸進分配(Asymptotic distribution)就是常態分佈，常態分佈是許多統計學假設的分佈，因此漸進分配是常態分佈能讓統計實證上更加方便。證明漸近常態的方法大致上就是先分析Q_T的一階情況，然後把g_T(θ_T hat)做均值展開(Mean-value expansion)，最後只要能證明到(θ_T hat-θ_T )會依分配收斂(Converge in distribution)到常態分佈即可。

       最後，廣義動差法的估計量在樣本較小的情況下，有時候會是不偏的(Unbiased)，有時候卻又沒有不偏性，主要原因在於動差條件的函數特性與先前提到的權重矩陣的選擇上。使用廣義動差法做信賴區間(Confidence interval)估計時，有時候也會是能剛好收斂到目標大小上，有時候區間卻又會太小，主要原因也與動差條件的函數特性與先前提到的權重矩陣的選擇有關。如何選擇動差條件與權重矩陣可以參考Hall出版的Generalized Method of Moments Section 7.3。

廣義動差法與其他估計方法的關係

        以前在計量經濟學上常接觸到的估計方法，例如：最小平方法、最大概似估計法或是工具變數法(Instrumental variables)，其實都是廣義動差法的變種。以下一一來整理:

• 普通最小平方法(Ordinary Least Square, OLS)

普通最小平方法的假設之一就是解釋變數與殘差項彼此獨立，也就是兩者乘積的期望值為0，因此(以下變數將會以向量形式呈現)

附帶一提，同樣是假設殘差項與解釋變數獨立，但變異數卻不是常數的廣義最小平方法(Generalized Least Square, GLS)也是廣義動差法的變形。

• 工具變數法(Instrumental Variables, IV)

同樣是簡單線性迴歸，殘差項卻不會跟解釋變數獨立(也就是說解釋變數是內生性變數)，此時只需要找另外一個與殘差項獨立的變數即可:

• 最大概似估計法(Maximum Likelihood Estimation, MLE)

最大概似估計法的原理是使用概似函數(Likelihood function)找出某個估計量的最大可能性，藉此做為估計參數的標準。

參考資料與圖片來源:

[1] London School of Economics FM404: Forecasting Financial Time Series Handout

[2] London School of Economics FM437: Financial Econometrics Handout 

[3] Hansen, L.P.(1982), Large Sample Properties of Generalized Method of Moments Estimators, Econometrica, 50, 4, 1029-1054

[4] Hall, A.R.(2005), Generalized Method of Moments, Oxford University Press, Oxford

[5] 網路圖片