em演算法原理

在統計計算中，最大期望（EM）演算法是在概率（probabilistic）模型中尋找引數最大似然估計或者最大後驗估計的演算法，其中概率模型依賴於無法觀測的隱藏變數（Latent Variable）。最大期望經常用在機器學習和計算機視覺的資料聚類（Data Clustering）領域。

最大期望演算法經過兩個步驟交替進行計算。

第一步是計算期望（E），利用對隱藏變數的現有估計值，計算其最大似然估計值。

第二步是最大化（M），最大化在 E 步上求得的最大似然值來計算引數的值。

M 步上找到的引數估計值被用於下一個 E 步計算中，這個過程不斷交替進行。