HMMモデルの要素の内、学習が必要なものは、 遷移確率、出力確率、初期確率の3つである。 ただし出力確率は正規分布で表すことから、 正規分布Nの平均と分散が学習させるべきパラメータになる。
HMMのパラメータを学習させるためには、 まずこれら4つのパラメータを仮定した上で、 状態間の遷移確率を求める。 ただし、はt回目の遷移で、状態から 状態へ遷移する確率を意味する。 はからを出力してに遷移した確率、から〜を出力して遷移した確率、学習させるHMMモデルHMMに対して、 この音声特徴パラメータ系列が出力される条件付き確率を用いて次式によって求められる。
これを用いて改めて4つのパラメータを求め直して パラメータを更新していく。 各パラメータの推定式は以下の通りである。
但し、実際には1サンプルごとに更新するわけではなく、 全サンプルを用いて計算する。
これによりHMMモデルが完成する。