HMMは確率モデルで、認識単位毎に図3の様なHMMモデルを作成する。音声認識で使われるHMMモデルはleft-to-rightモデルと呼ばれ、いくつかの状態をもっていて、時間の流れと共にその状態はそのままの状態を保つか、一方向のとなりへと遷移していく。 モデルの作成は、どの状態へ遷移するかの確率(遷移確率)、 及び遷移するときに何を出力するかの確率(出力確率)のパラメータを学習させることで完成する。
HMMモデルを構成する要素としては、


は状態
から
への遷移確率で、

は状態
から
への遷移でシンボル
を出力する確率で、
次式のような関係がある。
