ある一方の変数の変化が，他方の変数の変化に影響を及ぼしていると考えられる時， この2つの変数の関係を数式を用いて表現したものを回帰モデルと呼ぶ．特に両者の 関係を線形で表せるとしたモデルを線形回帰モデルと呼ぶ． ここでは最もシンプルなモデルを扱い定式化およびパラメーターの推定方法を紹介する．