2.N 個の一連のデータ (x1, y1), (x2, y2), ..., (xN, yN)を、 測定値 yi の分散が xi によらず σ2 で一定であるとして、 y = ax という関係式に最小2乗法であてはめることを考える。 Sx = Σ xi、 Sy = Σ yi、 Sxx = Σ xi2、 Sxy = Σ xiyi、 Syy = Σ yi2 を用いて推定される係数 a を表せ。 また推定される係数aの分散 〈〈 a2 〉〉 はどのようにあらわされるか?
残差2乗和 S は
\[ S = \sum_i {(y_i - a x_i)^2} = S_{yy} - 2a S_{xy} + a^2 S_{xx} \]
正規方程式は
\[ -\frac{1}{2} \frac{\partial S}{\partial a} = S_{xy} - a S_{xx} \]
したがって
\[ a = \frac{S_{xy}}{S_{xx}} \]
\(a\) の分散は
\[ \langle \langle a^2 \rangle \rangle = \sum_i \frac{x_i^2}{S_{xx}^2} \langle \langle y_i^2 \rangle \rangle = \frac{S_{xx}}{S_{xx}^2} \sigma^2 = \frac{\sigma^2}{S_{xx}} \]