広告
・最小2乗法
下図の様な近似関数を計算します。
ここで、点と近似関数の誤差の総和は次式で表されます。
\[\begin{aligned}\chi(a,b)&=\sum_{i=1}^{n}\{y_i-f(x_i)\}^2\\[6pt]&=\sum_{i=1}^{n}\{y_i-(a+bx_i)\}^2\\[6pt]&=\sum_{i=1}^{n}(y_i-a-bx_i)^2\\[6pt]&=\sum_{i=1}^{n}\{(a+bx_i-y_i)a+(a+bx_i-y_i)bx_i-(a+bx_i-y_i)y_i\}\\[6pt]&=\sum_{i=1}^{n}(a^2+x_iab-y_ia+x_iab+x_i^2b^2-x_iy_ib-y_ia-x_iy_ib+y_i^2)\\[6pt]&=\sum_{i=1}^{n}(a^2+2x_iab+x_i^2b^2-2y_ia-2x_iy_ib+y_i^2)\\[6pt]&=na^2+2ab\sum_{i=1}^{n}x_i+b^2\sum_{i=1}^{n}x_i^2-2a\sum_{i=1}^{n}y_i-2b\sum_{i=1}^{n}x_iy_i+\sum_{i=1}^{n}y_i^2\end{aligned}\]
この誤差は、
\[\begin{aligned}\frac{\partial\chi(a,b)}{\partial a}&=0\\[6pt]\frac{\partial\chi(a,b)}{\partial b}&=0\end{aligned}\]
の場合に最小になります。従って、
\[\begin{aligned}\frac{\partial\chi(a,b)}{\partial a}&=2na+2b\sum_{i=1}^{n}x_i-2\sum_{i=1}^{n}y_i\\[6pt]&=0\end{aligned}\]
また、
\[\begin{aligned}\frac{\partial\chi(a,b)}{\partial b}&=2a\sum_{i=1}^{n}x_i+2b\sum_{i=1}^{n}x_i^2-2\sum_{i=1}^{n}x_iy_i\\[6pt]&=0\end{aligned}\]
まとめると
\[\left\{\begin{aligned}na+b\sum_{i=1}^{n}x_i-\sum_{i=1}^{n}y_i&=0\\[6pt]a\sum_{i=1}^{n}x_i+b\sum_{i=1}^{n}x_i^2-\sum_{i=1}^{n}x_iy_i&=0\end{aligned}\right.\]
これを解くと係数a, bが求まります。
| prev | | | up | | | next |
