Fomba Famaritana ny Kilasy Kely Indrindra: Fomba fiasa matematika amin'ny fanombanana
Pendahuan
Ny fomba "least squares" dia teknika statistika ampiasaina hanombanana ny masontsivana ao anaty modely regression amin'ny alàlan'ny fampihenana ny fitambaran'ny hadisoana "squared" eo amin'ny sanda tena izy sy ny sanda vinavinan'ny modely. Malaza be ity fomba ity ary matetika ampiasaina amin'ny sehatra isan-karazany toy ny toekarena, injeniera, biolojia ary siansa sosialy. Ny foto-kevitra momba ny "least squares" dia naroson'i Adrien-Marie Legendre voalohany tamin'ny fiandohan'ny taonjato faha-19 ary novolavolain'i Carl Friedrich Gauss taty aoriana.
Fahatakarana fototra
Amin'ny ankapobeny, ny fomba "least squares" dia mikendry ny hahita ny tsipika regression mifanaraka indrindra amin'ny andiana data amin'ny alàlan'ny fampihenana ny fitambaran'ny efamira amin'ny residuals, na ny lesoka amin'ny vinavina. Ny residual dia ny fahasamihafana misy eo amin'ny sanda hita sy ny sanda vinavinaina.
Raha manana andiana angon-drakitra misy fandinihana tsiroaroa isika \((x_1, y_1), (x_2, y_2), …, (x_n, y_n)\, dia ny tanjontsika dia ny hahita ny tsipika \(y = mx + b\) izay mampihena ny fitambaran'ny hadisoana efamira sum\( \sum_{i=1}^{n} (y_i – (mx_i + b))^2 \).
Azo ampiharina amin'ny regression linear tsotra sy ny regression linear maromaro ity fomba ity. Amin'ny regression linear tsotra, dia manana variable tsy miankina iray (x) ihany isika, raha toa kosa ka misy variable tsy miankina mihoatra ny iray ny regression linear maromaro.
Fihemorana tsotra amin'ny tsipika
Andeha isika hanomboka amin'ny regression linear tsotra. Aoka hatao hoe manana andiana data isika \((x_1, y_1), (x_2, y_2), …, (x_n, y_n)). Ny modely regression linear tsotra tiantsika hifanaraka dia:
\[ y = mx + b + \epsilon \]
izay \( m \) ny tehezan-kavoana, \( b \) ny elanelana, ary \( \epsilon \) ny hadisoana kisendrasendra.
Amin'ny fampiasana ny fomba "least squares", afaka mahita ny tombana momba ny masontsivana \( m \) sy \( b \) isika amin'ny alàlan'ny fampihenana ny "squared error function":
S(m, b) = sum_{i=1}^{n} (y_i – (mx_i + b))^2
Mba hampihenana ny \( S(m, b) \), dia hitantsika ny derivatives ampahany amin'ny \( S \) raha oharina amin'ny \( m \) sy \( b \), ary avy eo dia vahao ity equation ity ho an'ny \( m \) sy \( b \):
\[ \begin{aligned}
\frac{\partial S}{\partial m} &= -2 \sum_{i=1}^{n} x_i (y_i – (mx_i + b)) = 0 \\
\frac{\partial S}{\partial b} &= -2 \sum_{i=1}^{n} (y_i – (mx_i + b)) = 0
\end{aligned} \]
Aorian'ny fanatsorana dia mahazo ireto fampitoviana ara-dalàna roa manaraka ireto isika:
\[ \begin{aligned}
n\bar{y} &= m \sum_{i=1}^{n} x_i + nb \\
\sum_{i=1}^{n}x_i y_i &= m \sum_{i=1}^{n}x_i^2 + b \sum_{i=1}^{n}x_i
\end{aligned} \]
Amin'ny famahana ny rafitry ny fampitoviana etsy ambony, dia afaka mahita ny sandan'ny \( m \) sy \( b \) izay mampihena ny hadisoana efamira isika.
Fihemorana Linear Maro
Ao amin'ny regression lineary marobe, miatrika toe-javatra izay manana variable tsy miankina mihoatra ny iray isika. Aoka hatao hoe manana data amin'ny endrika tuple isika \((x_{i1}, x_{i2}, …, x_{ik}, y_i)\). Ny modely regression ampiasainay dia:
\[ y = b_0 + b_1 x_1 + b_2 x_2 + … + b_k x_k + \epsilon \]
Azo soratana amin'ny endrika matrisy toy izao ity fampitoviana ity:
\[ \mathbf{y} = \mathbf{X} \mathbf{b} + \mathbf{\epsilon} \]
Aiza:
– \( \mathbf{y} \) dia vektôra tsanganana misy ny sandan'ny y voamarika.
– \( \mathbf{X} \) dia matrisin'ny soatoavina x voamarika (anisan'izany ny tsanganana 1 ho an'ny intercept).
– Ny \( \mathbf{b} \) dia vecteur tsanganana an'ireo masontsivana (anisan'izany ny \( b_0 \)).
Ny tanjon'ny fomba "least squares" dia ny hampihena ity asa "quadratic error" manaraka ity:
\[ S(\mathbf{b}) = (\mathbf{y} – \mathbf{Xb})^T (\mathbf{y} – \mathbf{Xb}) \]
Mba hampihenana ity asa ity, dia raisintsika ny derivative ampahany an'ny S raha oharina amin'ny \( \mathbf{b} \) ary apetraka aotra izany. Izany dia miteraka ny equation normal ho an'ny regression linear multiple:
\[ \mathbf{X}^T \mathbf{Xb} = \mathbf{X}^T \mathbf{y} \]
Amin'ny famahana ny rafitry ny fampitoviana etsy ambony, dia afaka mahazo tombana momba ny paramètre \( \mathbf{b} \) isika:
\[ \mathbf{b} = (\mathbf{X}^T \mathbf{X})^{-1} \mathbf{X}^T \mathbf{y} \]
Tombony sy fetrany
Manana tombony maro ny fomba "least squares". Fomba tena mahomby sy tsotra ampiasaina izy io. Manolotra vahaolana miavaka izy io raha azo avadika ny \( \mathbf{X}^T \mathbf{X} \), ka mahatonga azy io ho azo itokisana amin'ny fampiharana maro.
Na izany aza, manana fetrany ihany koa ny fomba "least squares". Mora tohina amin'ny "outliers" izy io satria ny "squared error" dia manasongadina kokoa ny fahasamihafana lehibe noho ny fahasamihafana kely. Ankoatra izany, ny fiheverana mahazatra fa ny fahadisoana dia manana fizarana ara-dalàna miaraka amin'ny salan'isa aotra ary miovaova tsy miovaova dia tsy maintsy tanterahina mba hahazoana vokatra tsara.
Fampiharana azo ampiharina
Matetika ampiasaina amin'ny famakafakana fironana data, vinavina ary fianarana milina ny fomba "least squares" mba hananganana modely faminaniana. Ao amin'ny indostrian'ny ara-bola, ny fomba "least squares" dia ampiasaina haminavina ny vidin'ny tahiry na ny fahombiazan'ny tsena. Ao amin'ny fitsaboana, ampiasaina izy io mba hanahafana ny fifandraisana misy eo amin'ny fatran'ny fanafody sy ny fihetsiky ny marary. Ao amin'ny siansa sosialy, manampy amin'ny fahatakarana ny fifandraisana misy eo amin'ny variables toy ny fanabeazana sy ny fidiram-bola izany.
Famaranana
Ny fomba "least squares" dia iray amin'ireo teknika fototra amin'ny statistika sy ny famakafakana angon-drakitra. Na dia tsotra aza ny foto-kevitra, ity fomba ity dia manolotra hery lehibe amin'ny famolavolana sy ny fahatakarana ny fifandraisana misy eo amin'ireo variables. Miaraka amin'ny fampiharana miely patrana amin'ny sehatra maro samihafa, ny fahatakarana matanjaka an'ity fomba ity dia tena sarobidy ho an'ny matihanina sy ny mpikaroka. Amin'ny ho avy, miaraka amin'ny fitomboan'ny habetsahan'ny angon-drakitra hita amin'ny vanim-potoanan'ny "big data", ny fampifanarahana sy ny fampiharana ny fomba mahazatra toy ny "least squares" dia vao mainka hilaina.
