Rêbaza Kêmtirîn Çargoşeyan: Nêzîkatiyek Matematîkî ji bo Texmînê
Pendahuluan
Rêbaza kêmtirîn çargoşeyan teknîkek îstatîstîkî ye ku ji bo texmînkirina parametreyan di modelek regresyonê de bi kêmkirina berhevoka xeletiyên çargoşeyî di navbera nirxên rastîn û nirxên ku ji hêla modelê ve hatine pêşbînîkirin de tê bikar anîn. Ev rêbaz pir populer e û pir caran di warên cûrbecûr de wekî aborî, endezyarî, biyolojî û zanistên civakî tê bikar anîn. Têgeha kêmtirîn çargoşeyan cara yekem di destpêka sedsala 19-an de ji hêla Adrien-Marie Legendre ve hate pêşniyar kirin û paşê ji hêla Carl Friedrich Gauss ve hate pêşve xistin.
Têgihîştina bingehîn
Bi gelemperî, rêbaza kêmtirîn çargoşeyan armanc dike ku xeta regresyonê ya herî guncaw ji bo komek daneyan bi kêmkirina berhevoka çargoşeyên mayîyan, an jî xeletiyên pêşbînîkirinê bibîne. Mayî cudahiya di navbera nirxa çavdêrîkirî û nirxa pêşbînîkirî de ye.
Eger komeke daneyên me hebe ku ji cotên çavdêriyan pêk tê \((x_1, y_1), (x_2, y_2), …, (x_n, y_n)\), wê demê armanca me ew e ku xeta \(y = mx + b\) bibînin ku berhevoka xeletiyên çargoşeyî sum\( \sum_{i=1}^{n} (y_i – (mx_i + b))^2 \) kêm dike.
Ev rêbaz dikare hem ji bo regresyona xêzikî ya sade û hem jî ji bo regresyona xêzikî ya pirjimar were sepandin. Di regresyona xêzikî ya sade de, me tenê yek guhêrbarê serbixwe (x) heye, lê regresyona xêzikî ya pirjimar ji yekê zêdetir guhêrbarên serbixwe dihewîne.
Regresyona Xêzikî ya Sade
Werin em bi regresyona xêzikî ya hêsan dest pê bikin. Ferz bikin ku komek daneyên me hene \((x_1, y_1), (x_2, y_2), …, (x_n, y_n)). Modela regresyona xêzikî ya hêsan ku em dixwazin bicîh bikin ev e:
\[ y = mx + b + \epsilon \]
ku \(m\) şemitok e, \(b\) qutbûna xalê ye, û \(epsilon\) xeletiya rasthatî ye.
Bi karanîna rêbaza kêmtirîn çargoşeyan, em dikarin texmînên parametreyên \(m\) û \(b\) bi kêmkirina fonksiyona xeletiya çargoşeyî bibînin:
\[ S(m, b) = \sum_{i=1}^{n} (y_i – (mx_i + b))^2 \]
Ji bo kêmkirina S(m, b)\, em derivatîfên qismî yên S\) li gorî m\ û b\ dibînin, û dûv re vê hevkêşeyê ji bo m\ û b\ çareser dikin:
\[ \destpêk{hevrêzkirî}
\frac{\partial S}{\partial m} &= -2 \sum_{i=1}^{n} x_i (y_i – (mx_i + b)) = 0 \\
\frac{\partial S}{\partial b} &= -2 \sum_{i=1}^{n} (y_i – (mx_i + b)) = 0
\end{aligned} \]
Piştî hêsankirinê, em du hevkêşeyên normal ên jêrîn bi dest dixin:
\[ \destpêk{hevrêzkirî}
n\bar{y} &= m \sum_{i=1}^{n} x_i + nb \\
\sum_{i=1}^{n}x_i y_i &= m \sum_{i=1}^{n}x_i^2 + b \sum_{i=1}^{n}x_i
\end{aligned} \]
Bi çareserkirina sîstema hevkêşeyên jorîn, em dikarin nirxên \(m\) û \(b\) bibînin ku xeletiya çargoşeyî kêm dikin.
Regresyona Xêzikî ya Pirjimar
Di regresyona xêzikî ya pirjimar de, em bi rewşekê re rû bi rû dimînin ku em xwedî ji yekê zêdetir guhêrbarên serbixwe ne. Ferz bikin ku daneyên me di forma tuple \((x_{i1}, x_{i2}, …, x_{ik}, y_i)\) de ne. Modela regresyonê ya ku em bikar tînin ev e:
\[ y = b_0 + b_1 x_1 + b_2 x_2 + … + b_k x_k + \epsilon \]
Ev hevkêşe dikare bi şêweya matrîksê wiha were nivîsandin:
\[ \mathbf{y} = \mathbf{X} \mathbf{b} + \mathbf{\epsilon} \]
mera:
– \( \mathbf{y} \) vektoreke stûnî ya nirxên y yên çavdêrîkirî ye.
– \( \mathbf{X} \) matrîkseke nirxên x ên çavdêrîkirî ye (di nav de stûna 1 ji bo qutkirinê).
– \( \mathbf{b} \) vektoreke stûnî ya parametreyan e (di nav de \(b_0 \)).
Armanca rêbaza kêmtirîn çargoşeyan kêmkirina fonksiyona xeletiya çargoşeyî ya jêrîn e:
\[ S(\mathbf{b}) = (\mathbf{y} – \mathbf{Xb})^T (\mathbf{y} – \mathbf{Xb}) \]
Ji bo kêmkirina vê fonksiyonê, em derîvatîfa qismî ya S-ê li gorî \( \mathbf{b} \) digirin û wê dikin sifir. Ev hevkêşeya normal ji bo regresyona xêzikî ya pirjimar dide:
\[ \mathbf{X}^T \mathbf{Xb} = \mathbf{X}^T \mathbf{y} \]
Bi çareserkirina sîstema hevkêşeyên jorîn, em dikarin texmînek ji parametreya \( \mathbf{b} \) bi dest bixin:
\[ \mathbf{b} = (\mathbf{X}^T \mathbf{X})^{-1} \mathbf{X}^T \mathbf{y} \]
Awantaj û Sînorkirin
Rêbaza kêmtirîn çargoşeyan gelek avantaj hene. Ew rêbazek pir bikêrhatî û hêsan e ku meriv bikar bîne. Ger \( \mathbf{X}^T \mathbf{X} \) berevajîkirî be, ew çareseriyek bêhempa pêşkêş dike, ku ew ji bo gelek serîlêdanên pratîkî pêbawer dike.
Lêbelê, rêbaza kêmtirîn çargoşeyan jî xwedî sînorkirinên xwe ye. Ew ji nirxên derveyî re pir hesas e ji ber ku xeletiya çargoşeyî cudahîyên mezin ji yên biçûk bêtir tekez dike. Wekî din, ji bo encamên baş divê texmîna klasîk a ku xeletî xwedî belavbûnek normal bi navînîya sifir û guherîna sabît in, were bicîhanîn.
Serlêdanên Pratîkî
Rêbaza kêmtirîn çargoşeyan pir caran di analîza trenda daneyan, pêşbînîkirin û fêrbûna makîneyê de ji bo avakirina modelên pêşbînîkirinê tê bikar anîn. Di pîşesaziya darayî de, rêbaza kêmtirîn çargoşeyan ji bo pêşbînîkirina bihayên stokan an performansa bazarê tê bikar anîn. Di bijîşkiyê de, ew ji bo modelkirina têkiliya di navbera dozaja dermanan û bersiva nexweşan de tê bikar anîn. Di zanistên civakî de, ew alîkariya fêmkirina têkiliya di navbera guhêrbarên wekî perwerde û dahatê de dike.
Xelasî
Rêbaza kêmtirîn çargoşeyan yek ji teknîkên bingehîn di îstatîstîk û analîza daneyan de ye. Her çend di konseptê de hêsan be jî, ev rêbaz di modelkirin û têgihîştina têkiliyên di navbera guherbaran de hêzek girîng pêşkêş dike. Bi serîlêdanên berfireh li seranserê cûrbecûr waran, têgihîştinek baş a vê rêbazê ji bo pispor û lêkolîneran jî pir girîng e. Ji bo pêşerojê, bi zêdebûna mîqdara daneyên ku di serdema daneyên mezin de têne dîtin, adaptekirin û sepandina rêbazên klasîk ên wekî kêmtirîn çargoşeyan dê her ku diçe girîngtir bibe.
