קלענסטע קוואדראטן מעטאד: א קאמפרעהענסיווע אנאליז
די קלענסטע קוואַדראַטן מעטאָדע איז איינע פון די מערסט פונדאַמענטאַלע טעקניקס אין סטאַטיסטישער רעגרעסיע אַנאַליז, וואָס שפּילט אַ וויכטיקע ראָלע אין דאַטן פּאַסיק, מאָדעלירן און פּרעדיקטיוו אַנאַליז. דאָס איז אַ מאַטעמאַטישער צוגאַנג וואָס מינימיזירט די סומע פון די קוואַדראַטן פון די דיפערענצן צווישן באַאָבאַכטע און פּרעדיקטעד ווערטן. דורך טאָן דאָס, גיט עס די בעסט-פּאַסיק ליניע אָדער קורווע צו אַ געגעבענעם סכום פון דאַטן פונקטן. אין דעם אַרטיקל וועלן מיר אויספאָרשן די יסודות, אַפּליקאַציעס, דעריוואַציעס און לימיטאַציעס פון די קלענסטע קוואַדראַטן מעטאָדע.
היסטאָריש הינטערגרונט
די קלענסטע קוואדראטן מעטאד איז ערשט איינגעפירט געווארן דורך קארל פרידריך גאוס אין 1795 אין עלטער פון 18 יאר, כאטש עס איז נישט ארויסגעגעבן געווארן ביז 1809. אדריען-מאריע לעגענדרע, אן אנדער בארימטער מאטעמאטיקער, האט אליין אנטוויקלט און ארויסגעגעבן אן ענליכע מעטאד אין 1805. טראץ דעם, האט גאוס'ס נאטאציע און אויסברייטערונג פון דער מעטאד געלעגט דעם יסוד פאר מאדערנעם באנוץ.
מאַטאַמאַטיקאַל יסוד
אין איר פשוטסטער פארעם, ווערט די קלענסטע קוואדראטן מעטאד גענוצט צו פאסן א לינעארן מאדעל צו א סכום דאטן פונקטן. געגעבן א סכום פון `n` דאטן פונקטן ((x_1, y_1), (x_2, y_2), …, (x_n, y_n)), איז די ציל צו געפינען א ליניע (y = mx + c) וואס מינימיזירט די סומע פון די קוואדראטן פון די ווערטיקאלע דיסטאנצן (רעזידוען) צווישן די באאבאכטעטע ווערטן (y_i) און די ווערטן פאראויסגעזאגט דורך די ליניע (hat{y}_i).
מאטעמאטיש, קען מען רעפרעזענטירן דעם ציל ווי פאלגנד:
[S = \sum_{i=1}^{n} (y_i – \hat{y}_i)^2 = \sum_{i=1}^{n} (y_i – (mx_i + c))^2 \]
די גלייכונג רעפּרעזענטירט די סומע פון די קוואַדראַטן פון די רעזידוען, \(S\), און אונדזער ציל איז צו געפֿינען די ווערטן פון \(m\) (שיפּוע) און \(c\) (אינטערסעפּט) וואָס מינימיזירן \(S\).
אָפּקומעניש
כדי צו געפֿינען די ווערטן פֿון \(m\) און \(c\) וואָס מינימיזירן די סומע פֿון קוואַדראַטן \(S\), נעמען מיר די פּאַרציאַלע דעריוואַטיוון פֿון \(S\) אין באַצוג צו \(m\) און \(c\) און שטעלן זיי צו נול.
1. טיילווייזע דעריוואַטיוו אין באַצוג צו \(m\):
[\frac{\partial S}{\partial m} = \sum_{i=1}^{n} 2(y_i – (mx_i + c))(-x_i) = 0 \]
2. טיילווייזע דעריוואַטיוו אין באַצוג צו \(c\):
[\frac{\partial S}{\partial c} = \sum_{i=1}^{n} 2(y_i – (mx_i + c))(-1) = 0 \]
לייזן די גלייכצייטיגע גלייכונגען רעזולטירט אין די נארמאלע גלייכונגען:
[m = \frac{n(\sum x_i y_i) – (\sum x_i)(\sum y_i)}{n (\sum x_i^2) – (\sum x_i)^2} \]
\[ c = \frac{(\sum y_i)(\sum x_i^2) – (\sum x_i)(\sum x_i y_i)}{n(\sum x_i^2) – (\sum x_i)^2} \]
די גלייכונגען געבן אונדז די ווערטן פון \(m\) און \(c\) וואָס מינימיזירן די סומע פון קוואַדראַטישע רעזידוען.
אַפּפּליקאַטיאָנס
די קלענסטע קוואַדראַטן מעטאָדע האט ברייטע אַפּליקאַציעס אין פֿאַרשידענע געביטן:
1. עקאנאמיק און פינאנץ: גענוצט צו מאָדעלירן און פאָרויסזאָגן עקאָנאָמישע אינדיקאַטאָרן ווי גדפּ, אינפֿלאַציע ראַטעס און אַקציע פּרייזן.
2. אינזשעניריע: אנגעווענדט אין סיגנאַל פּראַסעסינג, קאָנטראָל סיסטעמען, און רילייאַבילאַטי טעסטינג צו פּאַסיק מאָדעלן צו עמפּירישע דאַטן.
3. מעדיצין: העלפט צופּאַסן וואוקס קורוועס, דאָזע-רעספּאָנס קורוועס, און אַנדערע ביאָלאָגישע פּראָצעסן צו עקספּערימענטאַלע דאַטן.
4. מאַשין לערנען: לינעאַרע רעגרעסיע מאָדעלן, וואָס נוצן אָפט די קלענסטע קוואַדראַטן מעטאָד פֿאַר פּאַראַמעטער עסטימאַציע, זענען יסודותדיק אין סופּערווייזד לערנען טעקניקס.
5. אַסטראָנאָמיע: היסטאָריש געניצט דורך גאַוס צו רעכענען די אָרביטן פון הימלישע קערפּערס.
ווערייישאַנז און יקסטענשאַנז
1. געוויכטעטע מינדסטע קוואַדראַטן: אין פאַלן וואו אָבסערוואַציעס האָבן אַנדערע וואַריאַנסן, גיט די "געוויכטעטע מינדסטע קוואַדראַטן" געוויכטן צו יעדן דאַטן פּונקט, מינימיזירנדיק אַ געוויכטעטע סומע פון די קוואַדראַטן.
2. נישט-לינעאַרע מינדסטע קוואַדראַטן: פארברייטערט די מעטאָדע צו פּאַסן נישט-לינעאַרע מאָדעלן, אָפט דורך איטעראַטיווע טעקניקס ווי די גאַוס-ניוטאָן אָדער לעווענבערג-מאַרקוואַרדט אַלגעריטמען.
3. רעגולאריזירטע קלענסטע קוואַדראַטן (רידזש רעגרעסיע): לייגט צו אַ שטראָף טערמין צו דער סומע פון קוואַדראַטן צו פאַרמייַדן אָוווערפיטינג, ספּעציעל נוצלעך ווען עס קומט צו מולטיקאָלינעאַריטעט.
4. גענעראליזירטע קלענסטע קוואדראטן: נעמט אין באטראכט קארעלירטע אבזערוואציעס, אויסברייטערנדיג די קלענסטע קוואדראטן מעטאד צו האנדלען מיט אויטאקארעלירטע און העטעראסקדאסטיקע עררארן.
קאָמפּוטאַטיאָנאַל מכשירים
פארשידענע ווייכווארג מכשירים און פּראָגראַמירן סביבות פאָרשלאָגן איינגעבויטע פונקציעס פֿאַר דורכפירן קלענסטע קוואַדראַטן רעגרעסיע:
1. פּיטהאָן: ביבליאָטעקן ווי NumPy און SciPy צושטעלן פונקציעס `numpy.linalg.lstsq` און `scipy.optimize.curve_fit` פֿאַר לינעאַר און ניט-לינעאַר קלענסטע קוואַדראַטן פּאַסיק, ריספּעקטיוולי.
2. R: פונקציעס ווי `lm()` פאר לינעארע מאדעלן און `nls()` פאר נישט-לינעארע מאדעלן אין R'ס קאמפרעהענסיווער סטאטיסטישער סביבה.
3. MATLAB: די פונקציע `lsqcurvefit` אין MATLAB ווערט גענוצט פאר נישט-לינעארע פיטינג, מיט איינגעבויטע שטיצע פאר לינעארע אַלגעברע אפעראציעס.
לימיטאַטיאָנס
טראָץ איר ברייטער אנווענדבארקייט, האט די קלענסטע קוואַדראַטן מעטאָדע לימיטאַציעס:
1. סענסיטיוויטי צו אויסנאַם-ווערטער: מינדסטע קוואַדראַטן איז העכסט סענסיטיוו צו אויסנאַם-ווערטער, ווײַל דער קוואַדראַטישער טערמין פֿאַרשטאַרקט דעם אימפּאַקט פֿון גרויסע רעזידואַלן.
2. אנהאם פון לינעאריטעט: נעמט אן א לינעארע באציאונג צווישן וועריאַבלען, וואָס קען נישט זיין אמת פֿאַר קאָמפּלעקסע דאַטאַסעץ.
3. מולטיקאָלינעאַריטעט פּראָבלעמען: אין מולטיפּלע לינעאַר רעגרעסיע, קען מולטיקאָלינעאַריטעט צווישן פּרעדיקטאָר וועריאַבאַלן פאַרדרייען די שאַצונג פון קאָעפיציענטן.
4. האָמאָגענעיטי פון וואַריאַנס (האָמאָסקעדאַסטיסיטי): נעמט אָן אַז די וואַריאַנס פון טעות טערמינען איז קאָנסטאַנט אַריבער אָבסערוואַציעס, וואָס קען נישט שטענדיק זיין דער פאַל.
סאָף
די קלענסטע קוואדראטן מעטאָדע, טראָץ איר עלטער, בלייבט אַ וויכטיקער טייל פון סטאַטיסטישער דאַטן אַנאַליז און מאָדעלירן. איר פּשוטקייט, עפעקטיווקייט און אַדאַפּטאַביליטי צו פֿאַרשידענע פֿאָרמען, פֿון גרונטלעכער לינעאַרער רעגרעסיע ביז קאָמפּלעקסע נישט-לינעאַרע און גענעראַליזירטע מאָדעלן, מאַכן זי אומשאַצבאר. פֿאַרשטיין אירע מאַטעמאַטישע יסודות, אַפּליקאַציעס און לימיטאַציעס איז וויכטיק פֿאַר יעדן וואָס איז פֿאַרבונדן מיט דאַטן אַנאַליז, און זיכער מאַכן אַז די מעטאָדע ווערט אַפּליקירט צו באַקומען באַדייַטפֿולע איינזיכטן. צי אין אַקאַדעמיע צי אין אינדוסטריע, די קלענסטע קוואדראטן מעטאָדע בלייבט אַ שטאַרק געצייַג צו פֿאַרשטיין די באַציִונגען אין דאַטן און מאַכן אינפֿאָרמירטע פאָרויסזאָגן.
