פּשוטע לינעאַרע רעגרעסיע אַנאַליז

פּשוטע לינעאַרע רעגרעסיע אַנאַליז

פשוטע לינעארע רעגרעסיע איז א סטאטיסטישע טעכניק וואס ווערט גענוצט צו אנאליזירן די באציאונג צווישן צוויי קוואנטיטאטיווע וועריאבלען. די וועריאבל וואס מיר פרובירן צו פאראויסזאגן ווערט גערופן די אפהענגיקע אדער רעאקציע וועריאבל, בשעת די וועריאבל וואס ווערט גענוצט צו מאכן די פאראויסזאגונג ווערט גערופן די אומאפהענגיקע אדער פאראויסזאגער וועריאבל. אין פשוטער לינעארער רעגרעסיע, פרובירן מיר צו געפינען די בעסטע גלייכע ליניע וואס באשרייבט די באציאונג צווישן די צוויי וועריאבלען.

גרונטלעכע קאנצעפטן פון פשוטער לינעארער רעגרעסיע

פּשוטע לינעאַרע רעגרעסיע איז באַזירט אויף דער הנחה אַז עס איז אַ לינעאַרע באַציִונג צווישן דער אָפּהענגיקער וועריאַבל \(Y\) און דער אומאָפּהענגיקער וועריאַבל \(X\). די אַלגעמיינע פֿאָרעם פֿון אַ פּשוטער לינעאַרער רעגרעסיע מאָדעל איז:

[Y = β₁ + β₁ X + β₂]

וואו:
– \(Y \) איז די אפהענגיקע וועריאַבל.
– \(X \) איז די אומאפהענגיקע וועריאַבל.
– \( \beta_0 \) איז דער אינטערסעפּשאַן, וואָס איז דער ווערט פון \(Y\) ווען \(X = 0\).
– \( \beta_1 \) איז די שיפּוע אדער גראַדיענט, וואָס איז די דורכשניטלעכע ענדערונג אין \(Y\) פֿאַר יעדער איינהייט ענדערונג אין \(X\).
– \( \epsilon \) איז דער טעות אדער רעזידועל טערמין וואָס רעפּרעזענטירט די וועריאַביליטי אין \(Y\) וואָס קען נישט דערקלערט ווערן דורך \(X\).

די ציל פון פּשוטער לינעאַרער רעגרעסיע איז צו שאַצן די פּאַראַמעטערס β0 און β1, אַזוי אַז דער מאָדעל קען געניצט ווערן צו פאָרויסזאָגן דעם ווערט פון Y וואָס איז פֿאַרבונדן מיטן ווערט פון X.

קלענסטע קוואַדראַטן מעטאָד

איינע פון ​​די מערסט גענוצטע מעטאָדן פֿאַר פּאַסיק אַ פּשוט לינעאַר רעגרעסיע מאָדעל איז די קלענסטע קוואַדראַטן מעטאָד. די מעטאָד צילט צו מינימיזירן די סומע פון ​​די קוואַדראַטן פון די ווערטיקאַלע אָפּנייגונגען צווישן די פאַקטישע אָבסערוואַציעס און די ווערטן פאָרויסגעזאָגט דורך דעם מאָדעל. לאָמיר זאָגן מיר האָבן n אָבסערוואַציעס באַשטייענדיק פון פּאָרן \((x_i, y_i)\) פֿאַר \(i = 1, 2, …, n\). די פֿונקציע וואָס דאַרף מינימיזירט ווערן איז:

[ S(β₀, β₁) = \sum_{i=1}^{n} (y_i – (β₀ + β₁ x_i))^2 \]

כדי צו געפינען β₀ און β₁ וואָס מינימיזירן די פונקציע, נעמען מיר די טיילווייזע דעריוואַטיוון פון S(β₀, β₁) אין באַצוג צו יעדן פּאַראַמעטער און שטעלן די דעריוואַטיוון צו נול. די מאַטעמאַטישע חשבון קען ווערן פאַרפּשוטעט ווי פאלגנד:

[β1 = \frac{\sum_{i=1}^{n} (x_i – \bar{x})(y_i – \bar{y})}{\sum_{i=1}^{n} (x_i – \bar{x})^2}]

\[ \beta_0 = \באַר{י} - \beta_1 \באַר{קס} \]

וואו:
– \(\bar{x}\) איז דער דורכשניט פון \(X\)
– \(\bar{y}\) איז דער דורכשניט פון \(Y\)

נאכדעם וואס מען באקומט די פאראמעטערס β0 און β1, קען מען ניצן א פשוטע לינעארע רעגרעסיע מאדעל צו פאראויסזאגן דעם ווערט פון Y פאר יעדן ווערט פון X.

הנחות אין פּשוטער לינעאַרער רעגרעסיע

פֿאַר גילטיקע און פאַרלעסלעכע רעזולטאַטן, נעמט פּשוטע לינעאַרע רעגרעסיע אָן עטלעכע זאַכן:
1. לינעאַריטעט: די באַציִונג צווישן דער אָפּהענגיקער וואַריאַבלע און דער אומאָפּהענגיקער וואַריאַבלע מוז זיין לינעאַר.
2. אומאפהענגיקייט: אבזערוואציעס מוזן זיין אומאפהענגיק איינע פון ​​די אנדערע.
3. האָמאָסעדאַסטיסיטי: די רעזידועלע וועריאַביליטי מוז זיין קאָנסטאַנט איבער דעם גאַנצן קייט פון ווערטן פון דער אומאָפּהענגיקער וועריאַבל.
4. רעזידועלע נאָרמאַליטעט: רעזידועלע (פֿעלער) מוזן פֿאָלגן אַ נאָרמאַלע פֿאַרטיילונג.

אויב די הנחות ווערן נישט דערפילט, וועלן די רעזולטאטן פון א פשוטן לינעארן רעגרעסיע מאָדעל זיין נישט פאַרלעסלעך און מעגלעך נישט קענען מאַכן גענויע פאָרויסזאָגן.

רעגרעסיע מאָדעל אַסעסמאַנט

איין וועג צו אפשאצן ווי גוט א פשוטע לינעארע רעגרעסיע מאדעל האט פאראויסגעזאגט איז צו ניצן דעם קאעפיציענט פון באשטימונג (\(R^2\)). דער קאעפיציענט פון באשטימונג ווייזט דעם פראפארציע פון ​​וועריאַביליטי אין דער אפהענגיקער וועריאַבל וואָס קען דערקלערט ווערן דורך דער וועריאַביליטי אין די אומאפהענגיקע וועריאַבלן.

[ R^2 = \frac{\sum_{i=1}^{n} (\hat{y}_i – \bar{y})^2}{\sum_{i=1}^{n} (y_i – \bar{y})^2} \]

וואו:
– \(\hat{y}_i\) איז דער פאראויסגעזאגטער ווערט פון \(Y\).
– \(y_i\) איז דער אמתער ווערט פון \(Y\).
– \(\bar{y}\) איז דער דורכשניט פון די ווערטן פון \(Y\).

דער \(R^2\) ווערט גייט פון 0 ביז 1. א \(R^2\) ווערט נאנט צו 1 ווייזט אז דער מאָדעל קען דערקלערן רוב פון דער וועריאַביליטי אין דער אָפּהענגיקער וועריאַבל.

אימפּלעמענטאַציע אין פּראָגראַממינג שפּראַך

צו אימפלעמענטירן א פשוטע לינעארע רעגרעסיע, קענען מיר ניצן פארשידענע סטאטיסטישע ווייכווארג אדער פראגראמירן שפראכן. אונטן איז א ביישפיל אימפלעמענטאציע אין פּיטהאן ניצנדיג די `scikit-learn` ביבליאטעק:

"פּיטהאָן
אַרייַנפיר נומפּי ווי נפּ
אַרייַנפיר מאַטפּלאָטליב.פּיפּלאָט ווי פּלט
פֿון sklearn.linear_model אַרייַנפיר לינעאַר רעגרעססיאָן
פֿון סקלעאַרנ.מעטריקס אַרייַנפיר מיינ_סקוואַרעד_ערראָר, ר2_סקאָרע

דאַטע
X = np.array([[1], [2], [3], [4], [5]]).astype(np.float64)
y = np.array([1.5, 3.6, 3.5, 2.9, 5.5]).astype(np.float64)

מאָדעל
מאָדעל = לינעאַר רעגרעססיאָן ()
model.fit (רענטגענ, י)

פּראָגנאָז
y_pred = model.predict (X)

קאָעפיציענט
ביתא_0 = מאָדעל.אינטערסעפּט_
ביתא_1 = מאָדעל.coef_[0]

דרוק(f'אינטערצעפט: {beta_0}')
דרוק(f'סלאָופּ: {beta_1}')
דרוק(f'מיטל קוואַדראַטישער טעות: {מיטל קוואַדראַטישער טעות(y, y_פּרעדיקט)}')
דרוק(f'קאעפיציענט פון באשטימונג (R^2): {r2_score(y, y_pred)}')

דאַטן פּלאָט און רעגרעסיע ליניע
plt.scatter(X, y, color='black')
plt.plot(X, y_pred, color='red')
פּלט.קסלייבל('X')
פּלט.ילעיבל('י')
plt.show ()
““

אין דעם ביישפּיל אויבן, אימפארטירן מיר ערשט די נויטיקע ביבליאָטעקן, דעפינירן די דאַטן \(X\) און \(Y\), און דערנאָך נוצן מיר דעם `LinearRegression` אָביעקט פֿון `scikit-learn` צו פּאַסן אַ מאָדעל צו די דאַטן. אַמאָל דער מאָדעל איז געפּאַסט, מאַכן מיר פאָרויסזאָגן און רעכענען די קאָעפֿיציענטן, ווי אויך די דורכשניטלעכע קוואַדראַטישע טעות און קאָעפֿיציענט פֿון באַשטימונג. צום סוף, צייכענען מיר די דאַטן און די רעגרעסיע ליניע.

קעסימפּולאַן

פּשוטע לינעאַרע רעגרעסיע איז אַ שטאַרק סטאַטיסטיש אַנאַליז געצייַג געניצט צו דערקלערן די שייכות צווישן צוויי קוואַנטיטאַטיווע וועריאַבאַלן. מיט עטלעכע גרונט הנחות וועגן לינעאַריטעט, אומאָפּהענגיקייט, האָמאָסקעדאַסטיסיטי און נאָרמאַליטעט, קענען מיר פאָרויסזאָגן דעם ווערט פון דער אָפּהענגיקער וועריאַבאַל באַזירט אויף די ווערטן פון די אומאָפּהענגיקע וועריאַבאַלן. די קלענסטע קוואַדראַטן מעטאָד גיט אַן עפעקטיוו וועג צו פּאַסיק אַ רעגרעסיע ליניע און באַשטימען אָפּטימאַלע פּאַראַמעטערס. מאָדעל עוואַלואַציע דורך די קאָעפיציענט פון באַשטימונג (R2) גיט אַן איבערבליק אין ווי גוט אונדזער מאָדעל פּערפאָרמז.

כאָטש פּשוטע לינעאַרע רעגרעסיע האט לימיטאַציעס, אַזאַ ווי בלויז קענען שעפּן צוויי וועריאַבאַלן און די הנחות וואָס מוזן זיין דערפילט, בלייבט די טעכניק אַ וויכטיקע יסוד אין סטאַטיסטיק און דאַטן אַנאַליז, און ווערט אָפט געניצט ווי אַ ערשטער שריט אין פֿאַרשטיין די שייכות צווישן וועריאַבאַלן איידער מען גייט ווייטער צו מער קאָמפּליצירטע מעטאָדן.