דזשעקקנייף מעטאד אין סטאטיסטיק
די דזשעקנייף מעטאָדע איז אַ וויכטיקע ריסאַמפּלינג טעכניק אין סטאַטיסטיק, ספּעציעל פֿאַר מעסטן די אומזיכערקייט פון אַ שאַצונג. די דזשעקנייף ווערט אָפט געניצט צו שאַצן די בייאַס און וואַריאַנס פון אַ שאַצער, ווי אויך צו קאַנסטרויִרן פּרעציזיע מאָסן ווי די סטאַנדאַרט טעות. די טעכניק איז לעפיערעך פּשוט, דאַרף נישט צו שטרענגע דיסטריביושאַנאַל אַסאַמפּשאַנז, און קען ווערן געווענדט צו אַ ברייט קייט פון פּראָבלעמען, פון קלאַסישע סטאַטיסטיק ביז מאָדערנע דאַטן אַנאַליז.
הינטערגרונט און גרונט־אידעען
דער דזשעקנייף איז איינגעפירט געווארן דורך מאריס קווענוי און שפעטער פאפולעריזירט דורך דזשאן טוקי. דער נאמען "דזשעקנייף" איז אינספירירט דורך א פילזייטיגן טאשן-מעסער, ווייל די מעטאד איז פלעקסיבל און קען גענוצט ווערן אין פארשידענע קאנטעקסטן. די גרונט-אידעע איז דאס: אויב מיר האבן א מוסטער פון גרייס n, שאפן מיר עטליכע "דאמי מוסטערן" דורך ארויסנעמען איין אבזערוואציע אין א צייט, און דערנאך רעכענען מיר איבער דעם שאצער אויף יעדן מוסטער. דורך באאבאכטן ווי דער שאצער ענדערט זיך ווען איין אבזערוואציע ווערט ארויסגענומען, באקומען מיר אן איינבליק אין די שאצער'ס סטאביליטעט איבער וועריאציע אין די דאטן.
למשל, לאָמיר זאָגן מיר האָבן דאַטן _(x_1, x_2, \dots, x_n\) און מיר ווילן אָפּשאַצן אַ פּאַראַמעטער _(\theta\) ניצנדיק דעם עסטימאַטאָר _( \hat{\theta}=t(x_1, \dots,x_n)\). אין דזשעקקנייף, פֿאָרמען מיר n סוב-מוסטערן פֿון גרייס _(n-1\), נעמלעך דעם _(i\)טן סוב-מוסטער וואָס נעמט אויס _(x_i\). דערנאָך רעכענען מיר אויס:
\[
\hat{\theta}_{(i)} = t(x_1,\dots,x_{i-1},x_{i+1},\dots,x_n)
\]
דער ווערט \(\hat{\theta}_{(i)}\) ווערט גערופן די לאָז-איינס-אויס שאַצונג.
דזשעקקנייף מעטאד סטעפּס
פּראָצעדוראַל, קען מען דערקלערן דזשעקקנייף אין די פאלגענדע טריט:
1. רעכענען אויס דעם שאַצער אויף די גאַנצע דאַטן
רעכנט אויס \(\hat{\theta}\) איבער דעם גאנצן מוסטער.
2. שאַפֿן n אויסלאָז-איינס סובסאַמפּלעס
פֿאַר יעדן \(i = 1,2,\dots,n\), אַראָפּנעמען די אָבסערוואַציע \(x_i\) און רעכנט אויס דעם עסטימאַטאָר \(\hat{\theta}_{(i)}\).
3. רעכענען אויס דעם דורכשניט פון דעם דזשעקקנייף עסטימאַטאָר
דורכשניטלעכע אויסלאָז-איינס:
\[
\bar{\theta}_{(\cdot)} = \frac{1}{n}\sum_{i=1}^n \hat{\theta}_{(i)}
\]
4. שאַצן וואַריאַנס (אָדער סטאַנדאַרט טעות)
די דזשעקקנייף וועריאַנס ווערט געוויינטלעך קאַלקיאַלייטיד מיט:
\[
\widehat{\mathrm{Var}}_{J}(\hat{\theta}) = \frac{n-1}{n}\sum_{i=1}^n \left(\hat{\theta}_{(i)} – \bar{\theta}_{(\cdot)}\right)^2
\]
דער סטאַנדאַרט טעות איז די קוואַדראַט וואָרצל פון דער וואַריאַנס.
5. בייאַס שאַצונג און בייאַס קערעקשאַן (אפציאָנעל)
דזשעקקנייף קען אויך אפשאצן בייאַס דורך:
\[
\ווידעהאַט{\מאַטהרם{בייס}}_{J}(\העט{\טהעטאַ}) = (n-1)\לינקס (\באַר{\טהעטאַ}_{(\cdot)} – \העט{\טעטאַ}\רעכט)
\]
בייאַס קאָרעקציע קען געטאָן ווערן דורך:
\[
\האַט {\טהעטאַ}_{J} = \האַט{\טהעטאַ} - \ווידעהאַט{\מאַטהרם{בייס}}_{J}(\האַט{\טעטאַ})
\]
אינטערפּרעטאַציע: אויב דער דורכשניט פון "אויסלאָזן איינס" איז אַנדערש סיסטעמאַטיש פונעם פולן עסטימאַטאָר, איז דאָ אַן אָנצייגונג פון אַ פאָרורטייל וואָס קען קאָריגירט ווערן.
אינטואיטיוו ביישפּיל: מוסטער דורכשניט
כּדי צו פֿאַרשטיין דעם דזשעקקנייף אינטואיטיוו, באַטראַכט דעם מוסטער דורכשניט עסטימאַטאָר:
\[
\hat{\mu} = \frac{1}{n}\sum_{i=1}^n x_i
\]
אויב מיר נעמען אַראָפּ איין אָבסערוואַציע \(x_i\), ווערט דער דורכשניט:
\[
\hat{\mu}_{(i)} = \frac{1}{n-1}\sum_{j\ne i} x_j
\]
אין פאַל פון דורכשניטן, גיט דער דזשעקקנייף נישט קיין גרויסע "איבערראשונג" ווייל דער דורכשניט איז סטאַביל און די בייאַס איז קליין (אין פילע קאָנטעקסטן). אָבער, פֿאַר מער קאָמפּליצירטע עסטימאַטאָרן - ווי דער מעדיאַן, אַ באַזונדערער רעגרעסיע קאָעפיציענט, אַ קאָרעלאַציע, אָדער אַ ניט-לינעאַרע סטאַטיסטיק - קען די ענדערונג וואָס רעזולטירט פון אַוועקנעמען אַן איינציקן דאַטן פּונקט אַנטפּלעקן די סענסיטיוויטי פון דעם עסטימאַטאָר און פּראָדוצירן אַ נוצלעכע שאַצונג פון זיין סטאַנדאַרט טעות.
פּסעוודאָווערט: אַ וויכטיקער באַגריף אין דזשעקקנייף
אין עטלעכע דיסקוסיעס, פירט דזשעקקנייף איין א פסעוודאווערט פאר יעדער אבזערוואציע:
\[
∫_tენი = n₀ – (n-1)₀_(i)
\]
דעמאָלט קען מען שרייבן דעם דזשעקקנייף עסטימאַטאָר ווי דער דורכשניט פון פּסעוודאָווערטן:
\[
\hat{\theta}_{J} = \frac{1}{n}\sum_{i=1}^n \theta_i^{ }
\]
דער פּסעוודאָווערט צוגאַנג העלפֿט דערקלערן ווי יעדע אָבסערוואַציע "ביישטייערט" צו דער לעצטער אָפּשאַצונג און פֿאַרלייכטערט בייאַס אַנאַליז.
די שייכות צווישן דזשעקקנייף און בוטסטראַפּ
דזשעקנייף ווערט אָפט פאַרגליכן מיט בוטסטראַפּ, ווײַל ביידע זענען ריסאַמפּלינג מעטאָדן. אָבער, עס זענען דאָ וויכטיקע אונטערשיידן:
– דזשעקנייף ניצט סובסעמפּלינג דורך ארויסנעמען איין דאטן (אויסלאזן איין). די צאל רעפּליקאַציעס איז דעטערמיניסטיש: פּונקט n.
– בוטסטראַפּינג שאַפט אַ ריסאַמפּל מיט ריפּלייסמאַנט, געוויינטלעך פיל מאָל (למשל 1000 אָדער 10.000 מאָל), אַזוי צושטעלנדיק אַן אָפּשאַצונג פון דער עמפּירישער פאַרשפּרייטונג פון דעם עסטימאַטאָר.
בכלל, איז דער "bootstrap" מער פלעקסיבל און אפט מער גענוי פאר קאמפליצירטע פראבלעמען, אבער דער "jackknife" איז פשוטער און קאמפיוטאריעל ביליגער. אויף גרויסע דאטן-זאמלונגען, קען דער "jackknife" זיין א שנעלע אלטערנאטיוו פאר באקומען גראָבע סטאַנדאַרט ערראָרס, ספּעציעל ווען קאמפיוטינג דעם עסטימאַטאָר איז טייער אבער נאך אלץ מעגלעך n מאל.
מעלות פון די דזשעקקנייף מעטאד
עטלעכע פון די מעלות פון אַ דזשעקקנייף אַרייַננעמען:
1. פּשוט און גרינג צו דורכפירן
דער "לאָז-איינס-אויס" קאָנצעפּט איז אינטואיטיוו, און די וואַריאַנס פֿאָרמולע איז גאַנץ פּשוט.
2. עטלעכע פאַרשפּרייטונג הנחות
דזשעקקנייף פארלאנגט נישט שטענדיק די הנחה פון נאָרמאַליטעט אדער פאַרשפּרייטונג פאָרעם זיכער.
3. עפעקטיוו פֿאַר געוויסע חשבונות
ווייל עס פארלאנגט נאר n מאל פון עסטימאַטאָר קאַלקולאַציעס, איז דזשעקקנייף אָפט לייטער ווי בוטסטראַפּינג וואָס פארלאנגט טויזנטער רעפּליקאַציעס.
4. נוצלעך פֿאַר בייאַס עסטימאַציע
ספּעציעל אין נישט-לינעאַרע עסטאַמאַטאָרן, וואָס זענען געוויינטלעך נישט גרינג צו רעכענען אַנאַליטיש.
לימיטאַציעס און זאכן צו היטן אויס פֿאַר
כאָטש שטאַרק, האט דער דזשעקקנייף לימיטאַציעס:
1. ווייניקער פּינקטלעך פֿאַר זייער נישט גלאַט עסטימאַטאָרן
למשל, דער מעדיאַן אדער קוואַנטילן אין געוויסע באדינגונגען, אדער סטאַטיסטיק וואָס אָפענגען אויף עקסטרעמע ווערטן, דער דזשעקקנייף גיט מאל ווייניקער פּינקטלעכע שאַצונגען פון וואַריאַנס.
2. נישט שטענדיק פּאַסיק פֿאַר דאַטן מיט אָפּהענגיקייטן
אין צייט סעריעס אדער ספעציעלע דאטן, זענען אבזערוואציעס נישט אומאפהענגיק. אוועקנעמען איין פונקט קען צוברעכן די אפהענגיקייט סטרוקטור. פאר אזעלכע פעלער, ווערן וועריאציעס ווי בלאק דזשעקנייף (ארויסנעמען איין בלאק דאטן אין א צייט) גענוצט.
3. סענסיטיוו צו הויך-אימפּאַקט אָבסערוואַציעס
אויב עס זענען דא אויסנאַם-ווערטער אדער "לעווערידזשד" דאַטן, קען די אָפּשאַצונג פון "אויסלאָזן איינס" זיך דרעמאַטיש ענדערן. דאָס איז נישט שטענדיק אַ שוואַכקייט - עס קען טאַקע זיין אַ וויכטיקער סיגנאַל - אָבער די רעזולטאַט וואַריאַנס קען זיין גרויס און ריקווייערז אַ אָפּגעהיטן אינטערפּרעטאַציע.
4. סקאַלאַביליטי ביי זייער גרויס n
כאָטש ביליקער ווי בוטסטראַפּינג, דאַרף דזשעקקנייף נאָך n עסטימאַטאָר עוואַלואַציעס. אויב n איז אין די מיליאָנען און עסטימאַטאָרן זענען טייַער, קען דאָס זיין פּראָבלעמאַטיש.
וועריאציעס: אויסמעקן-די דזשעקקנייף און בלאק דזשעקקנייף
חוץ "אויסלאזן איינס", זענען דא וועריאציעס:
– אויסמעקן-ד דזשעקקנייף: אויסמעקט ד אבזערוואציעס פער רעפליקאציע (אנשטאט נאר 1). דאס קען פארבעסערן די גענויקייט אין געוויסע סיטואציעס, ספעציעל פאר נישט-גלאטע שאצערס.
– בלאָק דזשעקקנייף: אַראָפּנעמט אַ בלאָק וואָס כּולל עטלעכע שכנותדיקע אָבסערוואַציעס, פּאַסיק פֿאַר דאַטן וואָס האָבן אויטאָקאָרעלאַציע (למשל טעגלעך, וועכנטלעך, אָדער ספּיישאַל דאַטן).
די אויסוואל פון d אדער בלאק גרייס ווענדט זיך אין דער דאטן סטרוקטור און דעם ציל פון אויספירן.
אַפּליקאַציע פון דזשעקקנייף אין פּראַקסיס
דזשעקקנייף ווערט גענוצט אין פארשידענע פעלדער:
– ביאָסטאַטיסטיק און עפּידעמיאָלאָגיע: אָפּשאַצן סטאַנדאַרט ערראָרס פֿאַר ריזיקאָ מעסטונגען אָדער מאָדעל פּאַראַמעטערס ווען אַנאַליטישע פאָרמולעס זענען שווער.
– עקאנאָמעטריקס: עוואַלואַציע פון פּאַראַמעטער סטאַביליטעט, ספּעציעל אין לימיטעד מוסטערן.
– קאָמפּיוטער וויסנשאַפֿט און מאַשין לערנען: דער באַגריף פֿון לאָזן-איינס-אויס איז ענג פֿאַרבונדן מיט קראָס-וואַלידאַציע, כאָטש די צילן זענען אַנדערש (פּרעדיקציע וואַלידאַציע קעגן פּאַראַמעטער אַקיעראַסי עסטימאַציע).
– עקאָלאָגיע און אַנקעטעס: שאַצונג פון דייווערסיטי אָדער זיכערע אינדעקסן און די אַנסערטאַנטי פון קאָמפּלעקס סטאַטיסטיק.
קלאָוזינג
די דזשעקנייף מעטאָדע איז אַ קלאַסישע ריסאַמפּלינג טעכניק וואָס בלייבט באַטייַטיק הייַנט. דורך נוצן אַ פּשוט געדאַנק - אויסלאָזן איין אָבסערוואַציע און ריקאַלקולירן די עסטימאַטאָר - קען די דזשעקנייף צושטעלן שאַצונגען פון וואַריאַנס, סטאַנדאַרד טעות, און בייאַס אָן קאָמפּליצירט מאַטעמאַטישע חשבונות. אָבער, איר נוצן ריקווייערז באַטראַכטונג פון די נאַטור פון די עסטימאַטאָר, מוסטער גרייס, און די דעפּענדענסי סטרוקטור פון די דאַטן. אין פּראַקטיק, די דזשעקנייף איז אָפט אַ שנעל און טראַנספּאַרענט אָפּציע, אָדער ווי אַ דערגאַנצונג צו נוצן מער ראָבוסט ריסאַמפּלינג מעטהאָדס אַזאַ ווי בוטסטראַפּינג.
אויב איר ווילט, קען איך אויך צולייגן א קליין נומעריש רעכענונג ביישפּיל (למשל, פֿאַר קאָרעלאַציע אָדער רעגרעסיע) אָדער אַרייננעמען אַ דזשעקקנייף אימפּלעמענטאַציע אין R/פּיטהאָן צו קלעראַפיצירן די אַפּליקאַציע.
