Статистикадағы Джекнайф әдісі
Пышақ әдісі статистикада, әсіресе бағалаудың белгісіздігін өлшеу үшін маңызды қайта іріктеу әдісі болып табылады. Пышақ көбінесе бағалаушының ауытқуы мен дисперсиясын бағалау үшін, сондай-ақ стандартты қателік сияқты дәлдік өлшемдерін құру үшін қолданылады. Бұл әдіс салыстырмалы түрде қарапайым, тым қатаң үлестірімді болжамдарды қажет етпейді және классикалық статистикадан бастап қазіргі деректерді талдауға дейінгі көптеген мәселелерге қолданылуы мүмкін.
Анықтама және негізгі идеялар
Пышақты Морис Кенуй енгізді, кейінірек Джон Туки танымал етті. "Пышақты пышақ" атауы әмбебап қалта пышағынан шабыттанған, себебі әдіс икемді және әртүрлі контексттерде қолданылуы мүмкін. Негізгі идея мынада: егер бізде n өлшемді үлгі болса, әр бақылауды алып тастау арқылы бірнеше "макет үлгілерін" жасаймыз, содан кейін әр үлгідегі бағалаушыны қайта есептейміз. Бір бақылау алынып тасталған кезде бағалаушының қалай өзгеретінін бақылау арқылы біз бағалаушының деректердегі өзгерістерге қатысты тұрақтылығы туралы түсінік аламыз.
Мысалы, бізде \(x_1, x_2, \dots, x_n\) деректері бар және \(\hat{\theta}=t(x_1,\dots,x_n)\) бағалауын пайдаланып \(\theta\) параметрін бағалағымыз келеді делік. Jackknife ойынында біз \(n-1\) өлшемді n кіші үлгілерді құрамыз, атап айтқанда \(x_i\)-ші кіші үлгіні \(x_i\)жояды. Содан кейін есептейміз:
\[
\hat{\theta}_{(i)} = t(x_1,\dots,x_{i-1},x_{i+1},\dots,x_n)
\]
\(\hat{\theta}_{(i)}\) мәні бір мәнді алып тастау бағасы деп аталады.
Пышақ әдісінің қадамдары
Процедуралық тұрғыдан, пышақпен жұмыс істеуді келесі қадамдармен түсіндіруге болады:
1. Толық деректер бойынша бағалаушыны есептеңіз
Барлық үлгі бойынша \(\hat{\theta}\) мәнін есептеңіз.
2. Біреуін қалдыратын n кіші үлгілерді жасаңыз
Әрбір \(i = 1,2,\dots,n\) үшін \(x_i\) бақылауын алып тастаңыз және \(\hat{\theta}_{(i)}\) бағалауын есептеңіз.
3. Пышақ бағалаушысының орташа мәнін есептеңіз
Орташа бір рет алып тастау саны:
\[
\bar{\theta}_{(\cdot)} = \frac{1}{n}\sum_{i=1}^n \hat{\theta}_{(i)}
\]
4. Дисперсияны (немесе стандартты қатені) бағалау
Пышақ дисперсиясы әдетте келесі формуламен есептеледі:
\[
\widehat{\mathrm{Var}}_{J}(\hat{\theta}) = \frac{n-1}{n}\sum_{i=1}^n \left(\hat{\theta}_{(i)} – \bar{\theta}_{(\cdot)}\right)^2
\]
Стандартты қателік дисперсияның квадрат түбірі болып табылады.
5. Қателікті бағалау және қателікті түзету (міндетті емес)
Jackknife сонымен қатар келесі жолдармен қателікті бағалай алады:
\[
\widehat{\mathrm{Bias}}_{J}(\hat{\theta}) = (n-1)\left(\bar{\theta}_{(\cdot)} – \hat{\theta}\оң)
\]
Қателікті түзетуді келесі жолдармен жасауға болады:
\[
\hat{\theta}_{J} = \hat{\theta} – \widehat{\mathrm{Bias}}_{J}(\hat{\theta})
\]
Түсіндірме: егер бірді алып тастаған орташа мән толық бағалаушыдан жүйелі түрде өзгеше болса, түзетілуі мүмкін ауытқу белгісі бар.
Интуитивті мысал: үлгі орташа мәні
Пышақты интуитивті түрде түсіну үшін үлгі орташа бағалауды қарастырыңыз:
\[
\hat{\mu} = \frac{1}{n}\sum_{i=1}^n x_i
\]
Егер бір бақылауды алып тастасақ, орташа мән келесідей болады:
\[
\hat{\mu}_{(i)} = \frac{1}{n-1}\sum_{j\ne i} x_j
\]
Орташа мәндер жағдайында, пышақ үлкен «тосынсый» тудырмайды, себебі орташа мән тұрақты және ауытқу аз (көптеген жағдайларда). Дегенмен, медиана, белгілі бір регрессия коэффициенті, корреляция немесе сызықтық емес статистика сияқты күрделі бағалаушылар үшін бір деректер нүктесін алып тастаудан туындайтын өзгеріс бағалаушының сезімталдығын ашып, оның стандартты қателігінің пайдалы бағасын бере алады.
Жалған құндылық: пышақтағы маңызды ұғым
Кейбір талқылауларда jackknife әрбір бақылау үшін жалған мәнді енгізеді:
\[
\theta_i^{ } = n\hat{\theta} – (n-1)\hat{\theta}_{(i)}
\]
Сонда пышақ бағалаушысын жалған мәндердің орташа мәні ретінде жазуға болады:
\[
\hat{\theta}_{J} = \frac{1}{n}\sum_{i=1}^n \theta_i^{ }
\]
Псевдомәндік тәсіл әрбір бақылаудың соңғы бағалауға қалай «үлес қосатынын» түсіндіруге көмектеседі және ауытқуларды талдауды жеңілдетеді.
Пышақ пен аяқ киім арасындағы байланыс
Jackknife көбінесе bootstrap-пен салыстырылады, себебі екеуі де қайта үлгілеу әдістері болып табылады. Дегенмен, маңызды айырмашылықтар бар:
– Jackknife бір деректерді алып тастау арқылы (біреуін алып тастау) субдискретизацияны қолданады. Репликациялар саны детерминирленген: дәл n.
– Bootstrapping ауыстырумен қайта үлгі жасайды, әдетте көп рет (мысалы, 1000 немесе 10 000 рет), осылайша бағалаушының эмпирикалық таралуын бағалауды қамтамасыз етеді.
Жалпы алғанда, күрделі есептерді шешу үшін бастапқы пышақты пайдалану икемдірек және көбінесе дәлірек, бірақ пышақ қарапайым және есептеу тұрғысынан арзанырақ. Үлкен деректер жиынтықтарында пышақ, әсіресе бағалаушыны есептеу қымбат болған кезде, бірақ n рет мүмкін болған кезде, шамамен стандартты қателіктерді алудың жылдам баламасы бола алады.
Пышақпен кесу әдісінің артықшылықтары
Пышақ тәрізді пышақтардың кейбір артықшылықтарына мыналар жатады:
1. Қарапайым және іске асыру оңай
Біреуін қалдыру тұжырымдамасы интуитивті, ал дисперсия формуласы қарапайым.
2. Тарату туралы бірнеше болжамдар
Пышақ пышағы әрқашан қалыптылықты немесе белгілі бір таралу формасын қабылдауды талап етпейді.
3. Белгілі бір есептеулер үшін тиімді
Бағалаушы есептеулерінің тек n ретін қажет ететіндіктен, jackknife көбінесе мыңдаған репликацияларды қажет ететін bootstrapping-ке қарағанда жеңілірек.
4. Қателікті бағалау үшін пайдалы
Әсіресе, әдетте аналитикалық есептеу оңай емес сызықтық емес бағалауларда.
Шектеулер және назар аудару керек нәрселер
Күшті болғанымен, пышақ келесі кемшіліктерге ие:
1. Өте тегіс емес бағалаулар үшін дәлдігі төмен
Мысалы, кейбір жағдайларда медиана немесе квантилдер немесе экстремалды мәндерге тәуелді статистика, джекпіш кейде дисперсияның дәл емес бағаларын береді.
2. Тәуелділіктері бар деректер үшін әрқашан қолайлы емес
Уақыт қатарларында немесе кеңістіктік деректерде бақылаулар тәуелсіз емес. Бір нүктені алып тастау тәуелділік құрылымын бұзуы мүмкін. Мұндай жағдайларда блоктық пышақ (бір уақытта бір деректер блогын алып тастау) сияқты вариациялар қолданылады.
3. Жоғары әсерлі бақылауларға сезімтал
Егер ауытқулар немесе «левередж» деректері болса, бірлік қалдырылған баға күрт өзгеруі мүмкін. Бұл әрқашан әлсіздік емес - шын мәнінде, бұл маңызды сигнал болуы мүмкін - бірақ нәтижесінде пайда болатын ауытқу үлкен болуы мүмкін және мұқият түсіндіруді қажет етеді.
4. Өте үлкен n кезінде масштабталу
Bootstrapping-ке қарағанда арзанырақ болғанымен, jackknife әлі де n бағалаушысын бағалауды қажет етеді. Егер n миллиондаған болса және бағалаушылар қымбат болса, бұл мәселе тудыруы мүмкін.
Нұсқалары: delete-d jackknife және block jackknife
Біреуін алып тастаудан басқа, келесі нұсқалар бар:
– Delete-d jackknife: әрбір репликация үшін d бақылауды жояды (тек 1 бақылаудың орнына). Бұл белгілі бір жағдайларда, әсіресе тегіс емес бағалаушылар үшін дәлдікті жақсарта алады.
– Block jacknife: автокорреляциясы бар деректерге (мысалы, күнделікті, апта сайынғы немесе кеңістіктік деректер) сәйкес келетін бірнеше көршілес бақылауларды қамтитын блокты жояды.
d немесе блок өлшемін таңдау деректер құрылымына және қорытынды мақсатына байланысты.
Пышақты іс жүзінде қолдану
Пышақ әртүрлі салаларда қолданылады:
– Биостатистика және эпидемиология: аналитикалық формулалар қиын болған кезде тәуекел өлшемдері немесе модель параметрлері үшін стандартты қателіктерді бағалау.
– Эконометрика: параметрлердің тұрақтылығын бағалау, әсіресе шектеулі үлгілерде.
– Информатика және машиналық оқыту: бір нәрсені алып тастау тұжырымдамасы айқаспалы валидациямен тығыз байланысты, дегенмен мақсаттары әртүрлі (болжамды валидациялау және параметр дәлдігін бағалау).
– Экология және зерттеулер: әртүрлілікті немесе белгілі бір индекстерді бағалау және күрделі статистиканың белгісіздігі.
Жабу
Пышақ әдісі - бүгінгі күнге дейін өзекті болып қала беретін классикалық қайта іріктеу әдісі. Қарапайым идеяны қолдану арқылы - бір бақылауды өткізіп жіберу және бағалаушыны қайта есептеу арқылы - пышақ күрделі математикалық есептеулерсіз дисперсияны, стандартты қатені және ауытқуды бағалауды қамтамасыз ете алады. Дегенмен, оны пайдалану бағалаушының сипатын, үлгі өлшемін және деректердің тәуелділік құрылымын ескеруді талап етеді. Іс жүзінде, пышақ көбінесе жылдам және мөлдір нұсқа болып табылады немесе bootstrapping сияқты сенімді қайта іріктеу әдістерін қолдануға қосымша болып табылады.
Қаласаңыз, мен шағын сандық есептеу мысалын қоса аламын (мысалы, корреляция немесе регрессия үшін) немесе қолдануды нақтылау үшін R/Python бағдарламасында jackknife іске асыруын қоса аламын.
