Метода бутстрепа у статистици
Пендахулуан
Статистика је наука која има за циљ прикупљање, анализу, тумачење и представљање података. Статистичка анализа се често ослања на одређене претпоставке или теорије вероватноће које захтевају велике величине узорака да би се добиле тачне процене. Међутим, у многим ситуацијама, добијање великих узорака није ни практично ни могуће. Ту метода „бутстрепа“, техника поновног узорковања, постаје веома корисна.
Метод „бутстреп“ је први пут представио Бредли Ефрон 1979. године и постао је једна од најпопуларнијих техника у статистици због своје флексибилности и способности да произведе прецизне процене за многе параметре популације без потребе за доношењем специфичних претпоставки о дистрибуцији. Овај чланак ће представити основне принципе методе „бутстреп“, кораке њене имплементације и неколико примера њене примене у статистици.
Основни принципи Bootstrap методе
Бутстреп метода је непараметарски приступ који нам омогућава да проценимо дистрибуцију статистике (нпр. средњу вредност, медијану, варијансу) поновним узорковањем наших оригиналних података. Основни принцип ове методе је коришћење постојећих података (оригиналног узорка) за симулацију многих нових скупова података са поновљеним узорковањем.
Следе основни кораци који се предузимају у методу „bootstrap“:
1. Поново узоркујте: Из оригиналног скупа података величине N, поново узоркујте N пута са заменом. То значи да елементи изабрани за анализу могу бити изабрани више пута.
2. Израчунајте статистику: Израчунајте жељену статистику (нпр. средњу вредност, медијану) за свако поновно узорковање.
3. Поновите поступак: Поновите кораке 1 и 2 неколико пута (нпр. B=1000 или више) да бисте добили бутстреп дистрибуцију статистике која вас занима.
4. Процена и закључак: Користите ову бутстреп дистрибуцију за креирање интервала поверења, тестирање хипотеза или креирање других инференцијалних статистика.
Фазе имплементације Bootstrap-а
Метода „bootstrap“ може се детаљније објаснити у следећим фазама:
1. Поновно узорковање
Ресамплирање са заменом је суштина методе „бутстреп“ (bootstrap) методе. Користећи оригиналне податке, креирамо много нових скупова података, названих „бутстреп“ узорци. Сваки „бутстреп“ узорак је резултат узорковања N пута из оригиналног скупа података величине N, али са заменом, тако да се елементи у оригиналном узорку могу појавити више пута у „бутстреп“ узорцима.
Контох:
Ако имамо оригиналне податке \[3, 5, 7, 9\], онда би један могући узорак бутстрепа могао бити \[3, 9, 9, 5\].
2. Израчунавање Bootstrap статистике
За сваки бутстреп узорак, израчунајте жељени статистички податак. Претпоставимо да нас занима средња вредност, израчунали бисмо средњу вредност за сваки бутстреп узорак. Ако поновимо овај поступак B пута, имаћемо B процена средње вредности.
3. Формирање Bootstrap дистрибуције
Обједињавањем свих статистика израчунатих из B бутстреп узорака, конструишемо бутстреп дистрибуцију жељене статистике. Ова дистрибуција се користи за апроксимацију дистрибуције узорковања статистике.
4. Статистичко закључивање
Из ове бутстреп дистрибуције можемо извести разне статистичке закључке. На пример, можемо одредити интервале поверења узимајући перцентиле из бутстреп дистрибуције или тестирати хипотезе посматрајући p-вредност добијену из ове дистрибуције.
Пример коришћења Bootstrap методе
Да бисмо пружили јаснију слику, погледајмо неколико примера како се метода „bootstrap“ користи у практичним контекстима.
Пример 1: Средњи интервал поверења
Претпоставимо да имамо узорке података о телесним тежинама 10 јединки на следећи начин: \[60, 62, 67, 70, 65, 68, 64, 60, 66, 63\].
1. Из ових података узимамо 1000 узорака исте величине методом bootstrap, на пример:
– Узорак 1: \[62, 67, 70, 67, 64, 62, 63, 65, 68, 60\]
– Узорак 2: \[60, 62, 70, 70, 63, 64, 63, 65, 68, 62\]
- итд…
2. Из сваког узорка бутстрепа израчунавамо просек:
– Средња вредност узорка 1: (62+67+70+67+64+62+63+65+68+60) / 10
– Средња вредност узорка 2: (60+62+70+70+63+64+63+65+68+62) / 10
- итд…
3. Понављањем овог корака 1000 пута, добићемо 1000 просечних тежина.
4. Са ових 1000 просечних података, формирамо бутстреп дистрибуцију и узимамо 2.5. и 97.5. перцентил да бисмо креирали интервал поверења од 95%.
Пример 2: Тест вишеструке медијалне хипотезе
Претпоставимо да желимо да тестирамо да ли су медијане два скупа података једнаке. Можемо користити бутстреппинг да бисмо креирали расподелу разлике у медијанама.
1. Узмите узорке бутстрепа из сваког од оригиналних скупова података.
2. Израчунајте средњу разлику за сваки бутстреп узорак.
3. Направите расподелу разлика медијане добијених методом „bootstrap“.
4. Проверите да ли нула спада у интервал поверења дистрибуције.
Предности и ограничења методе „Bootstrap“
Келебихан
– Непараметријски: Не захтева претпоставке о дистрибуцији података.
– Ефикасност за мале узорке: Ефикасно чак и за мале узорке.
– Флексибилно: Може се применити на различите статистике, укључујући средњу вредност, медијану, коефицијент регресије итд.
– Једноставност имплементације: Са напретком рачунарске технологије, метод „bootstrap“ је прилично једноставан за имплементацију уз помоћ статистичког софтвера као што су R или Python.
Ограничења
– Рачунарски трошкови: Може захтевати много рачунарских ресурса, посебно код великих величина података или великог броја узорака „bootstrap“ (Б).
– Разноликост узорка: Погодно само за узорке који су довољно репрезентативни за оригиналну популацију.
– Не штити од пристрасности: Ако су оригинални подаци пристрасни, онда ће сви бутстреп узорци садржати исту пристрасност.
Закључак
Бутстреп метод нуди моћно и флексибилно решење за многе проблеме статистичке инференције. Са својом способношћу да ефикасно процени дистрибуцију различитих статистика без претпоставке било какве специфичне дистрибуције, бутстреп метод је постао вредан алат у анализи података. Упркос својим ограничењима, користи које нуди често надмашују рачунарске трошкове. Када се користи на одговарајући начин, бутстреп метод може пружити богате и тачније увиде у статистичку анализу.