Шта је вишеструка регресија
Вишеструка регресија је техника статистичке анализе која се користи за разумевање односа између једне зависне променљиве и две или више независних променљивих. Ова метода се често користи у друштвеним, економским, пословним, здравственим, образовним и истраживањима у науци о подацима јер може да објасни како неколико фактора заједно утиче на исход.
На пример, претпоставимо да неко жели да предвиди резултате испита студента. На резултате испита (зависна променљива) могу утицати сати учења, присуство и приступ подучавању (независне променљиве). Вишеструка регресија помаже у одговору на питања као што су: Који фактори су најутицајнији? Ако се број сати учења повећа, колико ће се повећати просечан резултат испита, ако остали фактори буду константни?
-
Дефиниција и сврха вишеструке регресије
Једноставно речено, вишеструка регресија има за циљ:
1. Предвидите вредност зависне променљиве на основу неколико независних променљивих.
2. Објасните колики утицај свака независна променљива има на зависну променљиву.
3. Смањује пристрасност која може настати ако користимо само једну независну променљиву, иако је у стварности феномен под утицајем многих фактора.
4. Контролисање других варијабли (контрола) при тестирању утицаја одређене варијабле.
Код једноставне регресије посматрамо само однос једног фактора и исхода. Међутим, у стварном свету, ефекти се често преклапају. Овде вишеструка регресија постаје реалнија: покушава да види „ширу слику“ укључивањем више варијабли одједном.
-
Општи облик једначине вишеструке регресије
Вишеструка регресија се обично пише као једначина:
Y = a + b1X1 + b2X2 + b3X3 + … + bnXn + e
Информације:
– Y = зависна променљива (коју треба објаснити/предвидети)
– a = константа (вредност Y када су сви X-ови 0)
– b1, b2, … bn = коефицијенти регресије за сваку независну променљиву
– X1, X2, … Xn = независне променљиве
– e = грешка/резидуал (део варијације у Y који модел не може да објасни)
Коефицијент b је најчешће интерпретирана компонента. На пример, ако је b1 = 2,5, онда ће свако повећање X1 за 1 јединицу повећати Y за 2,5, под претпоставком да остале независне променљиве остану константне. Фраза „уз све остало константно“ је важна јер представља кључну карактеристику вишеструке регресије: она мери „делимични“ ефекат променљиве.
-
Пример примене вишеструке регресије
Да бисмо вам олакшали, ево једноставног пословног примера. Претпоставимо да компанија жели да зна факторе који утичу на продају производа (Y). Компанија прикупља податке:
– X1 = трошкови оглашавања (у милионима рупија)
– X2 = цена производа (у хиљадама рупија)
– X3 = број активних препродаваца
Резултати анализе дају једначину:
Продаја = 100 + 8X1 – 5X2 + 12X3
Тумачење:
– Константа 100: када се трошкови оглашавања, цене и препродавци сматрају 0, продаја се процењује на 100 јединица (ово је само математичко тумачење, понекад нема смисла у стварности).
– 8X1: процењује се да ће сваки додатни милион трошкова оглашавања повећати продају за 8 јединица, ако цена и препродавац остану исти.
– -5X2: процењује се да свако повећање цене од хиљаду рупија смањује продају за 5 јединица, ако остале варијабле остану константне.
– 12X3: сваки додатни активни препродавац повећава продају за 12 јединица, ако остале варијабле остану константне.
Са овим моделом, компаније могу креирати политике: на пример, одређивање комбинације оглашавања, цена и броја препродаваца како би се постигли циљеви продаје.
-
Када је вишеструка регресија прикладна за употребу?
Вишеструка регресија је погодна за употребу када:
1. Имате један главни исход који желите да предвидите (Да).
2. Постоји више од једног фактора за који се сумња да утиче на исход (X).
3. Подаци су на нумеричкој скали или се могу променити у нумерички облик (на пример, категорије се мењају у пробне примере).
Ова метода се такође може користити за „тестирање теорија“ у истраживањима, на пример, да ли је ефекат образовања на приход и даље значајан након контроле радног искуства и локације пребивалишта.
-
Важне претпоставке у вишеструкој регресији
Да би резултати били валидни, вишеструка регресија има неколико претпоставки које треба узети у обзир:
1. Линеарност
Претпоставља се да је веза између независних и зависних променљивих линеарна. Ако је стварна веза закривљена (нелинеарна), линеарни модел може бити мање тачан.
2. Не постоји висока мултиколинеарност
Независне променљиве не би требало да буду превише јако корелиране. Ако су X1 и X2 скоро идентични, биће тешко раздвојити њихове одговарајуће ефекте.
3. Хомоскедастичност
Очекује се да ће варијанса резидуала бити релативно константна за све предвиђене вредности. Ако резидуал постане већи при одређеној вредности (хетероскедастичност), процена може бити мање ефикасна.
4. Нормалност резидуала (често пожељна)
Резидуали треба да буду приближно нормално распоређени, посебно за потребе тестирања значајности.
5. Независност грешака
Грешке између посматрања не би требало да буду у корелацији. Овај проблем се често јавља код временских серија података.
Провера претпоставки се обично врши путем графикона резидуала, статистичких тестова (нпр. VIF за мултиколинеарност) и других дијагностичких анализа.
-
Мерење квалитета модела: R² и тестови значајности
У вишеструкој регресији користи се неколико уобичајених индикатора:
– R² (Коефицијент детерминације)
Приказује пропорцију варијације у Y коју модел може објаснити. Вредности R² се крећу од 0 до 1. Што је R² већи, то независна променљива објашњава више варијација. Међутим, велики R² не значи аутоматски да је модел „исправан“; може доћи до прекомерног прилагођавања.
– Прилагођени R²
Верзија R² која узима у обзир број независних променљивих. Ово помаже у поређењу модела са различитим бројем променљивих.
– F тест (симултано)
Тестирање да ли независне променљиве заједно имају значајан утицај на Y.
– t-тест (парцијални)
Тестирајте да ли је сваки коефицијент (b1, b2, итд.) статистички значајан.
Овим тестом, истраживачи могу проценити да ли је модел користан и које варијабле заправо доприносе.
-
Предности и ограничења вишеструке регресије
Келебихан
– Реалније јер узима у обзир више фактора одједном.
– Може се користити за предвиђање и објашњење.
– Омогућава анализу делимичних ефеката (контролу других променљивих).
– То је основа за многе напредне методе у статистици и машинском учењу.
Ограничења
– Склоно мултиколинеарности.
– Резултати могу бити обмањујући ако се претпоставке не испуне.
– Не указује аутоматски на узрочну везу; регресија показује повезаност, а узрочност захтева снажан истраживачки дизајн.
– До прекомерног прилагођавања може доћи ако постоји превише варијабли у поређењу са количином података.
-
Пенутуп
Вишеструка регресија је важан статистички алат за анализу односа између једне зависне променљиве и више независних променљивих. Користећи релативно једноставну једначину, ова метода помаже истраживачима и практичарима да разумеју утицајне факторе, измере јачину утицаја сваке променљиве и дају прецизнија предвиђања него коришћење само једног фактора.
Међутим, вишеструка регресија није „магични алат“. Она захтева добар квалитет података, разуман избор варијабли и проверу претпоставки како би се осигурала тачна интерпретација. Када се користи на одговарајући начин, вишеструка регресија може пружити солидну основу за доношење одлука на основу података у различитим областима.
Ако желите, могу вам помоћи да направите верзију овог чланка за одређени контекст (нпр. за тезу, за пословне пројекте или за средњошколце) са једноставним примерима прорачуна и упутствима за читање SPSS/Excel/R излаза.
