Формулаи регрессияи логистикӣ

Формулаи регрессияи логистикӣ

Регрессияи логистикӣ яке аз усулҳои маъмултарин дар омор ва илми додаҳо барои моделсозии робитаи байни як қатор тағйирёбандаҳои мустақил (пешгӯикунандаҳо) ва тағйирёбандаи вобастаи категориявӣ, махсусан дуӣ (масалан, ҳа/не, муваффақият/нокомӣ, бемор/солим) мебошад. Баръакси регрессияи хаттӣ, ки арзишҳои пайвастаро ба вуҷуд меорад, регрессияи логистикӣ барои арзёбии эҳтимолияти рӯйдод тарҳрезӣ шудааст, аз ин рӯ натиҷаи ниҳоӣ дар диапазони аз 0 то 1 аст. Дар ин мақола, мо формулаи регрессияи логистикӣ, маънои ҳар як ҷузъ ва тарзи тафсири онро баррасӣ хоҳем кард.

Чаро регрессияи логистикӣ лозим аст?

Агар мо барои пешгӯии эҳтимолиятҳо аз регрессияи хаттӣ истифода барем, модел метавонад арзишҳои камтар аз 0 ё болотар аз 1-ро ба вуҷуд орад, ки ин барои эҳтимолият ба таври возеҳ ғайримантиқӣ аст. Регрессияи логистикӣ ин мушкилотро бо истифода аз функсияи ғайрихаттӣ ҳал мекунад, ки натиҷаи ҳисобшударо (ки метавонад ҳар гуна арзиш бошад) ба арзиши эҳтимолият байни 0 ва 1 мутобиқ мекунад. Функсияи маъмултарин функсияи логистикӣ ё сигмоидӣ мебошад.

Масалан, фарз кунем, ки мо мехоҳем пешгӯӣ кунем, ки оё муштарӣ аз рӯи синну сол, давомнокии обуна ва басомади истифодааш аз муштариён хориҷ мешавад ё не. Натиҷаи пешбинишуда танҳо ду имкон дорад: хориҷшавӣ (1) ё набудани хориҷшавӣ (0). Регрессияи логистикӣ барои ин намуди вазъият хеле мувофиқ аст.

Формулаи асосӣ барои регрессияи логистикӣ

Моҳияти регрессияи логистикӣ моделсозии эҳтимолияти \(p\) аст, ки \(Y = 1\) (рӯй додани ҳодиса), бо назардошти арзиши тағирёбандаи пешгӯикунанда \(X\).

Моделҳои регрессияи логистикӣ одатан дар ду шакли муҳим навишта мешаванд:

1) Шакли эҳтимолият (Сигмоид)

\[
p = P(Y=1 \mid X) = \frac{1}{1 + e^{-z}}
\]

бо

\[
z = \beta_0 + \beta_1 X_1 + \beta_2 X_2 + \cdots + \beta_k X_k
\]

Маълумот:
– \( p \) эҳтимолияти рӯйдод аст (масалан: гардиш = 1).
– \( e \) адади Эйлер аст (тақрибан 2,71828).
– \( z \) як комбинатсияи хаттии пешгӯикунандаҳо мебошад.
– \( \beta_0 \) буриш (доимӣ) аст.
– \( \beta_1, \beta_2, \ldots, \beta_k \) коэффитсиентҳои регрессия мебошанд.
– \( X_1, X_2, \ldots, X_k \) тағйирёбандаҳои мустақил мебошанд.

Хонед  Аҳамияти омор дар муносибатҳои байналмилалӣ

Функсияи сигмоидӣ кафолат медиҳад, ки новобаста аз арзиши \(z\), арзиши \(p\) дар байни 0 ва 1 боқӣ мемонад.

2) Формаи логит (Коэффитсиентҳои логит)

Шакли дигари хеле муҳим шакли logit аст, ки логарифми эҳтимолият аст:

\[
\text{logit}(p) = \ln\left(\frac{p}{1-p}\right) = \beta_0 + \beta_1 X_1 + \beta_2 X_2 + \cdots + \beta_k X_k
\]

Маълумот:
– \( \frac{p}{1-p} \) эҳтимолият (имконияти нисбӣ) номида мешавад.
– \( \ln \) логарифми натуралӣ аст.

Шакли logit шарҳ медиҳад, ки регрессияи логистикӣ дар асл имкониятҳои log-ро ҳамчун функсияи хаттии пешгӯикунандаҳо модел мекунад. Ин тафсири коэффитсиентҳоро равшантар мекунад, хусусан дар заминаи таносубҳои имконият.

Фаҳмидани эҳтимолият ва таносубҳои эҳтимолият

Барои дарки воқеии формулаи регрессияи логистикӣ, мо бояд байни эҳтимолият ва имконият фарқ гузорем.

– Эҳтимолият \( p \): имконияти рух додани ҳодиса (0 ба 1).
– Эҳтимолият: муқоисаи эҳтимолияти рӯй додани чизе ба рӯй надодани он:

\[
\text{коэффитсиентҳо} = \frac{p}{1-p}
\]

Мисол: агар \( p = 0{,}8 \), пас:

\[
\text{коэффитсиентҳо} = \frac{0{,}8}{0{,}2} = 4
\]

Ин маънои онро дорад, ки эҳтимолияти рух додани ин ҳодиса 4 маротиба бештар аз рух надодан аст.

Дар регрессияи логистикӣ, коэффитсиенти \( \бета \) аксар вақт тавассути таносуби эҳтимолият шарҳ дода мешавад:

\[
\text{OR} = e^{\beta}
\]

– Агар \( \beta > 0 \) бошад, пас \( e^{\beta} > 1 \): пешгӯикунанда эҳтимолияти рӯйдодро зиёд мекунад.
– Агар \( \beta < 0 \), пас \( e^{\beta} < 1 \): пешгӯикунанда эҳтимолияти рӯйдодро кам мекунад. - Агар \( \beta = 0 \), пас \( e^{\beta} = 1 \): ба эҳтимолият таъсире нест. Масалан, агар \( \beta_1 = 0{,}7 \), пас: \[ e^{0{,}7} \approx 2{,}01 \] Ин маънои онро дорад, ки ҳар як афзоиши 1 воҳид дар \( X_1 \) эҳтимолияти рӯйдодро тақрибан 2,01 маротиба зиёд мекунад (бо назардошти он, ки дигар тағирёбандаҳо доимӣ мемонанд). Мисоли модели регрессияи оддии логистикӣ Фарз мекунем, ки мо танҳо як тағирёбандаи пешгӯикунанда \( X \) дорем, масалан, шумораи соатҳои таҳсил дар як ҳафта, то пешгӯии супоридани имтиҳонро (гузаштан = 1, ноком шудан = 0) пешгӯӣ кунем. Модел:

Хонед  Санҷиши t дар омори истилоҳотӣ
\[ \text{logit}(p) = \beta_0 + \beta_1 X \] Агар натиҷаи тахминӣ чунин бошад: - \( \beta_0 = -4 \) - \( \beta_1 = 0{,}8 \) Пас: \[z = -4 + 0{,}8X \] \[p = \frac{1}{1 + e^{-(-4 + 0{,}8X)}} = \frac{1}{1 + e^{4 - 0{,}8X}} \] Агар \( X = 6 \) соатҳои таҳсил: \[z = -4 + 0{,}8(6) = 0{,}8 \] \[p = \frac{1}{1 + e^{-0{,}8}} \approx 0{,}69 \] Шарҳ: бо 6 соати омӯзиш дар як ҳафта, эҳтимолият бо холҳои тақрибан 69% гузашт. Баҳодиҳии коэффитсиентҳо: Чаро усули хурдтарин квадратҳо нест? Дар регрессияи хаттӣ, коэффитсиентҳо аксар вақт бо истифода аз усули хурдтарин квадратҳо ҳисоб карда мешаванд. Аммо, дар регрессияи логистикӣ, робитаи байни пешгӯикунандаҳо ва эҳтимолиятҳо ғайрихаттӣ аст, аз ин рӯ равиши хурдтарин квадратҳо беҳтарин нест. Регрессияи логистикӣ одатан аз баҳодиҳии эҳтимолияти максималӣ (MLE) барои ёфтани арзиши коэффитсиенти \( \beta \), ки эҳтимолияти маълумоти мушоҳидашударо ба ҳадди аксар мерасонад, истифода мебарад. Хулоса, эҳтимолияти мушоҳидаҳои дуӣ \(y_i \in \{0,1\} \) ва пешгӯиҳо \(p_i \) чунин аст: \[ L(\beta) = \prod_{i=1}^{n} p_i^{y_i}(1-p_i)^{(1-y_i)} \] Сипас, он аксар вақт ба эҳтимолияти логарифмӣ табдил дода мешавад, то ҳисоб кардан осонтар шавад: \[ \ell(\beta) = \sum_{i=1}^{n} \left[ y_i \ln(p_i) + (1-y_i)\ln(1-p_i) \right] \] Қимати \( \beta \) барои ба ҳадди аксар расонидани \( \ell(\beta) \) интихоб карда мешавад. Усулҳои рақамӣ, ба монанди Нютон-Рафсон ё коҳиши градиент, аксар вақт аз ҷониби нармафзори оморӣ истифода мешаванд. Бартариҳо ва маҳдудиятҳои регрессияи логистикӣ Бартариятҳо 1. Натиҷаҳо дар шакли эҳтимолиятҳо мебошанд, аз ин рӯ онҳоро ба осонӣ ба қарорҳо табдил додан мумкин аст. 2. Тафсири коэффитсиентҳо тавассути таносуби эҳтимолият равшан аст. 3. Барои масъалаҳои таснифоти дуӣ мувофиқ аст ва метавонад ба бисёрномӣ/тартибӣ васеъ карда шавад. Маҳдудиятҳо 1. Муносибати хаттиро байни пешгӯикунандаҳо ва эҳтимолияти логарифмӣ фарз мекунад, на мустақиман ба эҳтимолиятҳо. 2. Агар бисёрколлинеарӣ ё маълумоти хеле номутавозин вуҷуд дошта бошад, метавонад мушкил бошад. 3. Барои намунаҳои хеле мураккаби муносибатҳо, дигар усулҳои ғайрихаттӣ (масалан, ҷангали тасодуфӣ ё шабакаи асабӣ) метавонанд бартарӣ дошта бошанд.
Хонед  Статистикаи бисёрченакӣ чист?
Хулоса Формулаи регрессияи логистикӣ асосан як комбинатсияи хаттии тағйирёбандаҳои пешгӯикунандаро бо функсияи сигмоид барои ба вуҷуд овардани эҳтимолият муттаҳид мекунад. Шакли маъмултарин ин аст: \[ p = \frac{1}{1 + e^{-(\beta_0 + \beta_1 X_1 + \cdots + \beta_k X_k)}} \] ё дар шакли logit: \[ \ln\left(\frac{p}{1-p}\right) = \beta_0 + \beta_1 X_1 + \cdots + \beta_k X_k \] Бо фаҳмидани ин ду шакли формула, мо метавонем моделҳои пешгӯикунандаро барои масъалаҳои гуногуни таснифоти дуӣ созем ва таъсири тағйирёбандаҳоро тавассути таносуби эҳтимолият \( e^{\beta} \) шарҳ диҳем. Регрессияи логистикӣ як пояи муҳим дар таҳлили маълумот боқӣ мемонад, зеро он содда, пурқувват ва тафсирӣ аст ва аксар вақт қадами аввал пеш аз кӯшиши моделҳои мураккабтар аст. Агар шумо хоҳед, ман метавонам мисоли ҳисобкуниро бо маълумоти хурд (ҷадвал) ё намунаи татбиқи регрессияи логистикиро дар Python/R дар баробари тафсири натиҷа илова кунам.

Шарҳ гузоред