የሎጂስቲክ ሪግሬሽን ቀመር

የሎጂስቲክ ሪግሬሽን ፎርሙላ

የሎጂስቲክ ሪግሬሽን በስታቲስቲክስ እና በመረጃ ሳይንስ ውስጥ በብዙ ገለልተኛ ተለዋዋጮች (ትንበያዎች) እና በምድብ ጥገኛ ተለዋዋጭ መካከል ያለውን ግንኙነት ለመቅረጽ በጣም ታዋቂ ከሆኑ ዘዴዎች አንዱ ነው፣ በተለይም ሁለትዮሽ (ለምሳሌ፣ አዎ/አይደለም፣ ስኬት/ውድቀት፣ የታመመ/ጤናማ)። ቀጣይነት ያላቸውን እሴቶች የሚያመነጨው መስመራዊ ሪግሬሽን በተለየ፣ የሎጂስቲክ ሪግሬሽን የአንድ ክስተት እድልን ለመገመት የተነደፈ ነው፣ ስለዚህ የመጨረሻው ውጤት ከ0 እስከ 1 ባለው ክልል ውስጥ ነው። በዚህ ጽሑፍ ውስጥ፣ የሎጂስቲክ ሪግሬሽን ቀመርን፣ የእያንዳንዱን ክፍል ትርጉም እና እንዴት መተርጎም እንደሚቻል እንወያያለን።

የሎጂስቲክስ ቅነሳ ለምን ያስፈልጋል?

ፕሮባቢሊቲዎችን ለመተንበይ መስመራዊ ሪግሬሽንን ከተጠቀምን ፣ ሞዴሉ ከ0 በታች ወይም ከ1 በላይ የሆኑ እሴቶችን ሊያመነጭ ይችላል፣ ይህም ለፕሮባቢሊቲ ግልጽ ምክንያታዊ አይደለም። የሎጂስቲክ ሪግሬሽን ይህንን ችግር የሚፈታው የተሰላው ውጤት (ማንኛውም እሴት ሊሆን ይችላል) ከ0 እና 1 መካከል ካለው የፕሮባቢሊቲ እሴት ጋር የሚያገናኝ መስመራዊ ያልሆነ ተግባርን በመጠቀም ነው። በብዛት ጥቅም ላይ የሚውለው ተግባር የሎጂስቲክ ወይም የሲግሞይድ ተግባር ነው።

ለምሳሌ፣ አንድ ደንበኛ በእድሜው፣ በደንበኝነት ምዝገባው ርዝመት እና በአጠቃቀም ድግግሞሽ ላይ በመመስረት ማቋረጥ ይጀምር እንደሆነ መተንበይ እንፈልጋለን እንበል። የተገመተው ውጤት ሁለት አማራጮች ብቻ አሉት፡ ማቋረጥ (1) ወይም ማቋረጥ የለም (0)። የሎጂስቲክ ሪግሬሽን ለዚህ አይነት ሁኔታ በጣም ተስማሚ ነው።

የሎጂስቲክ ሪግሬሽን መሰረታዊ ቀመር

የሎጂስቲክ ሪግሬሽን ዋና ነገር የትንበያ ተለዋዋጭ \(X \) እሴትን ከግምት ውስጥ በማስገባት የ \( Y = 1 \) (ክስተቱ የሚከሰትበትን ዕድል \(p \) ሞዴል ማድረግ ነው።

የሎጂስቲክ ሪግሬሽን ሞዴሎች ብዙውን ጊዜ በሁለት አስፈላጊ ቅርጾች ይጻፋሉ፡

1) የፕሮባቢሊቲ ፎርም (ሲግሞይድ)

\[
p = P(Y=1 \mid X) = \frac{1}{1 + e^{-z}}
\]

dengan

\[
z = \beta_0 + \beta_1 X_1 + \beta_2 X_2 + \cdots + \beta_k X_k
\]

መረጃ፡
– \( p \) የክስተቱ ዕድል ነው (ለምሳሌ፡ churn = 1)።
– \(e \) የዩለር ቁጥር ነው (ወደ 2,71828 አካባቢ)።
– \( z \) የትንበያዎች መስመራዊ ጥምረት ነው።
– \( \beta_0 \) መቆራረጥ (ቋሚ) ነው።
– \( \beta_1፣ \beta_2፣ \ldots፣ \beta_k \) የሪግሬሽን ኮፊሸንት ናቸው።
– \( X_1፣ X_2፣ \ldots፣ X_k \) ገለልተኛ ተለዋዋጮች ናቸው።

የሲግሞይድ ተግባር የ\(z\) እሴት ምንም ይሁን ምን የ\(p\) እሴት ከ0 እስከ 1 መካከል እንዲቆይ ያረጋግጣል።

2) የሎጊት ቅጽ (የሎጊት ዕድል)

ሌላው በጣም አስፈላጊ ቅጽ የሎጊት ቅጽ ሲሆን ይህም የዕድል ሎጋሪዝም ነው፡

\[
\text{logit}(p) = \ln\left(\frac{p}{1-p}\right) = \beta_0 + \beta_1 X_1 + \beta_2 X_2 + \cdots + \beta_k X_k
\]

መረጃ፡
– \( \frac{p}{1-p} \) እድሎቹ (አንጻራዊ ዕድል) ይባላሉ።
– \( \ln \) ተፈጥሯዊ ሎጋሪዝም ነው።

የሎጊት ቅጽ እንደሚያብራራው የሎጂስቲክ ሪግሬሽን የሎግ ዕድሎችን እንደ ትንበያ ሰጪዎች መስመራዊ ተግባር አድርጎ ይቀርፃል። ይህም ኮፊሸንቶችን መተርጎም የበለጠ ግልጽ ያደርገዋል፣ በተለይም በእድል ሬሾዎች አውድ ውስጥ።

የዕድል እና የዕድል ጥምርታዎችን መረዳት

የሎጂስቲክ ሪግሬሽን ፎርሙላን በትክክል ለመረዳት፣ በዕድል እና በእድል መካከል ያለውን ልዩነት መለየት ያስፈልገናል።

– ፕሮባቢሊቲ \( p \): የአንድ ክስተት የመከሰት እድል (0 እስከ 1)።
– ዕድል፡- የሆነ ነገር የመከሰት ወይም ያለመከሰት እድልን ማወዳደር፡

\[
\text{odds} = \frac{p}{1-p}
\]

ለምሳሌ፡ ከሆነ \( p = 0{,}8 \)፣ ከዚያ፡

\[
\text{odds} = \frac{0{,}8}{0{,}2} = 4
\]

ይህ ማለት ክስተቱ የመከሰት እድሉ ከማይከሰት በ4 እጥፍ ይበልጣል።

በሎጂስቲክ ሪግሬሽን፣ ኮፊሸንት \( \beta \) ብዙውን ጊዜ የሚተረጎመው በአጋጣሚ ጥምርታ ነው፡

\[
\text{OR} = e^{\beta}
\]

– ከሆነ \( \beta > 0 \), ከዚያ \( e^{\beta} > 1 \): ትንበያው የክስተቱን ዕድል ይጨምራል።
– ከሆነ \( \beta < 0 \), ከዚያ \( e^{\beta} < 1 \): ትንበያው የክስተቱን ዕድል ይቀንሳል።
– ከሆነ \( \beta = 0 \), ከዚያ \( e^{\beta} = 1 \): በእድሎቹ ላይ ምንም ተጽእኖ የለም።

ለምሳሌ፣ \( \beta_1 = 0{,}7 \) ከሆነ፣ ከዚያ፦

\[
e^{0{,}7} \approx 2{,}01
\]

ይህ ማለት እያንዳንዱ 1 አሃድ በ\(X_1 \) ሲጨምር የክስተቱን ዕድል በግምት በ2,01 ጊዜ ያባዛዋል ማለት ነው (ሌሎች ተለዋዋጮች ቋሚ ሆነው ከቀሩ)።

የቀላል ሎጂስቲክ ሪግሬሽን ሞዴል ምሳሌ

ፈተና ማለፍን ለመተንበይ አንድ የትንበያ ተለዋዋጭ ብቻ እንዳለን እንበል (X \)፣ ለምሳሌ በሳምንት የጥናት ሰዓቶች ብዛት (ማለፊያ = 1፣ ውድቀት = 0)። ሞዴሉ፡

\[
\text{logit}(p) = \beta_0 + \beta_1
\]

ግምቱ ውጤት ከሆነ፦
– \( \beta_0 = -4 \)
– \( \beta_1 = 0{,}8 \)

ስለዚህ፦

\[
z = -4 + 0{,}8X
\]
\[
p = \frac{1}{1 + e^{-(-4 + 0{,}8X)}} = \frac{1}{1 + e^{4 – 0{,}8X}}
\]

ከሆነ \( X = 6 \) የትምህርት ሰዓታት፡

\[
z = -4 + 0{,}8(6) = 0{,}8
\]
\[
p = \frac{1}{1 + e^{-0{,}8}} \approx 0{,}69
\]

ትርጓሜ፡ በሳምንት ለ6 ሰዓታት የሚቆይ ጥናት ሲኖር፣ የማለፍ እድሉ 69% ያህል ነው።

የኮፊሸንት ግምት፡ ለምን አነስተኛ የካሬዎች ዘዴ አይሆንም?

በመስመራዊ ሪግሬሽን ፣ ኮፊሸንቶች ብዙውን ጊዜ የሚሰሉት በትንሹ ካሬዎች ዘዴ ነው። ሆኖም፣ በሎጂስቲክ ሪግሬሽን፣ በተተነባቢዎች እና በዕድሎች መካከል ያለው ግንኙነት መስመራዊ ያልሆነ ነው፣ ስለዚህ ትንሹ ካሬዎች አቀራረብ ተስማሚ አይደለም። የሎጂስቲክ ሪግሬሽን በአጠቃላይ የሚታየውን መረጃ የመከሰት እድልን ከፍ የሚያደርገውን የኮፊሸንት እሴት \( \beta \) ለማግኘት ከፍተኛውን የዕድል ግምት (MLE) ይጠቀማል።

ባጭሩ፣ የሁለትዮሽ ምልከታዎች \(y_i \in \{0,1\} \) እና ትንበያዎች \(p_i \) የመከሰት እድሉ፡

\[
L(\beta) = \prod_{i=1}^{n} p_i^{y_i}(1-p_i)^{(1-y_i)}
\]

ከዚያም ብዙውን ጊዜ ለማስላት ቀላል ለማድረግ ወደ ሎግ-ዕድል ይቀየራል፡

\[
\ell(\beta) = \sum_{i=1}^{n} \left[ y_i \ln(p_i) + (1-y_i)\ln(1-p_i) \right]
\]

የ\( \beta \) እሴት የተመረጠው \( \ell( \beta) \)ን ለማሳደግ ነው። እንደ ኒውተን-ራፍሰን ወይም የግራዲየንት ዴነስ ያሉ የቁጥር ዘዴዎች ብዙውን ጊዜ በስታቲስቲክስ ሶፍትዌር ጥቅም ላይ ይውላሉ።

የሎጂስቲክ ሪግሬሽን ጥቅሞች እና ገደቦች

ከመጠን በላይ
1. ውጤቶቹ በዕድሎች መልክ ስለተገኙ ወደ ውሳኔዎች በቀላሉ ሊተረጎሙ ይችላሉ።
2. የኮፊሸንት ትርጓሜ በዕድሎች ጥምርታ በኩል ግልጽ ነው።
3. ለሁለትዮሽ ምደባ ችግሮች ተስማሚ እና ወደ ባለብዙ-ኖሚያል/ኦርዲናል ሊራዘም ይችላል።

ገደቦች
1. በቀጥታ ከዕድል ጋር ከመገናኘት ይልቅ በተተነባቢዎች እና በሎግ ዕድሎች መካከል ቀጥተኛ ግንኙነትን ይወስዳል።
2. ባለብዙ-ኮላላይኔሪቲ ካለ ወይም መረጃው በጣም ሚዛናዊ ካልሆነ ችግር ሊፈጥር ይችላል።
3. በጣም ውስብስብ ለሆኑ የግንኙነት ቅጦች፣ ሌሎች መስመራዊ ያልሆኑ ዘዴዎች (ለምሳሌ የዘፈቀደ ደን ወይም የነርቭ አውታረ መረብ) የተሻሉ ሊሆኑ ይችላሉ።

መዝጊያ

የሎጂስቲክ ሪግሬሽን ፎርሙላ በመሠረቱ የትንበያ ተለዋዋጮችን መስመራዊ ጥምረት ከሲግሞይድ ተግባር ጋር በማጣመር እድሎችን ይፈጥራል። በጣም የተለመደው ቅርፅ፡

\[
p = \frac{1}{1 + e^{-(\beta_0 + \beta_1 X_1 + \cdots + \beta_k X_k)}}
\]

ወይም በሎጅ መልክ፦

\[
\ln\left(\frac{p}{1-p}\right) = \beta_0 + \beta_1 X_1 + \cdots + \beta_k X_k
\]

እነዚህን ሁለት የቀመር ዓይነቶች በመረዳት፣ የተለዋዋጮችን ተጽዕኖ በአጋጣሚ ጥምርታ \(e^{\beta} \) በመተርጎም ለተለያዩ የሁለትዮሽ ምደባ ችግሮች ትንበያ ሞዴሎችን መገንባት እንችላለን። የሎጂስቲክ ሪግሬሽን ቀላል፣ ኃይለኛ እና ትርጓሜያዊ ስለሆነ በውሂብ ትንተና ውስጥ አስፈላጊ መሠረት ሆኖ ይቀጥላል - እና ብዙውን ጊዜ የበለጠ ውስብስብ ሞዴሎችን ከመሞከርዎ በፊት የመጀመሪያው እርምጃ ነው።

ከፈለጉ፣ በትንሽ ዳታ (ሠንጠረዥ) የምሳሌ ስሌት ወይም በፓይዘን/አር ውስጥ የሎጂስቲክ ሪግሬሽን ትግበራ ምሳሌ እና የውጤቱን ትርጓሜ ማከል እችላለሁ።