ლოგისტიკური რეგრესიის ფორმულა

ლოგისტიკური რეგრესიის ფორმულა

ლოგისტიკური რეგრესია სტატისტიკასა და მონაცემთა მეცნიერებაში ერთ-ერთი ყველაზე პოპულარული მეთოდია დამოუკიდებელი ცვლადების (პროგნოზირების ფაქტორების) რაოდენობასა და კატეგორიულ დამოკიდებულ ცვლადს, განსაკუთრებით ორობითს (მაგ., კი/არა, წარმატება/წარუმატებლობა, ავადმყოფი/ჯანმრთელი) შორის ურთიერთობის მოდელირებისთვის. წრფივი რეგრესიისგან განსხვავებით, რომელიც უწყვეტ მნიშვნელობებს იძლევა, ლოგისტიკური რეგრესია შექმნილია მოვლენის ალბათობის შესაფასებლად, ამიტომ საბოლოო შედეგი 0-დან 1-მდე დიაპაზონშია. ამ სტატიაში განვიხილავთ ლოგისტიკური რეგრესიის ფორმულას, თითოეული კომპონენტის მნიშვნელობას და მისი ინტერპრეტაციის წესს.

რატომ არის საჭირო ლოგისტიკური რეგრესია?

თუ ალბათობების პროგნოზირებისთვის წრფივ რეგრესიას გამოვიყენებთ, მოდელს შეუძლია 0-ზე ნაკლები ან 1-ზე მეტი მნიშვნელობების მიღება, რაც ალბათობისთვის აშკარად დაუსაბუთებელია. ლოგისტიკური რეგრესია ამ პრობლემას არაწრფივი ფუნქციის გამოყენებით აგვარებს, რომელიც გამოთვლილ შედეგს (რომელიც შეიძლება იყოს ნებისმიერი მნიშვნელობა) 0-დან 1-მდე ალბათობის მნიშვნელობამდე აკავშირებს. ყველაზე ხშირად გამოყენებული ფუნქციაა ლოგისტიკური ანუ სიგმოიდური ფუნქცია.

მაგალითად, დავუშვათ, რომ გვსურს ვიწინასწარმეტყველოთ, გაქრება თუ არა მომხმარებელი მისი ასაკის, გამოწერის ხანგრძლივობისა და გამოყენების სიხშირის მიხედვით. პროგნოზირებულ შედეგს მხოლოდ ორი შესაძლებლობა აქვს: გაქრობა (1) ან გაქრობის არარსებობა (0). ლოგისტიკური რეგრესია კარგად შეეფერება ამ ტიპის სიტუაციას.

ლოგისტიკური რეგრესიის ძირითადი ფორმულა

ლოგისტიკური რეგრესიის არსი მდგომარეობს იმ ალბათობის (p) მოდელირებაში, რომ (Y = 1) (მოვლენა მოხდება), პროგნოზირების ცვლადის (X) მნიშვნელობის გათვალისწინებით.

ლოგისტიკური რეგრესიის მოდელები, როგორც წესი, ორი მნიშვნელოვანი ფორმით იწერება:

1) ალბათობის ფორმა (სიგმოიდი)

\[
p = P(Y=1 \mid X) = \frac{1}{1 + e^{-z}}
\]

dengan

\[
z = \beta_0 + \beta_1 X_1 + \beta_2 X_2 + \cdots + \beta_k X_k
\]

ინფორმაცია:
– \(p \) არის მოვლენის ალბათობა (მაგ.: გაცვლა = 1).
– \(e \) არის ეილერის რიცხვი (დაახლოებით 2,71828).
– \( z \) პროგნოზირების ფაქტორების წრფივი კომბინაციაა.
– \( \beta_0 \) არის ჩაჭრილი წერტილი (მუდმივა).
– \( β_1, β_2, ldots, β_k) რეგრესიის კოეფიციენტებია.
– \(X_1, X_2, \ldots, X_k \) დამოუკიდებელი ცვლადებია.

სიგმოიდური ფუნქცია უზრუნველყოფს, რომ z-ის მნიშვნელობის მიუხედავად, p-ის მნიშვნელობა 0-სა და 1-ს შორის დარჩეს.

2) ლოგიტის ფორმა (შანსების ჟურნალი)

კიდევ ერთი ძალიან მნიშვნელოვანი ფორმაა ლოგიტის ფორმა, რომელიც შანსების ლოგარითმია:

\[
\text{logit}(p) = \ln\left(\frac{p}{1-p}\right) = \beta_0 + \beta_1 X_1 + \beta_2 X_2 + \cdots + \beta_k X_k
\]

ინფორმაცია:
– \( \frac{p}{1-p} \)-ს ეწოდება შანსები (ფარდობითი შანსი).
– \( \ln \) არის ბუნებრივი ლოგარითმი.

ლოგიტური ფორმა განმარტავს, რომ ლოგისტიკური რეგრესია რეალურად ლოგარითმულ შანსებს პროგნოზირების ფაქტორების წრფივ ფუნქციად აყალიბებს. ეს კოეფიციენტების ინტერპრეტაციას უფრო ნათელს ხდის, განსაკუთრებით შანსების კოეფიციენტების კონტექსტში.

შანსებისა და შანსების კოეფიციენტების გაგება

ლოგისტიკური რეგრესიის ფორმულის სრულად გასაგებად, უნდა განვასხვავოთ ალბათობა და შანსები.

– ალბათობა (p): მოვლენის მოხდენის ალბათობა (0-დან 1-მდე).
– შანსები: რაღაცის მოხდენის ალბათობის შედარება არმოხდენის ალბათობასთან:

\[
\text{კოეფიციენტი} = \frac{p}{1-p}
\]

მაგალითი: თუ \( p = 0{,}8 \), მაშინ:

\[
\text{კოეფიციენტი} = \frac{0{,}8}{0{,}2} = 4
\]

ეს ნიშნავს, რომ მოვლენის მოხდენის ალბათობა 4-ჯერ მეტია, ვიდრე არ მოხდენის.

ლოგისტიკურ რეგრესიაში, კოეფიციენტი (β) ხშირად განიმარტება შანსების თანაფარდობის მეშვეობით:

\[
ან = e^{\beta}
\]

– თუ \( β > 0 \), მაშინ \( e^{ β} > 1 \): პროგნოზირების ფაქტორი ზრდის მოვლენის შანსებს.
– თუ \( β < 0 \), მაშინ \( e^{ β < 1 \): პროგნოზირების ფაქტორი ამცირებს მოვლენის შანსებს. - თუ \( β = 0 \), მაშინ \( e^{ β} = 1 \): შანსებზე გავლენა არ არის. მაგალითად, თუ \( β_1 = 0{,}7 \), მაშინ: \[ e^{0{,}7} \approx 2{,}01 \] ეს ნიშნავს, რომ \( X_1 \)-ის ყოველი 1 ერთეულით ზრდა მოვლენის შანსებს დაახლოებით 2,01-ჯერ გაამრავლებს (იმ პირობით, რომ სხვა ცვლადები უცვლელი რჩება). მარტივი ლოგისტიკური რეგრესიის მოდელის მაგალითი დავუშვათ, რომ გვაქვს მხოლოდ ერთი პროგნოზირების ფაქტორი \( X \), მაგალითად, კვირაში სწავლის საათების რაოდენობა, გამოცდის ჩაბარების პროგნოზირებისთვის (ჩაბარება = 1, ჩაჭრა = 0). მოდელი:

\[ \text{logit}(p) = \beta_0 + \beta_1 X \] თუ სავარაუდო შედეგია: - \( \beta_0 = -4 \) - \( \beta_1 = 0{,}8 \) მაშინ: \[ z = -4 + 0{,}8X \] \[ p = \frac{1}{1 + e^{-(-4 + 0{,}8X)}} = \frac{1}{1 + e^{4 - 0{,}8X}} \] თუ \( X = 6 \) სწავლის საათი: \[ z = -4 + 0{,}8(6) = 0{,}8 \] \[ p = \frac{1}{1 + e^{-0{,}8}} \approx 0{,}69 \] ინტერპრეტაცია: კვირაში 6 საათის სწავლის შემთხვევაში, ალბათობა დაახლოებით 69%-იანი ქულით დადასტურდა. კოეფიციენტის შეფასება: რატომ არ უნდა გამოვიყენოთ უმცირესი კვადრატების მეთოდი? წრფივ რეგრესიაში კოეფიციენტები ხშირად გამოითვლება უმცირესი კვადრატების მეთოდის გამოყენებით. თუმცა, ლოგისტიკურ რეგრესიაში პროგნოზირებად ფაქტორებსა და ალბათობებს შორის დამოკიდებულება არაწრფივია, ამიტომ უმცირესი კვადრატების მიდგომა იდეალური არ არის. ლოგისტიკური რეგრესია ზოგადად იყენებს მაქსიმალური ალბათობის შეფასებას (MLE) იმ კოეფიციენტის მნიშვნელობის მოსაძებნად, რომელიც მაქსიმალურად ზრდის დაკვირვებული მონაცემების ალბათობას. შეჯამებისთვის, ბინარული დაკვირვებების (y_i \in \{0,1\} \) და პროგნოზების (p_i \) ალბათობაა: \[ L(\beta) = \prod_{i=1}^{n} p_i^{y_i}(1-p_i)^{(1-y_i)} \] შემდეგ ის ხშირად გარდაიქმნება ლოგარითმულ ალბათობად, რათა გამოთვლა გამარტივდეს: \[ \ell(\beta) = \sum_{i=1}^{n} \left[ y_i \ln(p_i) + (1-y_i)\ln(1-p_i) \right] \] \(\beta \) მნიშვნელობა შერჩეულია \( \ell(\beta) \)-ის მაქსიმიზაციისთვის. სტატისტიკური პროგრამული უზრუნველყოფა ხშირად იყენებს რიცხვით მეთოდებს, როგორიცაა ნიუტონ-რაფსონი ან გრადიენტული დაღმართი. ლოგისტიკური რეგრესიის უპირატესობები და შეზღუდვები უპირატესობები 1. შედეგები ალბათობების სახითაა, ამიტომ მათი გადაწყვეტილებებად გარდაქმნა მარტივია. 2. კოეფიციენტების ინტერპრეტაცია ნათელია შანსების თანაფარდობის მეშვეობით. 3. გამოდგება ბინარული კლასიფიკაციის ამოცანებისთვის და შეიძლება გაფართოვდეს მულტინომიალურ/ორდინალურ ამოცანებზე. შეზღუდვები 1. ვარაუდობს წრფივ კავშირს პროგნოზირებად ფაქტორებსა და ლოგარითმულ შანსებს შორის და არა პირდაპირ ალბათობებთან. 2. შეიძლება პრობლემური იყოს, თუ არსებობს მულტიკოლინეარობა ან ძალიან დისბალანსირებული მონაცემები. 3. ძალიან რთული ურთიერთობის ნიმუშებისთვის, სხვა არაწრფივი მეთოდები (მაგ., შემთხვევითი ტყე ან ნეირონული ქსელი) შეიძლება უკეთესი იყოს. დასკვნა ლოგისტიკური რეგრესიის ფორმულა არსებითად აერთიანებს პროგნოზირების ცვლადების წრფივ კომბინაციას სიგმოიდურ ფუნქციასთან ალბათობების მისაღებად. ყველაზე გავრცელებული ფორმაა: \[ p = \frac{1}{1 + e^{-(\beta_0 + \beta_1 X_1 + \cdots + \beta_k X_k)}} \] ან ლოგიტური ფორმით: \[ \ln\left(\frac{p}{1-p}\right) = \beta_0 + \beta_1 X_1 + \cdots + \beta_k X_k \] ფორმულის ამ ორი ფორმის გაგებით, ჩვენ შეგვიძლია ავაშენოთ პროგნოზირების მოდელები სხვადასხვა ბინარული კლასიფიკაციის პრობლემებისთვის, ცვლადების გავლენის ინტერპრეტაციისას შანსების თანაფარდობის მეშვეობით \(e^{\beta} \). ლოგისტიკური რეგრესია მონაცემთა ანალიზში მნიშვნელოვან საფუძვლად რჩება, რადგან ის მარტივი, ძლიერი და ინტერპრეტაციულია და ხშირად პირველი ნაბიჯია უფრო რთული მოდელების გამოყენებამდე. თუ გსურთ, შემიძლია დავამატო მცირე მონაცემებით გამოთვლის მაგალითი (ცხრილი) ან Python/R-ში ლოგისტიკური რეგრესიის განხორციელების მაგალითი, გამომავალი შედეგის ინტერპრეტაციასთან ერთად.