लॉजिस्टिक रिग्रेशन सूत्र

लॉजिस्टिक रिग्रेशन सूत्र

लॉजिस्टिक रिग्रेशन ही सांख्यिकी आणि डेटा सायन्समधील सर्वात लोकप्रिय पद्धतींपैकी एक आहे, जी अनेक स्वतंत्र चल (प्रेडिक्टर्स) आणि एक श्रेणीबद्ध अवलंबून चल, विशेषतः बायनरी (उदा., होय/नाही, यश/अपयश, आजारी/निरोगी) यांच्यातील संबंधांचे मॉडेलिंग करण्यासाठी वापरली जाते. लिनियर रिग्रेशनच्या विपरीत, जे सतत मूल्ये (continuous values) देते, लॉजिस्टिक रिग्रेशन एखाद्या घटनेच्या संभाव्यतेचा अंदाज घेण्यासाठी तयार केले आहे, त्यामुळे अंतिम निकाल 0 ते 1 च्या श्रेणीत असतो. या लेखात, आपण लॉजिस्टिक रिग्रेशन सूत्र, प्रत्येक घटकाचा अर्थ आणि त्याचे स्पष्टीकरण कसे करावे यावर चर्चा करणार आहोत.

लॉजिस्टिक रिग्रेशनची गरज का आहे?

जर आपण संभाव्यतांचा अंदाज घेण्यासाठी रेषीय प्रतिगमन (linear regression) वापरले, तर मॉडेल 0 पेक्षा कमी किंवा 1 पेक्षा जास्त मूल्ये देऊ शकते, जे संभाव्यतेसाठी स्पष्टपणे अवास्तव आहे. लॉजिस्टिक प्रतिगमन (Logistic regression) या समस्येचे निराकरण एका अरेखीय फलनाचा (nonlinear function) वापर करून करते, जे गणना केलेल्या निकालाला (जो कोणतेही मूल्य असू शकतो) 0 आणि 1 मधील संभाव्यता मूल्यामध्ये रूपांतरित करते. सर्वात सामान्यपणे वापरले जाणारे फलन म्हणजे लॉजिस्टिक किंवा सिग्मॉइड फलन (logistic or sigmoid function).

उदाहरणार्थ, समजा आपल्याला ग्राहकाचे वय, सदस्यतेचा कालावधी आणि वापराची वारंवारता यांवर आधारित तो सेवा सोडून देईल की नाही याचा अंदाज लावायचा आहे. अंदाजित परिणामामध्ये फक्त दोनच शक्यता आहेत: सेवा सोडून देणे (1) किंवा सेवा न सोडून देणे (0). लॉजिस्टिक रिग्रेशन अशा प्रकारच्या परिस्थितीसाठी अत्यंत योग्य आहे.

लॉजिस्टिक रिग्रेशनसाठी मूलभूत सूत्र

लॉजिस्टिक रिग्रेशनचे सार म्हणजे प्रेडिक्टर व्हेरिएबल \(X\) चे मूल्य दिले असता, \(Y = 1 \) (घटना घडण्याची) संभाव्यता \(p\) मॉडेल करणे.

लॉजिस्टिक रिग्रेशन मॉडेल्स सामान्यतः दोन महत्त्वाच्या स्वरूपांमध्ये लिहिले जातात:

१) संभाव्यता स्वरूप (सिग्मॉइड)

\[
p = P(Y=1 \mid X) = \frac{1}{1 + e^{-z}}
\]

डेंगन

\[
z = \beta_0 + \beta_1 X_1 + \beta_2 X_2 + \cdots + \beta_k X_k
\]

केटरंगन:
– \( p \) ही घटनेची संभाव्यता आहे (उदा.: चर्न = 1).
– \( e \) ही यूलरची संख्या आहे (सुमारे 2,71828).
– \( z \) हे प्रेडिक्टर्सचे रेषीय संयोजन आहे.
– \( \beta_0 \) हा इंटरसेप्ट (स्थिरांक) आहे.
– \( \beta_1, \beta_2, \ldots, \beta_k \) हे रिग्रेशन गुणांक आहेत.
– \( X_1, X_2, \ldots, X_k \) हे स्वतंत्र चल आहेत.

सिग्मॉइड फंक्शन हे सुनिश्चित करते की \( z \) चे मूल्य काहीही असले तरी, \( p \) चे मूल्य 0 आणि 1 च्या दरम्यान राहील.

२) लॉजिट फॉर्म (लॉग ऑड्स)

आणखी एक अत्यंत महत्त्वाचे स्वरूप म्हणजे लॉजिट स्वरूप, जे शक्यतांचा लॉगरिथम आहे:

\[
\text{logit}(p) = \ln\left(\frac{p}{1-p}\right) = \beta_0 + \beta_1 X_1 + \beta_2 X_2 + \cdots + \beta_k X_k
\]

केटरंगन:
– \( \frac{p}{1-p} \) याला शक्यता (सापेक्ष संधी) म्हणतात.
– \( \ln \) हा नैसर्गिक लॉगरिथम आहे.

लॉजिट स्वरूप हे स्पष्ट करते की लॉजिस्टिक रिग्रेशन प्रत्यक्षात लॉग ऑड्सना प्रेडिक्टर्सचे एक रेषीय फंक्शन म्हणून मॉडेल करते. यामुळे कोएफिशियंट्सचा अर्थ लावणे अधिक सोपे होते, विशेषतः ऑड्स रेशोच्या संदर्भात.

ऑड्स आणि ऑड्स रेशो समजून घेणे

लॉजिस्टिक रिग्रेशन सूत्र खऱ्या अर्थाने समजून घेण्यासाठी, आपल्याला संभाव्यता आणि शक्यता यांमधील फरक ओळखणे आवश्यक आहे.

– संभाव्यता \( p \): एखादी घटना घडण्याची शक्यता (0 ते 1).
– शक्यता: एखादी गोष्ट घडण्याच्या आणि न घडण्याच्या संभाव्यतेची तुलना.

\[
\text{ऑड्स} = \frac{p}{1-p}
\]

उदाहरण: जर \( p = 0{,}8 \) असेल, तर:

\[
शक्यता = 0, 8 / 0, 2 = 4
\]

याचा अर्थ असा की, ती घटना घडण्याची शक्यता न घडण्यापेक्षा ४ पट जास्त आहे.

लॉजिस्टिक रिग्रेशनमध्ये, गुणांक \( \beta \) चा अर्थ अनेकदा ऑड्स रेशोद्वारे लावला जातो:

\[
किंवा = e^{\beta}
\]

– जर \( \beta > 0 \) असेल, तर \( e^{\beta} > 1 \): भाकित करणारा घटनेची शक्यता वाढवतो.
– जर \( \beta < 0 \) असेल, तर \( e^{\beta} < 1 \): प्रेडिक्टर घटनेची शक्यता कमी करतो. - जर \( \beta = 0 \) असेल, तर \( e^{\beta} = 1 \): शक्यतेवर कोणताही परिणाम होत नाही. उदाहरणार्थ, जर \( \beta_1 = 0{,}7 \) असेल, तर: \[ e^{0{,}7} \approx 2{,}01 \] याचा अर्थ असा की \( X_1 \) मध्ये प्रत्येक 1 युनिट वाढ झाल्यास घटनेची शक्यता अंदाजे 2,01 पटीने वाढेल (इतर व्हेरिएबल्स स्थिर राहतील असे गृहीत धरल्यास). साध्या लॉजिस्टिक रिग्रेशन मॉडेलचे उदाहरण समजा आपल्याकडे परीक्षेत उत्तीर्ण होण्याचा अंदाज लावण्यासाठी फक्त एकच प्रेडिक्टर व्हेरिएबल \( X \) आहे, उदाहरणार्थ प्रति आठवडा अभ्यासाचे तास (पास = 1, नापास = 0). मॉडेल:

\[ \text{logit}(p) = \beta_0 + \beta_1 X \] जर अंदाजित निकाल असा असेल: - \( \beta_0 = -4 \) - \( \beta_1 = 0{,}8 \) तर: \[ z = -4 + 0{,}8X \] \[ p = \frac{1}{1 + e^{-(-4 + 0{,}8X)}} = \frac{1}{1 + e^{4 - 0{,}8X}} \] जर अभ्यासाचे तास \( X = 6 \) असतील तर: \[ z = -4 + 0{,}8(6) = 0{,}8 \] \[ p = \frac{1}{1 + e^{-0{,}8}} \approx 0{,}69 \] निष्कर्ष: दर आठवड्याला ६ तास अभ्यास केल्यास, सुमारे ६९% गुणांसह उत्तीर्ण होण्याची शक्यता आहे. गुणांक अंदाज: किमान वर्ग पद्धत का नाही? रेषीय प्रतिगमनामध्ये, गुणांक अनेकदा किमान वर्ग पद्धत वापरून मोजले जातात. तथापि, लॉजिस्टिक प्रतिगमनामध्ये, भविष्यसूचक आणि संभाव्यता यांच्यातील संबंध अरेखीय असतो, त्यामुळे किमान वर्ग पद्धत आदर्श नाही. लॉजिस्टिक प्रतिगमन सामान्यतः निरीक्षित डेटाची संभाव्यता वाढवणारे गुणांक मूल्य \( \beta \) शोधण्यासाठी कमाल संभाव्यता अंदाज (MLE) वापरते. सारांशतः, बायनरी निरीक्षणे \( y_i \in \{0,1\} \) आणि भाकिते \( p_i \) यांच्यासाठी संभाव्यता खालीलप्रमाणे आहे: \[ L(\beta) = \prod_{i=1}^{n} p_i^{y_i}(1-p_i)^{(1-y_i)} \] नंतर, गणना सोपी करण्यासाठी तिचे लॉग-संभाव्यतेमध्ये रूपांतर केले जाते: \[ \ell(\beta) = \sum_{i=1}^{n} \left[ y_i \ln(p_i) + (1-y_i)\ln(1-p_i) \right] \] \( \ell(\beta) \) कमाल करण्यासाठी \( \beta \) चे मूल्य निवडले जाते. न्यूटन-रॅफसन किंवा ग्रेडियंट डिसेंट यांसारख्या संख्यात्मक पद्धती अनेकदा सांख्यिकीय सॉफ्टवेअरद्वारे वापरल्या जातात. लॉजिस्टिक रिग्रेशनचे फायदे आणि मर्यादा फायदे १. निकाल संभाव्यतेच्या स्वरूपात असतात, त्यामुळे त्यांचे निर्णयांमध्ये रूपांतर करणे सोपे असते. २. ऑड्स रेशोद्वारे गुणांकांचा अर्थ स्पष्ट होतो. ३. बायनरी वर्गीकरण समस्यांसाठी उपयुक्त आणि मल्टिनोमियल/ऑर्डिनलपर्यंत विस्तारित केले जाऊ शकते. मर्यादा १. प्रेडिक्टर्स आणि लॉग ऑड्स यांच्यात रेषीय संबंध गृहीत धरते, थेट संभाव्यतेशी नाही. २. जर मल्टिकोलिनिअरिटी किंवा अत्यंत असंतुलित डेटा असेल तर समस्या निर्माण होऊ शकते. ३. अत्यंत गुंतागुंतीच्या संबंधांच्या नमुन्यांसाठी, इतर नॉन-लिनियर पद्धती (उदा., रँडम फॉरेस्ट किंवा न्यूरल नेटवर्क) अधिक श्रेष्ठ असू शकतात. निष्कर्ष: लॉजिस्टिक रिग्रेशन सूत्र मूलतः संभाव्यता मिळवण्यासाठी प्रेडिक्टर व्हेरिएबल्सच्या लिनियर कॉम्बिनेशनला सिग्मॉइड फंक्शनसोबत जोडते. सर्वात सामान्य स्वरूप आहे: \[ p = \frac{1}{1 + e^{-(\beta_0 + \beta_1 X_1 + \cdots + \beta_k X_k)}} \] किंवा लॉजिट स्वरूपात: \[ \ln\left(\frac{p}{1-p}\right) = \beta_0 + \beta_1 X_1 + \cdots + \beta_k X_k \] सूत्राची ही दोन स्वरूपे समजून घेऊन, आपण ऑड्स रेशो \( e^{\beta} \) द्वारे व्हेरिएबल्सच्या प्रभावाचा अर्थ लावत विविध बायनरी क्लासिफिकेशन समस्यांसाठी प्रेडिक्टिव्ह मॉडेल्स तयार करू शकतो. लॉजिस्टिक रिग्रेशन डेटा विश्लेषणात एक महत्त्वाचा पाया आहे कारण ते सोपे, शक्तिशाली आणि अर्थपूर्ण आहे—आणि अनेकदा अधिक जटिल मॉडेल्सचा प्रयत्न करण्यापूर्वी ही पहिली पायरी असते. तुमची इच्छा असल्यास, मी कमी डेटा (टेबल) वापरून केलेल्या गणनेचे उदाहरण, किंवा पायथॉन/आर मधील लॉजिस्टिक रिग्रेशनच्या अंमलबजावणीचे उदाहरण, आउटपुटच्या स्पष्टीकरणासह जोडू शकेन.