न्यूनतम वर्ग विधि

न्यूनतम वर्ग विधि: अनुमान लगाने के लिए एक गणितीय दृष्टिकोण

पेंडाहुलुआन

न्यूनतम वर्ग विधि एक सांख्यिकीय तकनीक है जिसका उपयोग प्रतिगमन मॉडल में मापदंडों का अनुमान लगाने के लिए किया जाता है। इसमें वास्तविक मानों और मॉडल द्वारा अनुमानित मानों के बीच वर्ग त्रुटियों के योग को न्यूनतम किया जाता है। यह विधि बहुत लोकप्रिय है और अर्थशास्त्र, इंजीनियरिंग, जीव विज्ञान और सामाजिक विज्ञान जैसे विभिन्न क्षेत्रों में इसका व्यापक रूप से उपयोग किया जाता है। न्यूनतम वर्ग की अवधारणा को सर्वप्रथम 19वीं शताब्दी के आरंभ में एड्रियन-मैरी लेजेंड्रे द्वारा प्रस्तावित किया गया था और बाद में कार्ल फ्रेडरिक गॉस द्वारा इसे और विकसित किया गया।

बुनियादी समझ

सामान्यतः, न्यूनतम वर्ग विधि का उद्देश्य अवशिष्टों या पूर्वानुमान त्रुटियों के वर्गों के योग को न्यूनतम करके डेटा सेट के लिए सर्वोत्तम प्रतिगमन रेखा ज्ञात करना है। अवशिष्ट प्रेक्षित मान और पूर्वानुमानित मान के बीच का अंतर होता है।

यदि हमारे पास प्रेक्षणों के युग्मों से युक्त एक डेटा सेट है \((x_1, y_1), (x_2, y_2), …, (x_n, y_n)\), तो हमारा लक्ष्य वह रेखा \(y = mx + b\) ज्ञात करना है जो वर्ग त्रुटियों के योग को न्यूनतम करती है sum\( \sum_{i=1}^{n} (y_i – (mx_i + b))^2 \)।

यह विधि सरल रैखिक प्रतिगमन और बहु ​​रैखिक प्रतिगमन दोनों पर लागू की जा सकती है। सरल रैखिक प्रतिगमन में, हमारे पास केवल एक स्वतंत्र चर (x) होता है, जबकि बहु रैखिक प्रतिगमन में एक से अधिक स्वतंत्र चर शामिल होते हैं।

सरल रैखिक प्रतिगमन

चलिए सरल रैखिक प्रतिगमन से शुरू करते हैं। मान लीजिए हमारे पास एक डेटा सेट है \((x_1, y_1), (x_2, y_2), …, (x_n, y_n))। जिस सरल रैखिक प्रतिगमन मॉडल को हम फिट करना चाहते हैं वह इस प्रकार है:

[ y = mx + b + Ωpsilon \]

जहां \( m \) ढलान है, \( b \) अवरोधन है, और \( \epsilon \) यादृच्छिक त्रुटि है।

न्यूनतम वर्ग विधि का उपयोग करके, हम वर्ग त्रुटि फ़ंक्शन को न्यूनतम करके पैरामीटर \( m \) और \( b \) के अनुमान ज्ञात कर सकते हैं:

[ S(m, b) = \sum_{i=1}^{n} (y_i – (mx_i + b))^2 \]

\( S(m, b) \) को न्यूनतम करने के लिए, हम \( S \) के सापेक्ष \( m \) और \( b \) के आंशिक अवकलन ज्ञात करते हैं, और फिर इस समीकरण को \( m \) और \( b \) के लिए हल करते हैं:

\[ \begin{aligned}
\frac{\partial S}{\partial m} &= -2 \sum_{i=1}^{n} x_i (y_i – (mx_i + b)) = 0 \\
\frac{\partial S}{\partial b} &= -2 \sum_{i=1}^{n} (y_i – (mx_i + b)) = 0
\end{aligned} \]

सरलीकरण के बाद, हमें निम्नलिखित दो सामान्य समीकरण प्राप्त होते हैं:

\[ \begin{aligned}
n\bar{y} &= m \sum_{i=1}^{n} x_i + nb \\
\sum_{i=1}^{n}x_i y_i &= m \sum_{i=1}^{n}x_i^2 + b \sum_{i=1}^{n}x_i
\end{aligned} \]

उपरोक्त समीकरणों की प्रणाली को हल करके, हम \( m \) और \( b \) के मान ज्ञात कर सकते हैं जो वर्ग त्रुटि को न्यूनतम करते हैं।

एकाधिक रेखीय प्रतिगमन

मल्टीपल लीनियर रिग्रेशन में, हमें एक ऐसी स्थिति का सामना करना पड़ता है जहाँ हमारे पास एक से अधिक स्वतंत्र चर होते हैं। मान लीजिए हमारे पास टपल \((x_{i1}, x_{i2}, …, x_{ik}, y_i)\) के रूप में डेटा है। हम जिस रिग्रेशन मॉडल का उपयोग करते हैं वह इस प्रकार है:

[ y = b_0 + b_1 x_1 + b_2 x_2 + … + b_k x_k + \epsilon \]

इस समीकरण को मैट्रिक्स रूप में इस प्रकार लिखा जा सकता है:

\[ \mathbf{y} = \mathbf{X} \mathbf{b} + \mathbf{\epsilon} \]

कहाँ:
– \( \mathbf{y} \) प्रेक्षित y मानों का एक स्तंभ सदिश है।
– \( \mathbf{X} \) प्रेक्षित x मानों का एक मैट्रिक्स है (जिसमें अवरोधन के लिए कॉलम 1 शामिल है)।
– \( \mathbf{b} \) पैरामीटरों का एक कॉलम वेक्टर है (जिसमें \( b_0 \) भी शामिल है)।

न्यूनतम वर्ग विधि का लक्ष्य निम्नलिखित द्विघात त्रुटि फलन को न्यूनतम करना है:

\[ S(\mathbf{b}) = (\mathbf{y} - \mathbf{Xb})^T (\mathbf{y} - \mathbf{Xb}) \]

इस फ़ंक्शन को न्यूनतम करने के लिए, हम S का \( \mathbf{b} \) के सापेक्ष आंशिक अवकलन लेते हैं और इसे शून्य के बराबर सेट करते हैं। इससे बहु रैखिक प्रतिगमन के लिए सामान्य समीकरण प्राप्त होता है:

[ \mathbf{X}^T \mathbf{Xb} = \mathbf{X}^T \mathbf{y} \]

उपरोक्त समीकरणों की प्रणाली को हल करके, हम पैरामीटर \( \mathbf{b} \) का अनुमान प्राप्त कर सकते हैं:

\[ \mathbf{b} = (\mathbf{X}^T \mathbf{X})^{-1} \mathbf{X}^T \mathbf{y} \]

लाभ और सीमाएँ

न्यूनतम वर्ग विधि के अनेक लाभ हैं। यह एक अत्यंत कुशल और उपयोग में आसान विधि है। यदि \( \mathbf{X}^T \mathbf{X} \) व्युत्क्रमणीय है, तो यह एक अद्वितीय हल प्रदान करती है, जिससे यह कई व्यावहारिक अनुप्रयोगों के लिए विश्वसनीय बन जाती है।

हालांकि, न्यूनतम वर्ग विधि की भी कुछ सीमाएँ हैं। यह असामान्य मानों के प्रति बहुत संवेदनशील है क्योंकि वर्ग त्रुटि छोटे अंतरों की तुलना में बड़े अंतरों पर अधिक बल देती है। इसके अलावा, अच्छे परिणामों के लिए यह आवश्यक है कि त्रुटियों का सामान्य वितरण हो, जिसका माध्य शून्य और प्रसरण स्थिर हो।

व्यावहारिक अनुप्रयोगों

डेटा ट्रेंड विश्लेषण, पूर्वानुमान और मशीन लर्निंग में भविष्यसूचक मॉडल बनाने के लिए न्यूनतम वर्ग विधि का अक्सर उपयोग किया जाता है। वित्तीय उद्योग में, न्यूनतम वर्ग विधि का उपयोग शेयर की कीमतों या बाजार के प्रदर्शन की भविष्यवाणी करने के लिए किया जाता है। चिकित्सा में, इसका उपयोग दवा की खुराक और रोगी की प्रतिक्रिया के बीच संबंध को मॉडल करने के लिए किया जाता है। सामाजिक विज्ञान में, यह शिक्षा और आय जैसे चरों के बीच संबंध को समझने में सहायक होता है।

निष्कर्ष

न्यूनतम वर्ग विधि सांख्यिकी और डेटा विश्लेषण की मूलभूत तकनीकों में से एक है। अवधारणा में सरल होते हुए भी, यह विधि चरों के बीच संबंधों को मॉडल करने और समझने में महत्वपूर्ण भूमिका निभाती है। विभिन्न क्षेत्रों में इसके व्यापक अनुप्रयोगों के कारण, पेशेवरों और शोधकर्ताओं दोनों के लिए इस विधि की ठोस समझ अत्यंत महत्वपूर्ण है। भविष्य में, बिग डेटा युग में डेटा की बढ़ती मात्रा के साथ, न्यूनतम वर्ग जैसी पारंपरिक विधियों का अनुकूलन और अनुप्रयोग और भी अधिक प्रासंगिक हो जाएगा।