ലീസ്റ്റ് സ്ക്വയർ രീതി

ലീസ്റ്റ് സ്ക്വയേഴ്‌സ് രീതി: കണക്കാക്കലിനുള്ള ഒരു ഗണിതശാസ്ത്ര സമീപനം

പെൻഡഹുലുവൻ

ഒരു റിഗ്രഷൻ മോഡലിൽ, യഥാർത്ഥ മൂല്യങ്ങൾക്കും മോഡൽ പ്രവചിച്ച മൂല്യങ്ങൾക്കും ഇടയിലുള്ള വർഗ്ഗീകരിച്ച പിശകുകളുടെ ആകെത്തുക കുറച്ചുകൊണ്ട്, പാരാമീറ്ററുകൾ കണക്കാക്കാൻ ഉപയോഗിക്കുന്ന ഒരു സ്റ്റാറ്റിസ്റ്റിക്കൽ സാങ്കേതികതയാണ് ലീസ്റ്റ് സ്ക്വയറുകളുടെ രീതി. ഈ രീതി വളരെ ജനപ്രിയമാണ്, കൂടാതെ സാമ്പത്തിക ശാസ്ത്രം, എഞ്ചിനീയറിംഗ്, ജീവശാസ്ത്രം, സാമൂഹിക ശാസ്ത്രം തുടങ്ങിയ വിവിധ മേഖലകളിൽ ഇത് പതിവായി ഉപയോഗിക്കുന്നു. 19-ാം നൂറ്റാണ്ടിന്റെ തുടക്കത്തിൽ അഡ്രിയൻ-മാരി ലെജൻഡ്രെയാണ് ലീസ്റ്റ് സ്ക്വയറുകളുടെ ആശയം ആദ്യമായി മുന്നോട്ടുവച്ചത്, പിന്നീട് കാൾ ഫ്രീഡ്രിക്ക് ഗൗസ് ഇത് കൂടുതൽ വികസിപ്പിച്ചെടുത്തു.

അടിസ്ഥാന ധാരണ

പൊതുവേ, ലീസ്റ്റ് സ്‌ക്വയറുകളുടെ രീതി, അവശിഷ്ടങ്ങളുടെ സ്‌ക്വയറുകളുടെ ആകെത്തുക അല്ലെങ്കിൽ പ്രവചന പിശകുകൾ കുറയ്ക്കുന്നതിലൂടെ ഒരു ഡാറ്റാ സെറ്റിന് ഏറ്റവും അനുയോജ്യമായ റിഗ്രഷൻ ലൈൻ കണ്ടെത്തുന്നതിന് ലക്ഷ്യമിടുന്നു. അവശിഷ്ടം എന്നത് നിരീക്ഷിച്ച മൂല്യവും പ്രവചിച്ച മൂല്യവും തമ്മിലുള്ള വ്യത്യാസമാണ്.

\((x_1, y_1), (x_2, y_2), …, (x_n, y_n)\) എന്നീ ജോഡി നിരീക്ഷണങ്ങൾ അടങ്ങിയ ഒരു ഡാറ്റാ സെറ്റ് നമുക്കുണ്ടെങ്കിൽ, വർഗ്ഗീകരിച്ച പിശകുകളുടെ ആകെത്തുക sum\( \sum_{i=1}^{n} (y_i – (mx_i + b))^2 \) കുറയ്ക്കുന്ന \(y = mx + b\) എന്ന വരി കണ്ടെത്തുക എന്നതാണ് നമ്മുടെ ലക്ഷ്യം.

ഈ രീതി സിംപിൾ ലീനിയർ റിഗ്രഷനിലും മൾട്ടിപ്പിൾ ലീനിയർ റിഗ്രഷനിലും പ്രയോഗിക്കാവുന്നതാണ്. സിംപിൾ ലീനിയർ റിഗ്രഷനിൽ, നമുക്ക് ഒരു സ്വതന്ത്ര വേരിയബിൾ (x) മാത്രമേ ഉള്ളൂ, അതേസമയം മൾട്ടിപ്പിൾ ലീനിയർ റിഗ്രഷനിൽ ഒന്നിലധികം സ്വതന്ത്ര വേരിയബിളുകൾ ഉൾപ്പെടുന്നു.

സിമ്പിൾ ലീനിയർ റിഗ്രഷൻ

ലളിതമായ ലീനിയർ റിഗ്രഷനിൽ നിന്ന് നമുക്ക് ആരംഭിക്കാം. നമുക്ക് ഒരു ഡാറ്റാ സെറ്റ് ഉണ്ടെന്ന് കരുതുക \((x_1, y_1), (x_2, y_2), …, (x_n, y_n)). നമുക്ക് അനുയോജ്യമാക്കാൻ ആഗ്രഹിക്കുന്ന ലളിതമായ ലീനിയർ റിഗ്രഷൻ മോഡൽ ഇതാണ്:

\[ y = mx + b + \എപ്സിലോൺ \]

ഇവിടെ \( m \) എന്നത് ചരിവും, \( b \) എന്നത് ഇന്റർസെപ്റ്റും, \( \epsilon \) എന്നത് ക്രമരഹിത പിശകുമാണ്.

ഏറ്റവും കുറഞ്ഞ സ്ക്വയറുകൾ രീതി ഉപയോഗിച്ച്, സ്ക്വയർ ചെയ്ത പിശക് ഫംഗ്ഷൻ ചെറുതാക്കുന്നതിലൂടെ നമുക്ക് \( m \) ഉം \( b \) ഉം പാരാമീറ്ററുകളുടെ എസ്റ്റിമേറ്റ് കണ്ടെത്താൻ കഴിയും:

\[ S(m, b) = \sum_{i=1}^{n} (y_i – (mx_i + b))^2 \]

\( S(m, b) \) ചെറുതാക്കാൻ, \( m \) ഉം \( b \) ഉം തമ്മിലുള്ള \( S \) ന്റെ ഭാഗിക ഡെറിവേറ്റീവുകൾ നമുക്ക് കണ്ടെത്താം, തുടർന്ന് \( m \) ഉം \( b \) ഉം ഉപയോഗിച്ച് ഈ സമവാക്യം പരിഹരിക്കാം:

\[ \തുടരുക{വിന്യസിച്ചു}
\frac{\ഭാഗിക S}{\ഭാഗിക m} &= -2 \sum_{i=1}^{n} x_i (y_i – (mx_i + b)) = 0 \\
\frac{\ഭാഗിക S}{\ഭാഗിക b} &= -2 \sum_{i=1}^{n} (y_i – (mx_i + b)) = 0
\അവസാനം{വിന്യസിച്ചു} \]

ലളിതവൽക്കരണത്തിനുശേഷം, നമുക്ക് ഇനിപ്പറയുന്ന രണ്ട് സാധാരണ സമവാക്യങ്ങൾ ലഭിക്കും:

\[ \തുടരുക{വിന്യസിച്ചു}
n\bar{y} &= m \sum_{i=1}^{n} x_i + nb \\
\sum_{i=1}^{n}x_i y_i &= m \sum_{i=1}^{n}x_i^2 + b \sum_{i=1}^{n}x_i
\അവസാനം{വിന്യസിച്ചു} \]

മുകളിലുള്ള സമവാക്യങ്ങളുടെ സിസ്റ്റം പരിഹരിക്കുന്നതിലൂടെ, വർഗ്ഗീകരിച്ച പിശക് കുറയ്ക്കുന്ന \( m \) ഉം \( b \) ഉം മൂല്യങ്ങൾ നമുക്ക് കണ്ടെത്താൻ കഴിയും.

മൾട്ടിപ്പിൾ ലീനിയർ റിഗ്രഷൻ

ഒന്നിലധികം ലീനിയർ റിഗ്രഷനിൽ, നമുക്ക് ഒന്നിലധികം സ്വതന്ത്ര വേരിയബിളുകൾ ഉള്ള ഒരു സാഹചര്യം നേരിടുന്നു. നമുക്ക് ഒരു ട്യൂപ്പിളിന്റെ രൂപത്തിൽ ഡാറ്റ ഉണ്ടെന്ന് കരുതുക \((x_{i1}, x_{i2}, …, x_{ik}, y_i)\). നമ്മൾ ഉപയോഗിക്കുന്ന റിഗ്രഷൻ മോഡൽ ഇതാണ്:

\[ y = b_0 + b_1 x_1 + b_2 x_2 + … + b_k x_k + \എപ്സിലോൺ \]

ഈ സമവാക്യം മാട്രിക്സ് രൂപത്തിൽ ഇങ്ങനെ എഴുതാം:

\[ \mathbf{y} = \mathbf{X} \mathbf{b} + \mathbf{\epsilon} \]

എവിടെ:
– \( \mathbf{y} \) എന്നത് നിരീക്ഷിച്ച y മൂല്യങ്ങളുടെ ഒരു കോളം വെക്‌ടറാണ്.
– \( \mathbf{X} \) എന്നത് നിരീക്ഷിച്ച x മൂല്യങ്ങളുടെ ഒരു മാട്രിക്സ് ആണ് (ഇന്റർസെപ്റ്റിനുള്ള കോളം 1 ഉൾപ്പെടെ).
– \( \mathbf{b} \) എന്നത് പരാമീറ്ററുകളുടെ ഒരു കോളം വെക്‌ടറാണ് (\( b_0 \) ഉൾപ്പെടെ).

ഏറ്റവും കുറഞ്ഞ ചതുര രീതിയുടെ ലക്ഷ്യം താഴെ പറയുന്ന ക്വാഡ്രാറ്റിക് പിശക് ഫംഗ്ഷൻ ചെറുതാക്കുക എന്നതാണ്:

\[ S(\mathbf{b}) = (\mathbf{y} – \mathbf{Xb})^T (\mathbf{y} – \mathbf{Xb}) \]

ഈ ഫംഗ്ഷൻ ചെറുതാക്കാൻ, \( \mathbf{b} \) നെ അപേക്ഷിച്ച് S ന്റെ ഭാഗിക ഡെറിവേറ്റീവ് എടുത്ത് പൂജ്യമായി സജ്ജമാക്കുന്നു. ഇത് ഒന്നിലധികം രേഖീയ റിഗ്രഷനുള്ള സാധാരണ സമവാക്യം നൽകുന്നു:

\[ \mathbf{X}^T \mathbf{Xb} = \mathbf{X}^T \mathbf{y} \]

മുകളിലുള്ള സമവാക്യങ്ങളുടെ സിസ്റ്റം പരിഹരിക്കുന്നതിലൂടെ, നമുക്ക് \( \mathbf{b} \) എന്ന പാരാമീറ്ററിന്റെ ഏകദേശ കണക്ക് ലഭിക്കും:

\[ \mathbf{b} = (\mathbf{X}^T \mathbf{X})^{-1} \mathbf{X}^T \mathbf{y} \]

ഗുണങ്ങളും പരിമിതികളും

ഏറ്റവും കുറഞ്ഞ ചതുര രീതിക്ക് നിരവധി ഗുണങ്ങളുണ്ട്. ഇത് ഉപയോഗിക്കാൻ വളരെ കാര്യക്ഷമവും ലളിതവുമായ ഒരു രീതിയാണ്. \( \mathbf{X}^T \mathbf{X} \) വിപരീതമാണെങ്കിൽ ഇത് ഒരു സവിശേഷ പരിഹാരം വാഗ്ദാനം ചെയ്യുന്നു, ഇത് പല പ്രായോഗിക പ്രയോഗങ്ങൾക്കും വിശ്വസനീയമാക്കുന്നു.

എന്നിരുന്നാലും, ഏറ്റവും കുറഞ്ഞ ചതുര രീതിക്കും പരിമിതികളുണ്ട്. വർഗ്ഗീകരിച്ച പിശക് ചെറിയ വ്യത്യാസങ്ങളെക്കാൾ വലിയ വ്യത്യാസങ്ങൾക്ക് പ്രാധാന്യം നൽകുന്നതിനാൽ ഇത് ഔട്ട്‌ലൈയറുകൾക്ക് വളരെ സെൻസിറ്റീവ് ആണ്. കൂടാതെ, നല്ല ഫലങ്ങൾക്കായി പിശകുകൾക്ക് പൂജ്യം ശരാശരിയും സ്ഥിരമായ വ്യതിയാനവും ഉള്ള ഒരു സാധാരണ വിതരണമുണ്ടെന്ന ക്ലാസിക്കൽ അനുമാനം പാലിക്കേണ്ടതുണ്ട്.

പ്രായോഗിക പ്രയോഗങ്ങൾ

ഡാറ്റാ ട്രെൻഡ് വിശകലനം, പ്രവചനം, മെഷീൻ ലേണിംഗ് എന്നിവയിൽ പ്രവചന മോഡലുകൾ നിർമ്മിക്കുന്നതിന് ലീസ്റ്റ് സ്‌ക്വയർ രീതി പതിവായി ഉപയോഗിക്കുന്നു. സാമ്പത്തിക വ്യവസായത്തിൽ, സ്റ്റോക്ക് വിലകളോ വിപണി പ്രകടനമോ പ്രവചിക്കാൻ ലീസ്റ്റ് സ്‌ക്വയർ രീതി ഉപയോഗിക്കുന്നു. വൈദ്യശാസ്ത്രത്തിൽ, മരുന്നിന്റെ അളവും രോഗിയുടെ പ്രതികരണവും തമ്മിലുള്ള ബന്ധം മാതൃകയാക്കാൻ ഇത് ഉപയോഗിക്കുന്നു. സാമൂഹിക ശാസ്ത്രങ്ങളിൽ, വിദ്യാഭ്യാസം, വരുമാനം തുടങ്ങിയ വേരിയബിളുകൾ തമ്മിലുള്ള ബന്ധം മനസ്സിലാക്കാൻ ഇത് സഹായിക്കുന്നു.

ഉപസംഹാരം

സ്ഥിതിവിവരക്കണക്കുകളിലും ഡാറ്റ വിശകലനത്തിലും അടിസ്ഥാന സാങ്കേതിക വിദ്യകളിൽ ഒന്നാണ് ലീസ്റ്റ് സ്‌ക്വയറുകൾ രീതി. ആശയത്തിൽ ലളിതമാണെങ്കിലും, വേരിയബിളുകൾ തമ്മിലുള്ള ബന്ധങ്ങളെ മോഡലിംഗ് ചെയ്യുന്നതിലും മനസ്സിലാക്കുന്നതിലും ഈ രീതി ഗണ്യമായ ശക്തി നൽകുന്നു. വൈവിധ്യമാർന്ന മേഖലകളിൽ വ്യാപകമായ ആപ്ലിക്കേഷനുകൾ ഉള്ളതിനാൽ, പ്രൊഫഷണലുകൾക്കും ഗവേഷകർക്കും ഈ രീതിയെക്കുറിച്ചുള്ള ഉറച്ച ധാരണ വിലമതിക്കാനാവാത്തതാണ്. ബിഗ് ഡാറ്റ യുഗത്തിൽ വർദ്ധിച്ചുവരുന്ന ഡാറ്റയുടെ അളവ് അനുസരിച്ച്, ലീസ്റ്റ് സ്‌ക്വയറുകൾ പോലുള്ള ക്ലാസിക്കൽ രീതികളുടെ പൊരുത്തപ്പെടുത്തലും പ്രയോഗവും കൂടുതൽ പ്രസക്തമാകും.