ትንሹ ካሬ ዘዴ፡ ለግምት የሂሳብ አቀራረብ
ፔንዳሁሉአን
የዝቅተኛ ካሬዎች ዘዴ በእውነተኛ እሴቶች እና በሞዴሉ በተተነበዩት እሴቶች መካከል ያሉትን የካሬ ስህተቶች ድምር በመቀነስ በሪግሬሽን ሞዴል ውስጥ መለኪያዎችን ለመገመት የሚያገለግል የስታቲስቲክስ ዘዴ ነው። ይህ ዘዴ በጣም ተወዳጅ ሲሆን እንደ ኢኮኖሚክስ፣ ኢንጂነሪንግ፣ ባዮሎጂ እና ማህበራዊ ሳይንስ ባሉ የተለያዩ ዘርፎች በተደጋጋሚ ጥቅም ላይ ይውላል። የዝቅተኛ ካሬዎች ጽንሰ-ሀሳብ ለመጀመሪያ ጊዜ የቀረበው በ19ኛው ክፍለ ዘመን መጀመሪያ ላይ በአድሪን-ማሪ ሌጀንድሬ ሲሆን በኋላም በካርል ፍሬድሪክ ጋውስ የበለጠ ተዘጋጅቷል።
መሰረታዊ ግንዛቤ
በአጠቃላይ፣ የዝቅተኛ ካሬዎች ዘዴ የተረፈውን የካሬዎች ድምር ወይም የትንበያ ስህተቶችን በመቀነስ ለውሂብ ስብስብ በጣም ተስማሚ የሆነውን የሪግሬሽን መስመር ለማግኘት ያለመ ነው። የቀረው የሚለካው በሚታየው እሴት እና በተገመተው እሴት መካከል ያለው ልዩነት ነው።
የውሂብ ስብስብ የክትትል ጥንዶችን \((x_1፣ y_1)፣ (x_2፣ y_2)፣ …፣ (x_n፣ y_n)\ የያዘ ከሆነ፣ ግባችን የስኩዌር ስህተቶች ድምርን የሚቀንስ \(y = mx + b\) መስመር ማግኘት ነው። ይህም የስኩዌር ስህተቶች ድምርን ይቀንሳል\( \sum_{i=1}^{n} (y_i – (mx_i + b))^2 \)።
ይህ ዘዴ ለሁለቱም ቀላል መስመራዊ ሪግሬሽን እና በርካታ መስመራዊ ሪግሬሽን ላይ ሊተገበር ይችላል። በቀላል መስመራዊ ሪግሬሽን፣ አንድ ገለልተኛ ተለዋዋጭ (x) ብቻ ነው ያለን፣ በርካታ መስመራዊ ሪግሬሽን ደግሞ ከአንድ በላይ ገለልተኛ ተለዋዋጭን ያካትታል።
ቀላል መስመራዊ ወደኋላ መመለስ
በቀላል መስመራዊ ሪግሬሽን እንጀምር። የውሂብ ስብስብ \((x_1፣ y_1)፣ (x_2፣ y_2)፣ …፣ (x_n፣ y_n) አለን እንበል። መገጣጠም የምንፈልገው ቀላል መስመራዊ ሪግሬሽን ሞዴል፡
\[y = mx + b + \epsilon \]
የት \( m \) ቁልቁለቱ፣ \( b \) መቆራረጡ፣ እና \( \epsilon \) የዘፈቀደ ስህተት ነው።
የዝቅተኛ ካሬ ዘዴን በመጠቀም፣ የስኩዌር ስህተት ተግባርን በመቀነስ የፓራሜትር \(m \) እና \(b \) ግምቶችን ማግኘት እንችላለን፡
\[ S(m, b) = \sum_{i=1}^{n} (y_i – (mx_i + b))^2 \]
\( S(m፣ b) \\) ለመቀነስ፣ የ \( S \) ከ\( m \) እና \( b \\ ጋር በተያያዘ ከፊል ተዋጽኦዎችን እናገኛለን፣ ከዚያም ለ \( m \) እና \( b \\) ይህንን እኩልታ እንፈታለን፡
\[ \begin{aligned}
\frac{\partial S}{\partial m} &= -2 \sum_{i=1}^{n} x_i (y_i – (mx_i + b)) = 0 \\
\frac{\partial S}{\partial b} &= -2 \sum_{i=1}^{n} (y_i – (mx_i + b)) = 0
\end{aligned} \]
ቀለል ካደረግን በኋላ የሚከተሉትን ሁለት መደበኛ እኩልታዎች እናገኛለን፡
\[ \begin{aligned}
n\bar{y} &= m \sum_{i=1}^{n} x_i + nb \\
\sum_{i=1}^{n}x_i y_i &= m \sum_{i=1}^{n}x_i^2 + b \sum_{i=1}^{n}x_i
\end{aligned} \]
ከላይ ያሉትን የእኩልታዎች ስርዓት በመፍታት፣ የስኩዌር ስህተቱን የሚቀንሱትን የ\( m \) እና \( b \) እሴቶችን ማግኘት እንችላለን።
ባለብዙ መስመራዊ ወደኋላ መመለስ
በብዙ መስመራዊ ሪግሬሽን፣ ከአንድ በላይ ገለልተኛ ተለዋዋጭ ያለንበት ሁኔታ ያጋጥመናል። በtuple \((x_{i1}፣ x_{i2}፣ …፣ x_{ik}፣ y_i)\ መልክ ውሂብ አለን እንበል። የምንጠቀመው ሪግሬሽን ሞዴል፡
\[y = b_0 + b_1 x_1 + b_2 x_2 + … + b_k x_k + \epsilon \]
ይህ እኩልታ በማትሪክስ መልክ እንደሚከተለው ሊጻፍ ይችላል፡
\[ \mathbf{y} = \mathbf{X} \mathbf{b} + \mathbf{\epsilon} \]
የት፡
– \( \mathbf{y} \) የተስተዋሉ የy እሴቶች አምድ ቬክተር ነው።
– \( \mathbf{X} \) የተስተዋሉ x እሴቶች \\ ማትሪክስ ነው (ለማቋረጥ አምድ 1ን ጨምሮ)።
– \( \mathbf{b} \) የፓራሜትሮች (\( b_0 \)ን ጨምሮ) የአምድ ቬክተር ነው።
የዝቅተኛ ካሬዎች ዘዴ ግብ የሚከተሉትን የኳድራቲክ ስህተት ተግባር መቀነስ ነው፡
\[ S (\mathbf{b}) = (\mathbf{y} - \mathbf{Xb})^T (\mathbf{y} - \mathbf{Xb}) \]
ይህንን ተግባር ለመቀነስ፣ ከ\( \mathbf{b} \) አንፃር የS ከፊል ተዋጽኦን ወስደን ወደ ዜሮ እናስቀምጠዋለን። ይህም ለብዙ መስመራዊ ተዛምዶ መደበኛ እኩልታ ያስገኛል፡
\[ \mathbf{X}^T \mathbf{Xb} = \mathbf{X}^T \mathbf{y} \]
ከላይ የተጠቀሰውን የእኩልታዎች ስርዓት በመፍታት፣ የመለኪያውን ግምታዊ ዋጋ ማግኘት እንችላለን \( \mathbf{b} \):
\[ \mathbf{b} = (\mathbf{X}^T \mathbf{X})^{-1} \mathbf{X}^T \mathbf{y} \]
ጥቅሞች እና ገደቦች
ትንሹ ካሬ ዘዴ ብዙ ጥቅሞች አሉት። ለመጠቀም በጣም ቀልጣፋ እና ቀላል ዘዴ ነው። \( \mathbf{X}^T \mathbf{X} \) የማይገለበጥ ከሆነ ልዩ የሆነ መፍትሄ ይሰጣል፣ ይህም ለብዙ ተግባራዊ አፕሊኬሽኖች አስተማማኝ ያደርገዋል።
ሆኖም ግን፣ የዝቅተኛ ካሬዎች ዘዴም ገደቦች አሉት። ለውጫዊ ነገሮች በጣም ስሜታዊ ነው ምክንያቱም የስኩዌር ስህተት ከትንንሽ ይልቅ ትላልቅ ልዩነቶችን ያጎላል። በተጨማሪም፣ ስህተቶቹ መደበኛ ስርጭት ያላቸው እና ዜሮ አማካይ እና የማያቋርጥ ልዩነት ያላቸው ናቸው የሚለው ክላሲካል ግምት ጥሩ ውጤት ለማግኘት መሟላት አለበት።
ተግባራዊ አፕሊኬሽኖች
ትንሹ ካሬ ዘዴ በተደጋጋሚ የውሂብ አዝማሚያ ትንተና፣ ትንበያ እና የማሽን መማሪያ ላይ ጥቅም ላይ ይውላል። በፋይናንስ ኢንዱስትሪ ውስጥ ትንሹ ካሬ ዘዴ የአክሲዮን ዋጋዎችን ወይም የገበያ አፈጻጸምን ለመተንበይ ይጠቅማል። በሕክምና ውስጥ፣ የመድኃኒት መጠን እና የታካሚ ምላሽ መካከል ያለውን ግንኙነት ለመምሰል ይጠቅማል። በማህበራዊ ሳይንስ ውስጥ፣ እንደ ትምህርት እና ገቢ ባሉ ተለዋዋጮች መካከል ያለውን ግንኙነት ለመረዳት ይረዳል።
ከሲምፑላን
የዝቅተኛ ካሬ ዘዴ በስታቲስቲክስ እና በመረጃ ትንተና ውስጥ ካሉት መሠረታዊ ቴክኒኮች አንዱ ነው። በፅንሰ-ሀሳብ ቀላል ቢሆንም፣ ይህ ዘዴ በተለዋዋጮች መካከል ያለውን ግንኙነት በሞዴሊንግ እና በመረዳት ረገድ ከፍተኛ ኃይል ይሰጣል። በተለያዩ መስኮች ሰፊ አፕሊኬሽኖች ስላሉት፣ የዚህን ዘዴ ጠንካራ ግንዛቤ ለባለሙያዎችም ሆነ ለተመራማሪዎች እጅግ ጠቃሚ ነው። ወደፊት፣ በትልቅ የውሂብ ዘመን ውስጥ የተገኘው የውሂብ መጠን እየጨመረ በመምጣቱ፣ እንደ ትንሹ ካሬ ያሉ ክላሲካል ዘዴዎችን መላመድ እና አተገባበር ከጊዜ ወደ ጊዜ ተገቢ ይሆናል።
